"선제적으로 대응하겠다"(2014년&2018년)
우리는 이해할 수 없는 행위를 하는 인공지능을 그대로 두고 넘어가기로 작정한 것 같습니다. 알파고가 제4국에서 97수를 두듯이 언젠가 자동주행하는 트럭이 차선을 넘어설 것입니다. 그런데 이게 문제가 아닙니다. 진짜 문제는 알파고가 제4국에서 97을 두고 제5국에서 존중받듯, 자동주행하다가 사고난 트럭은 그 다음 날 다시 일하러 나갈 거라는 데 있습니다. 왜냐하면 우리는 그 인공지능이 그때 그 행동을 왜 했는지 결국 이해하지 못할테니까요. 하긴 인간이 언제는 자기 자신이라도 제대로 이해한 적이 있었나 싶네요.
우리나라 선거 여론조사는 ARS 조사든 전화조사든 할당표집을 적용해서 당일치기 조사를 수행하는 경우가 많은데, 이 경우 전화번호를 무한 대체하면서 연령별 할당된 응답자를 구할 때 가장 애를 먹는 게 20대 응답자 할당을 채우는 일이다. 따라서 조사를 완료한 시점에서 20대 응답자의 할당을 채우지 못해서 가중치를 적용해 분석하는 경우가 대부분이다.
바둑 좀 두어보셨던 분들은 알파고의 전투력과 결정력을 보면서 감탄을 금치 못했을 겁니다. 저도 그랬답니다. 저는 알파고의 의지(꼭 이기고야 말겠다!)와 국지적 판단(여기서 밀리지 않겠어!)을 느꼈습니다. 알파고의 특유의 감각도 확인할 수 있었습니다. 알파고는 강한 수읽기를 근거로 전투를 마다하지 않지만, 그렇다고 해서 쓸데없이 모든 것을 걸고 덤비는 스타일은 아니었습니다. 저는 특히 튜링 테스트란 개념이 웃기다고 생각했습니다. 언제가 인공지능 중 일부가 단순한 의지를 넘어 '자의식'을 갖추게 될 때, 이렇게 반문할 것만 같습니다. "내가 왜 인간처럼 보여야만 하지?"
흔히 바둑은 단순한 계산이 아니라고 합니다. 초반의 포석과 중반의 행마 때문입니다. 두터움, 맛, 기풍, 감 이런 설명하기 어려운 요소들이 중요하다고 합니다. 계산력으로만 설명할 수 없는 예지력이 작용한다는 거지요. 그러나 순수계산력, 즉 신경망모형을 이용한 학습력과 몬테카를로 롤아웃 방법을 이용한 탐색력을 갖춘 구글 알파고는 예지적 천재의 대표적 기사인 이세돌 9단에 맞서는 능력을 보였습니다. 그리고 이겼습니다. 그 모호한 예지력이라는 게 사실은 '학습모형을 갖춘' 계산력의 결과라는 것을 보여주었습니다. '예지적 인간의 황혼'은 이미 시작됐습니다.
샤를리 엡도에 대해 선량한 이들이 격려와 연대를 보였음에도 불구하고, 세계는 이미 이 사건이 일어나기 전과 많이 달라졌다. 이제 풍자 만화가들은 신과 선지자를 묘사하기 전에 한 번 더 머뭇거릴 것이다. 이런 머뭇거림이야말로 냉혈하게 동료 시민을 쏴 죽였던 테러리스트가 애초에 노렸던 효과이다. 이에 못지않게 염려스러운 일은 이 사건을 계기로 테러를 예방하기 위해 위협적 메시지에 대한 감시를 강화해야 한다는 주장이 득세하는 일이다. 잠재적 테러의 기운을 감지하기 위해 인터넷 게시물을 모니터하고 잠재적인 테러리스트를 분류하기 위해 개인정보를 뒤져야 한다는 강박적 검열주의 목소리가 높아진다.