"알파고, 기대와 달리 매우 실망스럽습니다. 정석도 모르는데 어떻게 판을 읽겠습니까?" 이세돌 9단과 구글의 인공지능 바둑프로그램 알파고가 맞붙은 첫날 대국의 전반부, 프로 최고수들이 나선 중계 해설은 알파고의 무능력을 강조했다. 알파고가 돌을 놓으면 해설자인 프로 9단들은 "인간 바둑에서는 한번도 보지 못한 수입니다. 프로 바둑에서는 있을 수 없는 수입니다"라는 설명을 덧붙였다. 알파고가 놓은 몇몇 돌에 대해서는 컴퓨터가 프로기사라면 절대 하지 않았을 '결정적 실수'를 했다고, 해설자들이 목소리를 높이기도 했다.

둘쨋날부터 각 방송의 해설자들은 차분해졌다. "시청자 여러분께 죄송한데요, 이세돌 9단의 패착을 찾지를 못하겠어요. 인간의 눈으로 볼 때는 실수는 알파고만 하고 있었거든요." 시작 전 5-0 완승을 장담하던 이세돌은 2연패 뒤 "앞섰다고 느낀 적이 한 번도 없었다"며 한 판이라도 이길 수 있을지 고민이라고 말했다.

우리가 사람만의 영역이라 생각하며 스스로 가장 합리적이라고 여겨온 영역에서 사람보다 뛰어난 결과를 만들어내는 기계의 모습에 당황하는 모습이 이번 이세돌-알파고의 바둑 대결이다. 인공지능 때문에 모처럼 달아오른 바둑의 인기가 사라질 수 있다는 것도 위협이지만, 그보다 걱정스러운 것은 우리가 기계에 대해 과도한 신뢰와 의존 성향을 만들어낼 수 있다는 점이다.

인간은 지적 존재이면서 동시에 스스로와 타인에 대해 성찰하는 공감능력을 지닌 존재다.

처음엔 이해되지 않아 무시했지만 점점 기계의 성과에 놀라며 "이해할 수 없지만 기계가 판단한 것은 확실히 믿을 수 있다"는 경험을 거듭하게 되면 어떻게 될까? 처음에 이해되지 않던 게 신비와 두려움의 대상이 되고, 과도하게 의존할 수 있다.

공상과학 작가 아서 클라크는 "충분히 발달한 기술은 마법과 구별할 수 없다"고 말했다. 이제 우리는 똑똑한 기계가 만들어내는 현상을 마법처럼 또는 신비함이나 절대신뢰의 대상으로 삼을 수 있게 됐다. 그 또한 기계의 판단을 이해하지 못하겠다는 몽매스러운 결과와 마찬가지가 될 수 있다. '의식 없는 인공지능'도 그 설계자는 역시 사람이다. 우리가 그 구조와 영향에 대해 최대한 이해하는 게 우선이다.

* 이 글은 <한겨레>에 게재된 글입니다.