알파고가 이세돌 기사와의 대국에서 두 판 연속 승리했다. 해석이 분분하지만, 알파고에 채택한 자체학습과 승리의 알고리즘이 인간능력의 한계를 초월할 수 있음을 확실하게 입증했다. 알파고는 바둑을 두는 프로그램이라기 보다는 최종적으로 게임에 이길 확률이 가장 높은 방법을 그때그때 제시하는, 승리를 위한 프로그램으로 보인다. 알파고는 세계 최고 고수와 두면 엄청난 실력을 발휘하지만, 아마추어 5급이랑 두면 1급 실력 정도만 보여줄지도 모른다. 대충 둬도 이길 테니까.

지금까지는 바둑이 매우 복잡하고 경우의 수가 많아서 프로그램이 사람을 이기기 어렵다고 했다. 이제는 인공지능이 승리의 알고리즘을 확보했기 때문에 구글 측이 맘만 먹으면, 즉 충분한 하드웨어만 활용하면 그 어떤 천재 기사도 알파고를 바둑으로 이길 수 없는 국면으로 바뀌었다. 알파고도 사람이 만들었으니, 구글이나 일부 과학자들이 주장하듯이 인류의 승리로 볼 수도 있다. 그러나 많은 사람들은 환호하기 보다는 공포나 두려움을 느끼고 있다. 두려움은 근거도 있고, 인공지능이 잘 모르는 것이기 때문이기도 하다. 알파고를 통해 인공지능의 어떤 점이 두려움의 근원인지 확인하고 이를 막기 위한 방안에 대해 공론화가 시급하다.

한겨레신문, 구글제공

첫째, 인공지능이 세상을 어떻게 바꿀까에 대한 인간의 두려움은 당연한 것이다.

인간은 오래전부터 자기보다 엄청나게 강한 존재 앞에서는 두려움을 느껴왔다. 폭풍, 홍수 등 자연현상, 막강한 외적의 침입, 강력한 절대군주, 절대적인 능력을 가졌다고 믿어온 신 등은 인간에게 공포감을 주어 온 존재다. 이제는 인공지능 차례다.

이번 알파고로 인해 최고의 충격을 받은 곳은 두말할 나위 없이 자기들 중의 최고수가 패하는 것을 지켜 본 프로기사들일 것이다. 두려움 다음에 나타날 현상은 알파고의 모든 수에 대해 해석하고 의미를 부여할 것이다. 진짜 의미가 있는 수, 그동안 몰랐던 바둑의 원리를 찾을 수 있다. 그러나 알파고가 승패에 영향이 없기 때문에 큰 의미 없이 둔 수에 대해서조차 과도한 의미를 부여하고, '아 그렇게 깊은 뜻이 있었나?' 하면서 경외심의 대상으로 만들 수도 있다. 실제로는 인공지능이 항상 이기더라도 중간에 둔 수가 모두 최선은 아닐 것임에도 불구하고 말이다. 인간이 전지전능한 신을 창조하고 종속되어가는 현상이 나타날 수 있다.

인공지능이 바둑에만 적용될리는 없다. 모든 영역에서 바둑에서의 알파고와 같은 일이 벌어질 것이다. 그런 세상에서 인간과 인공지능은 누가 누구를 지배하는 것이 될까? 영화 스타워즈에서처럼 인간을 돕기만 하는 착한 인공지능의 로봇이 될까, 아니면 인간을 지배하는 매트릭스가 될까. 인간은 인공지능의 세상에서 어떻게 살아가야 할지 준비가 하나도 안됐는데, 그런 세상이 너무 일찍 왔다. 인공지능을 둘러싼 윤리, 철학, 인문학, 국제적 규약을 최대한 빠르게 발전시켜야 인류를 보호할 수 있을 것이다. 거대 천민 자본이나 테러집단과 인공지능의 결합은 인류 최대의 재앙이 될 것이다.

한겨레신문, 한국기원 제공

둘째, 알파고라는 인공지능이 인간의 최고 바둑고수를 이긴 사실도 충격이지만, 어떤 방법으로 이겼는지 모른다는 것이 사람들을 더 두렵게 만드는 요소다.

지금까지 모든 기계나 프로그램의 결과는 아무리 어려운 과제라고 해도 인간이 시킨 작업을 수행한 것이고, 그 결과가 왜 만들어졌는지 알기 때문에 조정도 가능하다. 그러나 알파고의 경우는 프로그램을 개발한 팀조차 자기들이 만든 자체 학습과 판단의 알고리즘만 알지, 바둑을 이긴 구체적인 방법은 과학적이나 논리적으로 설명하지 못한다. 자기들도 2연승에 놀랐다고 했는데, 놀랐다는 것은 모른다는 것이다. 심지어 알파고의 실력도 제대로 가늠하지 못하는 것이다. 알파고가 다른 방식으로 바둑을 두도록 조정하지도 못할 것이다.

인간보다 뛰어난 능력을 갖추고 있는데, 인간이 컨트롤할 수도 없고 어떻게 그런 결론을 냈는지 구체적인 과정을 알 수 없는, 냉철하게 결과만을 생각하는 존재가 만들어졌다. 프랑켄슈타인을 만든 것인지 말 잘 듣는 똑똑한 하인을 만든 것인지 모르는 것이다. 인공지능이 갖고 있는 위험한 요소를 보여주고 있는데, 그런 위험성에 대한 제어장치 없이 무조건 앞으로만 달려 나가도 되는 것인지 우려된다.

이번에 알파고의 바둑을 보면 인공지능입장에서는 당연한 것이겠지만, 부여된 목적인 승리를 위해서는 전체와 결과가 중요하지 부분이나 과정은 덜 중요하다는 원칙을 적나라하게 지키는 것으로 보인다. 알파고의 승리는 그렇지 않아도 목적을 위해 수단을 가리지 않는 세태를 더욱 강화시키는 것은 아닌지 우려된다. 또한 과정을 모르면 승리라는 결과만 보고 인공지능의 판단을 모두 옳다고 믿어야 하는데, 그래도 되는지 모를 일이다. 두말할 것도 없이 '결과도 중요하지만, 과정이 중요하다'는 것은 인류가 지켜온 중요한 가치다.

세 번째, 인공지능이 과학기술, 경제에 미치는 영향이 막대할 것이라고 하지만 그보다 훨씬 더 중요하고 염려되는 것은 인간의 정신과 불평등에 미칠 영향이다.

지금까지 프로바둑 세계는 많은 기재가 출중한 프로기사들이 최고수가 되기 위해 노력을 해왔고 그 과정에서 수많은 정석, 이론이 탄생했다. 그것이 바둑을 즐거운 게임으로 만들었다. 당분간 알파고를 이기기 위한 노력과 도전이 있을 것이다. 그러나 그것이 불가능하다는 것이 확실해지면, 어떤 변화가 나타날까.

물론 일반인들이 취미로 바둑을 계속 두기는 할 것이다. 그러나 아무리 노력해도 이길 수 없는 프로그램이 있다면, 인간의 능력을 갈고 닦아서 최고의 경지를 찾는 노력의 의미가 퇴색할 것은 분명하다. 그것이 인간에게 미치는 영향은 무엇일까? 인간 능력 개발에 대한 포기와 인공지능의 활용 또는 인공지능에 대한 절대적 의존이나 종속 등의 형태로 나타날 듯싶다.

인공지능을 두려워하지 말라고 강조하는 사람들을 보면 무척 잘난 사람들이다. 자기들은 어떤 세상이 와도 문제가 없는 사람들이다. 오히려 인공지능을 활용해 더 많은 능력을 발휘하고 부를 축적할 것이다. 남들에게는 노력하라고 하지만, 이미 그것을 소유하고 있거나 소유할 수 있는 집단과 그렇지 못한 집단은 구분되어 있는 세상이다. 인공지능을 활용하기 어려운 사람, 집단, 계층, 국가는 인공지능에 종속되어 살아갈 수밖에 없을 것이다. 엄청난 격차가 벌어질 것이다. 육체노동은 로봇에, 정신노동은 인공지능에게 밀리는 인간의 용도는 무엇일까?

이 세상의 모든 것을 결정하는 사람들이 따로 있고, 나머지는 인공지능에 절대 의존 또는 복종하며 살아가야 하는 세상이 오면, 그 세상은 매트릭스의 세상, 빅브라더의 세상과 다른 세상일까? 이런 세상을 막기 위해서 인공지능을 인류가 함께 공유하고 이익을 나눌 방법이 과연 있을지 심각한 고민이 필요하다.

영화 매트릭스 포스터