블로그
2016년 04월 21일 11시 07분 KST | 업데이트됨 2017년 04월 22일 14시 12분 KST

알파고 3탄 | 생각하는 기계의 자기 이해

연합뉴스

알파고 1탄 | 예지적 인간의 황혼

알파고 2탄 | 의지를 가진 '선택기계'

저는 아직도 이세돌과 알파고의 4국에 대해 생각하곤 합니다. 이세돌 9단이 이긴 유일한 대국이죠. 그런데 제 관심과 고민의 대상은 이른바 '신의 한 수'라고 하는 78수가 아니라 이후 알파고가 둔 97수랍니다. '떡수'였다는 이 수가 자꾸 생각나는 겁니다.

생각할수록 거슬리는 기묘한 수입니다. 이는 그저 떡수라거나 뻘수라 치부할 수 없을 정도로 이상하기 때문입니다. 흔히 떡수라고 하면 상대방에게 보태주는 실착을 의미합니다. '뻘수'는 안 될 줄 알면서 한 번 찔러보는 수, 상대방의 실수를 유도하는 속 보이는 수, 전투 중이니 무리한 줄 알면서 두는 수 등을 의미하기도 합니다. 그런데 떡수든 뻘수든 모두 바둑의 원리 내에서 의미를 갖습니다. 즉 승리를 목표로 전략적 행위를 하는 기사의 입장에서 이해할 수 있는 선택 중의 하나입니다.

그런데 제4국의 97수는 그냥 손해수가 아니라 뭐랄까, 바둑의 원리에서 벗어난 수처럼 보입니다. 한 마디로 '알파고가 미친 짓을 하는 것처럼' 보였다는 겁니다. 이런 수를 두기 전에도 알파고는 사소한 떡수와 뻘수를 두면서도 천하의 이세돌 9단을 상대로 3승을 올렸습니다. 초반에 유려하게 판을 짜고, 이세돌 9단이 승부수를 날릴 수밖에 없을 정도로 궁지에 몰아붙이고, 필요하면 승부수를 날릴 줄도 아는 것처럼 보였습니다. 갠지스 강의 모래알처럼 많은 수들을 헤아리며 척척 두는 것처럼 보였던 알파고가 97이라뇨? 그리고 마치 97을 안 두었다는 듯이 다시 제정신으로 돌아온 척 바둑을 계속 두다뇨? (비록 종국에는 돌을 던졌지만)

알파고는 97수의 의미를 이해하지 못할 겁니다. 우리는 이해하고 있나요?

2016-04-21-1461218702-2435593-13006514_10209308209480862_1928520778793516856_n.jpg

1

인간이 이해할 수 없는 행동을 하는 기계란 불안하거나 무서운 존재의 수준을 넘어섭니다. 그 기계의 생각이 과연 생각인지 아닌지 가늠할 수조차 없게 만들기 때문입니다. 알파고는 범용 인공지능이 아닌 제한된 게임을 수행하는 전략적 '판단' 기계일 뿐입니다. 그저 (가) 공개된 규칙을 따르며, (나) 규칙의 범위 내에서 정해진 과업을 수행하는데, (다) 인간의 과거행동을 자료로 삼아 학습한 지능을 이용해서 '판단'을 수행합니다. 그런데 전략적 판단을 반복해서 매우 효과적으로, 그것도 인간 수준에 필적하는 품위를 보이며 수행할 수 있음을 증명하다가 97과 같은 '판단인지 아닌지조차 의심스러운 결정'을 내린 것입니다.

이걸 인공지능의 일반적 문제점 또는 알파고에 특수한 실수라고 치부하고 넘어갈 수 없는 이유가 있습니다. 그 이유 때문에 저는 97수에 고민합니다. 요점을 말하자면, 우리는, 즉 생각하는 존재로서 인간은 스스로 만든 인공지능의 '판단'은 물론 간단한 '인식'조차 이해하거나 설명하지 못하는 경우가 있으며, 그것도 결정적 순간에 그렇다는 겁니다. 지는 순간이죠. 이걸 깨닫는 순간이면 이미 사태는 지나간 후입니다.

이미 인공지능은 벌써 우리 곁에서 활약 중입니다. 우리는 가까운 미래에 더 많은 분야에서 더 자주 인공지능을 접하게 될 겁니다. 비행기 표 예약과 금융상품 구매제안이 전자라면, 자동차 운전이나 의료 진단, 그리고 법률 서비스 등은 후자에 속합니다. 혹자는 말합니다. 인공지능은 빠르게 연산해서 경우의 수만 제시할 뿐, 결국 최종 판단은 인간이 내리고 또한 그래야 하지 않겠냐고요. 결국 이는 인간의 책임과 윤리적 인식의 중요성을 증명할 뿐이라고요.

글쎄요. 제가 보기에 알파고를 비롯한 인공지능이 '제한된 영역에서 판단을 더 많이 수행하게 될 진짜 이유'가 바로 인간의 판단 때문입니다. 바로 인간이 그렇게 결정할 가능성이 높습니다. 이세돌 9단보다 바둑을 잘 두는 알파고를 인간이 그대로 내버려 둘 리가 없습니다. 인간은 이미 알파고를 바둑의 최강자로 취급을 하고 있습니다. 훌륭함과 아름다움에 대한 인간 이성의 추구를 말할 것도 없이, 인간의 기회와 효율추구 성향만을 보더라도 절대 그냥 둘 리 없습니다. 저와 여러분은 아니더라도, 구글과 테슬라는 그렇게 할 겁니다. 삼성과 행안부도 그럴 겁니다.

우리는 이해할 수 없는 행위를 하는 인공지능을 그대로 두고 넘어가기로 작정한 것 같습니다. 알파고가 제4국에서 97수를 두듯이 언젠가 자동주행하는 트럭이 차선을 넘어설 것입니다. 그런데 이게 문제가 아닙니다. 진짜 문제는 알파고가 제4국에서 97을 두고 제5국에서 존중받듯, 자동주행하다가 사고난 트럭은 그 다음 날 다시 일하러 나갈 거라는 데 있습니다. 왜냐하면 우리는 그 인공지능이 그때 그 행동을 왜 했는지 결국 이해하지 못할테니까요. 하긴 인간이 언제는 자기 자신이라도 제대로 이해한 적이 있었나 싶네요.

* 만약, 정말 만약에 구글은 97수를 이해하고 있고 또한 설명할 수 있지만, 우리는 이해할 수도 없고 향후에도 어떤 설명을 들을 기회를 가질 거라 기대할 수 없다면, 이건 더 큰 문제죠. 인식 능력이 아니라 인간 간 윤리 문제가 됩니다.


* 이 글은 필자의 페이스북에 게재된 글입니다.