1980년대 캐나다의 의료기 업체(AECL)는 방사선 치료기 테락20을 개선해 소프트웨어로만 조작할 수 있도록 한 테락25를 출시했다. 그러나 소프트웨어 오류로 환자들에게 치명적인 수준의 방사선 피폭이 일어났다. 1985년부터 2년간 3명이 숨지고 3명이 장애에 시달리게 됐다. 잇단 피폭 사고에 업체는 하드웨어만 검사하고 "사고 발생이 불가능하다"고 주장했다.

유럽우주국이 10년 동안 70억달러를 들여 개발한 아리안5 501호를 1996년 6월4일 가이아나에서 발사했지만 1분도 안 돼 폭발했다. 발사 전 철저한 점검을 거듭했지만 문제를 몰랐다. 한 달 뒤 발표된 사고조사 보고서는 '소프트웨어 버그'가 원인이라고 결론 내렸다. 작동방식이 겉으로 드러나지 않는 소프트웨어는 오류를 발견하기도 그만큼 어렵다.

넷스케이프를 만든 벤처투자가 마크 앤드리슨이 "소프트웨어가 모든 걸 먹어치우는 세상"이라고 말한 것을 잘 보여주는 게 인공지능이다. 이번에 모두를 놀라게 한 알파고는 딥마인드가 지난해 2월 <네이처>에 공개한 신경망 방식의 자가학습 기능을 기반으로 한다. 사람이 일일이 가르치지 않아도 스스로 학습해 인간을 뛰어넘는 수준에 금세 도달한다.

하지만 스스로 배워서 뛰어난 결과를 만든다는 것은 오류 역시 스스로 만든다는 얘기다. 더욱이 입력값과 결과값만 드러나고 판단을 하는 중간과정이 감춰져 있는 신경망 방식의 알고리즘은 오류가 생겨도 원인을 찾는 게 매우 어렵다. 4국 때 이세돌 9단이 백 78로 알파고의 치명적 약점을 발견해 내자, 딥마인드 데미스 하사비스가 환호한 배경이기도 하다. 소프트웨어 업계에서는 출시 전 스스로 제품을 써보며 문제점을 보고하는 '개밥 먹어보기' 과정이 필수다. 인류 대표 이세돌이 구글을 위해 '개밥 먹기'를 훌륭히 수행한 것으로 볼 수도 있다.

* 이 글은 <한겨레>에 게재된 글입니다.