기계화와 알고리즘이 사람의 일자리를 대체하고 있는 음울한 현실에 관한 뉴스가 하루가 멀다하고 이어지는 가운데, 이색적인 소식이 전해졌다. 알고리즘이 자동처리하던 업무를 앞으로 사람이 하기로 했다는 뉴스였다.
구글은 지난 17일 시스템에 의한 '자동심사'로 처리해오던 구글 플레이 스토어의 앱과 게임 등의 등록 방식을 '수동'으로 변경하기로 했다고 발표했다. 앞으로 안드로이드용 게임과 앱은 구글의 담당자가 직접 검토하고 문제가 없을 경우에만 플레이 스토어에 등록한다는 방침이다. 애플 앱스토어처럼 사람이 앱의 최종 등록을 승인하는 '수작업' 방식으로의 변경이다. 주로 앱 개발자들의 관심 영역이지만, 세계 최대의 검색기업 구글로서는 의미가 있는 정책의 선회라는 점에서 주목할 만하다.
구글 플레이스토어
구글은 그동안 고지식할 정도로, 알고리즘과 자동화에 의한 처리를 고집해왔다. 콘텐츠나 앱을 인터넷에 올리거나 장터에 등록하는 절차에 사람이 개입해서 검토하는 대신 사용자들의 평가와 자체적인 알고리즘에 따라 자동처리되도록 해왔다. 구글은 콘텐츠 서비스에서 사람의 개입을 배제하거나 최소화하는 이유로, 인터넷에서는 표현 자유가 중요하고 사전검열이 허용되어서는 안된다고 믿기 때문이라고 강조해왔다. 사람이 콘텐츠를 사전에 검토하고 등록 여부를 결정하는 것은 일종의 사전 검열에 해당한다고 본 것이다. 알고리즘의 특성상 사례가 쌓이고 노하우가 축적되면서 더욱 정교해질 것으로 기대됐지만, 구글은 오히려 사람의 작업을 추가하기로 결정한 것이다.
구글은 사람 대신 알고리즘을 믿고 의존해왔다. 검색과 콘텐츠 분야는 말할 것도 없고, 사람의 개입과 결정이 필수적이라고 여겨져온 영역에서도 구글은 알고리즘을 구현하고 있다. 운전자가 필요없는 구글의 자율주행자동차나 편집자가 없는 구글 뉴스 등이 대표적이다.
구글이 후발 검색업체로 출발해 세계 검색시장을 지배하는 절대강자가 된 비결도 자동화와 정교한 알고리즘에 있다. 갈수록 정보량이 눈덩이처럼 늘어나는 인터넷에서 효율성이 높은 검색결과 처리방식이다. 사람이 개입해 처리하면 당장의 문제를 해결할 수 있지만, 정보가 급속증가하는 인터넷에서 지속되기 어려운 방식이다. 사람의 개입을 허용하기 시작하면, 미끄러운 내리막길에 발을 내딛는 형국이 되어 멈추기도 어렵다.
구글은 기본적으로 알고리즘의 설정을 통해서 검색결과나 유튜브에 성인물이나 유해콘텐츠가 노출되지 않도록 한다. 알고리즘에서 걸러지지 못한 부적절한 콘텐츠라도 사용자의 유해성 신고를 기반으로 노출에서 사라지게 만드는 '요청 뒤 삭제(notice and takedown)' 정책을 신봉해왔다. 국내 검색포털에서는 거의 접할 수 없는 성인콘텐츠 등이 구글이나 유튜브 검색결과에서 드물지 않게 나타나는 데는 구글의 이러한 정보처리 방식이 하나의 배경이다.
하지만, 방대한 데이터와 통계를 기반으로 만들어낸 알고리즘은 완벽하지 않다. 더욱이 알고리즘보다 뛰어난 사람이 맹점을 노리거나 집단적으로 나서서 무력화시키거나 오류를 만들어낼 수 있다. 대표적인 게 구글 검색의 페이지랭크 기술을 이용한 '구글 폭탄'이다.
영어권 구글에서 만들어진 구글 폭탄. '참담한 실패'(miserable failure)를 입력하면 조지 W. 부시의 일대기가 첫번째 검색 결과로 연결됐다.
국내에서 한때 만들어진 구글 폭탄, 구글에서 '학살자'를 입력하면, '전두환'이 첫번째 검색 결과로 노출됐다.
구글은 알고리즘을 더욱 정교화해가며 로봇과 인공지능의 영역으로 사업과 서비스를 확장해나가고 있지만, 플레이 스토어에 인간의 개입을 허용한 것처럼 알고리즘의 한계도 경험하고 있다. 구글은 유럽연합 사법재판소의 2014년 '잊혀질 권리' 판결로 인해, 직면하게 된 검색결과 노출 삭제요청 처리도 알고리즘이 아닌 사람이 일일이 수작업으로 한다고 밝혔다.
구글이 플레이스토어의 검수와 승인 절차를 수작업을 처리하기로 했다는 게, 알고리즘의 폐기는 아니다. 구글은 소프트웨어를 활용해 승인 요청 앱들에 대한 악성코드, 성적 콘텐츠, 저작권 침해 등을 걸러낸다. 이런 절차를 거친 뒤에 다시 한 번 사람이 최종 승인을 하는 절차로 바뀐 것이다. 플레이스토어에서 앱 승인에 걸리는 시간도 차이가 거의 없다.
구글의 플레이스토어 정책 변경은 기계와 사람의 공존 방법을 알려준다. 최대한 알고리즘과 자동화를 활용하되, 최종 결정은 사람이 해야 하는 영역이 있다는 것이다. 사실 최종 결정단계에서 사람이 현명한 판단을 내리지 않았다면 인류는 이미 미-소 냉전시대에 자동작동하도록 설계된 상호확증파괴 시스템에 의해 일찌감치 파멸했을지 모른다.
* 이 글은 <한겨레>에 게재된 글입니다.