뉴스
2020년 09월 09일 17시 55분 KST

객관성과 중립성 : 윤영찬 '카카오 압박 문자' 논란에 불거진 포털사이트 '인공지능' 쟁점 2가지

인공지능은 정말 가치중립적일까?

한겨레/ 공동취재사진
8일 서울 영등포구 여의도 국회에서 열린 본회의에서 더불어민주당 윤영찬 의원이 본인 의원실 직원들과의 대화방으로 주호영 원내대표의 교섭단체 연설이 카카오톡 메인에 소개됐다는 연락을 받자 ‘카카오 너무하군요. 들어오라고하셍’이라고 입력하고있다.

 

윤영찬 더불어민주당 의원이 포털사이트 다음의 메인뉴스와 관련해 카카오를 압박하는 문자를 보내 논란이 벌어지자, 다음을 운영중인 카카오가 “인공지능(AI)이 뉴스 배열을 하고 있다”며 인위적 편집 가능성을 공식 부인하고 나섰다.

하지만 인공지능이 뉴스 배열을 하더라도 포털 내부 인사가 ‘인위적으로’ 조정할 여지가 전혀 없는지를 두고 의구심이 끊이지 않을 뿐 아니라, 인공지능 작업이 객관성과 중립성을 온전히 확보하고 있는지도 여전히 논란거리다.

 

네이버·카카오, “뉴스 배열은 인공지능 담당”

지난 8일 윤 의원이 불을 지핀 ‘메인뉴스 기사 노출’ 논란과 관련해, 카카오 측은 “메인화면에 보이는 뉴스는 2015년부터 인공지능이 자동배열한다”며 “개인화 알고리즘을 바탕으로 하기 때문에 사람마다 보이는 기사가 다르다”고 밝혔다. 정치 뉴스를 즐겨보는 소비자와 연예 뉴스를 즐겨 찾는 방탄소년단(BTS) 팬에게 노출되는 메인 화면이 서로 다르다는 뜻이다.

카카오는 포털 다음과 카카오톡 샵탭에서 뉴스 서비스를 하고 있다. 매일 언론사에서 카카오로 보내는 3만 건 정도의 기사 중 중복·광고 기사와 선정적인 기사를 걸러내 400~600건 정도로 추리는 작업을 인공지능이 담당한다. 뉴스 배열은 이용자의 성별과 연령대, 관심사 등에 따른 추천 알고리즘에 따라 달라진다는 게 카카오 쪽 설명이다.

임원기 카카오 상무는 <한겨레>와 한 통화에서 “뉴스편집과 배열에 사람이 전혀 개입하지 않도록 시스템을 구축한 게 이미 2015년이다. 사람이 개입하는 것 자체가 불가능한 구조”라고 말했다.

네이버도 2018년 10월부터 네이버 앱 메인화면에 뉴스가 나오지 않는 방식으로 개편했다. 메인화면에서 오른쪽으로 한 번 넘기면 볼 수 있는 뉴스탭은 언론사가 직접 편집한 기사를 보여주거나 인공지능이 관심 뉴스를 자동으로 추천(MY뉴스)해주는 식으로 운영된다. 네이버 쪽은 “개인이 선호할 만한 기사는 물론 확증편향 방지를 위해 평소에 잘 안보는 기사도 추천해주도록 알고리즘 설계돼 있다”고 설명했다.

이재웅 페이스북


인공지능은 정말 가치중립적인가?

하지만 업계에선 인공지능 오류 등 ‘특수한’ 상황에선 사람이 인위적으로 뉴스 편집과 배열에 개입할 통로가 여전히 존재한다는 시각도 있다. 예컨대 자연재해 등 모든 사람에게 노출되어야 할 뉴스를 인공지능이 거른다거나 하는 일이 생길 수 있어서다.

이와 관련해 임원기 상무는 “만약 기계가 오류를 발생시켜서 걸러졌어야 하는 기사가 못 걸러졌다면 기계를 고친다. 그 오류 수정도 사람이 하는 경우는 없다”며 “시스템적으로 불가능하다는 말은 그 일을 하는 사람이 없다는 말”이라고 못박았다.

이와는 별개로 인공지능의 뉴스 배열이 과연 객관성과 중립성을 확보하고 있느냐도 논란거리다. 다음 창업자인 이재웅 전 쏘카 대표는 8일 밤 페이스북에 “많은 사람들이 인공지능은 가치중립적이라고 생각하지만 그렇지 않다. 윤 의원의 문제 제기에 ‘인공지능이 했으니까 우리는 중립적’이라고 답한 포털도 윤 의원의 항의만큼이나 무책임하다”고 꼬집었다. 인공지능 알고리즘 설계도 결국 사람이 하는 일이라, 사람의 가치 판단에 영향을 받을 수밖에 없다는 얘기다.

인공지능의 중립성과 관련한 논의는 오래 전부터 이어져왔다. 소프트웨어정책연구소는 지난해 4월 “인공지능, 빅데이터, 인터넷 등 디지털 기술의 부정적 영향을 우려하는 목소리가 커지고 있다”며 “사람들이 인공지능의 활용을 우려하는 가장 큰 이유는 인공지능이 생각보다 공정하지 않기 때문”이라고 짚은 바 있다.

인공지능 전문가인 미국 위스콘신-밀워키대학교의 마이클 짐머 교수도 “인공지능이 중립적이라고 착각하기 쉽지만 기존 사회의 편견과 불의를 영원히 유지하는 수단이 될 것”이라고 지적한 바 있다.