박덕흠 국민의힘 의원실이 배포한 보도자료 사진 한 장이 눈길을 끌고 있다.

박 의원과 김민석 국무총리가 만나 지역구 현안을 논의한 평범한 사진이었지만 김 총리의 오른손 손가락이 ‘6개’였기 때문이다.

보도자료와 함께 배포된 사진파일의 이름은 ‘ChatGPT Image’였다. 사진이 생성형 AI(인공지능)를 거쳐 보정됐음을 짐작케 했다. 박덕흠 의원실 측은 사진의 해상도를 높이려다 발생한 기술적 실수라는 입장을 내놨다. 그러나 이번 해프닝은 지방선거를 앞두고 ‘AI 보정’이 가질 위험성을 단적으로 보여주는 사례로 보인다.

10일 중앙선거관리위원회에 따르면 지방선거 실시 90일 전인 지난 3월5일부터 오는 6월3일까지 AI와 딥페이크 등을 악용한 불법 선거 홍보 및 게시물에 대해 단속을 강화하고 있다.

특히 생성형 AI의 기술이 발전하면서 사진이나 이미지를 가공해 활용하는 경우가 많아지고 있다. 과거의 사진 보정이 밝기를 조절하거나 잡티를 지우는 수준이었다면, 생성형 AI를 활용한 보정은 존재하지 않는 정보를 채워 넣는 ‘재창조’까지 가능하다.

박덕흠 국민의힘 의원실이 보정한 사진은 김 총리의 손가락뿐만 아니라 양복에 단 태극기 배지 문양까지 뭉개져 어느 국가의 국기인지 알 수 없는 상태로 변했다. 이는 AI가 이미지를 재구성하는 과정에서 사실을 왜곡할 수 있음을 보여준다.

문제는 이러한 AI 기술을 활용한 왜곡이 선거 결과에 영향을 미칠 수도 있다는 점이다. 단순히 후보자의 인상을 실제보다 인자하게 바꾸는 데 그치지 않고 텅 빈 유세 현장에 청중을 가득 채워 넣는 식의 ‘기만’이 가능해지기 때문이다.

실제 네덜란드에서는 한 50대 여성 시의원이 선거 과정에서 인공지능(AI)을 통해 과도하게 보정한 사진을 사용한 사실이 드러나 소속 당에서 제명되는 일도 있었다.

네덜란드 매체 알헤메인 다흐블라트(Algemeen Dagblad·AD) 등에 따르면 네덜란드 지역 정당 ‘리프바르 로테르담’(Leefbaar Rotterdam)은 블레이도르프-베르흐폴더르-리스크바르티에르 지역구 시의원으로 당선된 패트리샤 라이히만을 제명했는데 그 이유가 과도한 ‘AI 사진 보정’이었다. 

라이흐만 의원이 선거 홍보물에 사용한 사진은 실제 모습과 달리 주름 하나 없는 20대 여성의 모습이었고 눈동자 색깔과 얼굴 윤곽까지 판이했는데 정당은 이런 행위가 유권자 신뢰를 훼손한 중대한 사안이라고 본 것이다.

우리나라도 공직선거법 제82조의 8에서 ‘선거일 전 90일부터 선거일까지 선거운동을 위해 인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향·이미지·영상(딥페이크 등)을 제작·편집·유포·게시하는 행위’를 금지하고 있다.

이와 함께 정부는 개선된 딥페이크 탐지 모델을 중앙선거관리위원회에 제공해 6월 지방선거 기간 동안 허위 정보 유포를 신속히 차단한다는 방침을 정했다. 

다만 ‘실제 촬영된 사진을 AI로 리터칭한 경우’나 ‘후보자의 신체를 변형하지 않은 채 단순히 배경이미지만 생성형 AI로 제작해 결합한 경우’에 대한 명확한 규정이 부족한 실정이다.

현행법규는 인물을 통째로 가짜로 만드는 '딥페이크' 처벌에 집중하고 있기 때문에 실제 사진을 AI로 교묘하게 비트는 '리터칭 왜곡'은 규제 사각지대에 놓여있는 것처럼 보인다.

실제 중앙선거관리위원회는 홈페이지에 올라온 “단순히 배경이미지를 생성형 AI로 제작해 후보자와 결합한 카드뉴스 이미지 제작이 공직선거법에 위반되는가”라는 선거법규 질의에 “콘텐츠 전체를 종합해 카드뉴스 이미지의 상황·설정이 진실인 것처럼 오인될 여지가 있거나 실제와 오인가능성이 있는 경우 같은 법조에 위반될 수 있을 것”이라는 원칙적 답변을 내놨다.