‘딥페이크’(deepfake)는 AI 소프트웨어를 이용, 인물의 영상과 이미지 데이터세트를 사용해 얼굴의 가상 모델을 만들어 겹치고 조작하는 기술이다. 이 ‘딥페이크’ 영상의 96%가 포르노로 소비되고 있으며, 얼굴 도용 피해자의 25%가 한국 연예인이라는 보고서가 나왔다.

네덜란드 사이버 보안 연구 회사 ‘딥트레이스’는 7일, 지난해부터 올해 9월까지의 전 세계적인 딥페이크 이용 현황과 문제점을 제기한 보고서를 공개했다.

이에 따르면 딥페이크 영상은 지난해 12월 7964개였으나 올해 9월 1만4798개로 약 두 배 가까이 늘어났으며, 이 중 96%는 포르노로 소비되고 있었다. 이런 딥페이크 포르노 영상의 조회수는 1억3436만회 이상이었다.

딥페이크 포르노 영상에 합성된 피해자의 성별은 100% 여성이었다. 포르노가 아닌 딥페이크 영상에 합성된 인물은 60%가 남성인 것과 대비된다.

딥페이크 포르노 피해자의 대다수는 미국과 영국의 여성 배우로 46%를 차지했다. 그리고 한국 연예인들이 그 뒤를 이었다. 딥페이크 포르노 피해자의 25%가 한국 연예인이었던 것이다.

보고서는 “K팝이 50억달러 규모의 산업으로 성장하며 K팝 스타들이 딥페이크 영상의 피해자가 되고 있는 것”이라고 분석했다. 보고서는 ”한국과 중국의 웹 사용자들은 이런 딥페이크 영상의 제작하고 이용하는 데 상당한 숫자를 차지하고 있다”고도 설명했다. 보고서는 이같은 부분을 지적하며 ”딥페이크 포르노는 국적이나 문화적 배경을 불문한 여성 연예인을 목표로 만들어지고 있다”고 꼬집었다.

해당 보고서의 연구 분석 책임자인 헨리 아이더는 BBC와의 인터뷰에서 ”딥페이크에 대한 기존 논의는 상당히 빗나갔다”고 말했다. 아이더는 ”처음에 딥페이크가 생겼을 때 사람들은 정치적으로 문제가 생기거나, 사기 범죄가 늘어날 것이라고 생각했다”며 ”하지만 정작 여성들에게 큰 피해를 입힐 ‘딥페이크 포르노’에 대해서는 모두가 간과했다”고 주장했다.

앞서 마이애미 대학교 법학 교수 메리 앤 프랭크스 역시 허프포스트에 ”여성들은 ‘난 너와 사귀고 싶지 않고, 널 위해 옷을 벗고 싶지 않다’라고 남성에게 말할 수 있다. 하지만 이제 남성들은 ‘그래? 육체적으로 못한다면 가상으로 할 거야’라고 말할 수 있다”라며 ”온라인에 들어가지 않는 이상 여성들이 스스로를 보호할 방법은 사실상 없다”고 문제를 제기한 바 있다.

이같은 지적에도 불구하고 아직까지 대부분의 국가에서 딥페이크에 대한 규제는 제대로 이뤄지지 않고 있다. 현행법상 딥페이크 포르노는 합성 사진·영상으로 분류되며 직접적인 불법 촬영이나 성폭행에 해당하지 않기 때문이다.

머니투데이에 따르면 딥페이크 포르노를 상업적인 목적으로 제작해 유포할 시 정보통신망 이용 촉진 및 정보보호 등에 관한 법률 70조(사이버 명예훼손)나 형법 제244조(음란물건제조죄)에 위반되긴 하나, 실질적인 규제나 대응과는 거리가 있다는 지적이 나오고 있다. 딥페이크 포르노는 마치 실제 모습처럼 합성되기 때문에 피해자들에게 엄청난 정신적 피해를 가져다 줄 수 있기 때문이다.

아직까지 딥페이크에 대한 규제에 나선 건 미국 일부 주 뿐이다. 미국 버지니아주는 지난 7월, 미국 최초로 딥페이크 포르노를 법으로 규제했다. 피해자 동의 없이 성적 사진이나 동영상을 유포할 시 처벌을 받는 ‘리벤지 포르노 금지법’에 딥페이크 포르노를 추가한 것이다.

이어 캘리포니아주 역시 동의 없이 만들어진 딥페이크 포르노를 제작·유통할 경우 피해자에게 손해배상을 하도록 하는 법을 개정했다. 

한국의 과학기술정보통신부는 올해 초, 불법 음란물을 인공지능으로 걸러내는 기술 개방에 나섰다. 다만 딥페이크 영상 발전 속도에 비해 해당 기술의 발전 속도는 역부족이라는 비판이 제기되고 있다. 

김현유 에디터: hyunyu.kim@huffpost.kr