지난 3월의 어느날, 케이트(28)의 동료가 그녀의 어깨를 다급히 두드렸다. 동료는 자신의 컴퓨터를 가리켰다. 케이트는 그의 컴퓨터 화면을 보고 큰 충격을 받았다. 화면 속 영상에서 케이트는 발가벗은 채 소파에서 두 다리를 들고 있었고, 한 남성이 그녀에게 삽입하고 있었다. 케이트는 토할 것 같았다. 무슨 일인가 싶어 모여든 동료들은 영상을 보자마자 침묵했다. 영상에는 케이트의 얼굴이 나왔고, 심지어 그녀의 이름도 있었다. 하지만 이건 진짜 영상이 아니었다. 케이트는 포르노를 찍은 적도 없지만, 영상 속 여성의 몸은 그녀와 매우 달랐다. 조작된 영상이 분명했다. 하지만 다른 사람들도 그렇게 생각할지는 알 수 없는 일이었다.

“무서웠다. 그런 건 본 적이 없었다.” 텍사스에 사는 케이트가 허프포스트에 밝혔다.

그 영상은 지금도 온라인에 있다. 수만 건의 조회수를 기록 중이다. 이 영상은 케이트가 출연한 것이 아니다. AI 소프트웨어를 이용해 만든 ‘딥페이크’(deepfake) 영상이다. 딥페이크 알고리즘은 인물의 영상과 이미지 데이터세트를 사용해 얼굴의 가상 모델을 만들어 겹치고 조작한다. 그 영상은 포르노 배우의 머리에 케이트의 얼굴을 씌운 것이었다.

“포토샵은 고정된 사진이고 진짜가 아니라는 것이 명확하다. 하지만 내 얼굴이 반응하고 움직이고 있는 것을 보면 사람들이 내 사진을 사용하는 것을 전혀 통제할 수 없다는 공포가 든다.” 여성혐오 공격의 표적이 되었던 케이트의 말이다.

처음에는 딥페이크 포르노는 거의 여성 셀러브리티만을 대상으로 했다. TV와 영화에 출연한 장면들이 많아 영상 제작을 하기에 충분했기 때문이었다. 그러나 기술이 발달되고 더 많은 이들이 사용할 수 있게 되면서, 공개된 사진이나 영상이 많지 않은 평범한 여성들도 표적이 되고 있다.

허프포스트는 동의없이 포르노에 합성된 여성들 6명과 이야기를 나누었다. 이들은 프라이버시 보호를 위해 익명을 사용했으며, 음지에 방치되어 있는 문제에 관심을 일으키기 위해 자신의 경험을 밝혔다.

이제까지 딥페이크에 대해 대중적으로 일어났던 논의는 주로 앞으로 정치적 문제를 일으킬 가능성이 있다는 것이었지만, 사실 딥페이크는 이미 여성들에게 위협이 되고 있다. 내년 대선을 앞둔 미국의 국회의원들은 대선 후보가 명예 훼손 발언을 하는 가짜 영상이 선거 전날에 올라오면 어떻게 하겠느냐는 말을 해왔다. 아놀드 슈왈제네거와 마크 저커버그 페이스북 CEO의 풍자적 딥페이크 영상이 최근 앞으로 어떤 일이 일어날지에 대한 경고라며 기사화되기도 했다.

한편 딥페이크 포르노가 여성들의 삶을 뒤엎고 있는데도 관련 기사는 거의 없고, 피해자가 형사 처벌을 요구하기도 어렵다.

“이러한 종류의 성적 대상화로 인해 여성들에게 현재 피해가 일어나고 있다. 이런 기술이 생긴 이유가 이것이라는 걸 사람들이 거의 잊어버린 것 같고, 여성들에 대한 논의는 일어나지 않고 있다.” 마이애미 대학교 법학 교수이자 사이버 인권 이니셔티브의 회장인 메리 앤 프랭크스의 말이다.

딥페이크는 여성혐오에 뿌리를 내리고 있다

딥페이크는 언제나 여성들을 향한 공격 무기로 사용되었다. ‘딥페이크’라는 단어는 케이트의 사례와 같은, ‘원더 우먼’의 주연배우 갤 가돗을 합성하여 넣은 포르노 영상을 공유하던 익명의 레딧 유저가 2017년에 만들었다. 현재 주요 포르노 사이트들은 딥페이크를 금지한다고 말하면서도 딥페이크 영상을 많이 올려놓고 있다. (Pornhub 등의 포르노 사이트들을 소유하고 있는 MindGeek는 1년 이상 전에 선언한 딥페이크 금지 정책에 대한 언급 요청에 대답하지 않았다.)

다른 플랫폼들도 거짓 정보 근절 요청과 표현의 자유 보호 사이에서 오락가락하며 딥페이크 대처에 일관성있는 입장을 보여주지 못해왔다. 미국 연방 정부에서는 국회의원들이 이러한 영상들에 대한 우려를 표하기 시작했고, 규제를 위한 법안을 제시한 의원들도 있었다. 이벳 클라크 하원의원(민주당-뉴욕)이 딥페이크에 대한 법안을 발의했으나, 아직까지 실행된 것은 없다.

법적 개입이나 효과적 정책이 없는 지금, 딥페이크 포르노는 인터넷에서 규제받지 않으며 번성하고 있다. 쉽게 사용할 수 있는 무료 딥페이크 생성 앱들도 있고, 인물 사진을 올리면 최적의 결과물을 만들 수 있도록 얼굴이 비슷하게 생긴 포르노 여배우를 찾아주는 사진 검색 엔진들(허프포스트는 어디인지는 밝히지 않겠다)도 나왔다. 돈을 주고 특정 여성의 얼굴을 넣은 딥페이크 영상을 만들어 달라고 신청할 수 있고, 이미지 소스를 위해 여성의 소셜 미디어 프로필을 올리는 게시판들이 있을 정도다. 허프포스트는 트위치, 유튜브, 인스타그램 인플루언서, 자신의 직장 동료, 친구, 전 애인의 얼굴을 넣은 포르노를 요청하는 사람들을 목격했다.

3월에 이런 게시판에서 누군가가 24세 캐나다 여성 티나의 섹스 영상을 요청하며 티나의 유튜브 채널 링크를 올렸다. 나흘 뒤 티나가 알몸으로 엎드린 채 뒤에서 한 남성이 삽입하고, 다른 남성이 그녀의 머리 근처에서 자신의 페니스를 만지는 딥페이크 영상이 올라왔다. 아무리 봐도 감쪽 같은 이 영상은 지금도 올라와 있으며 조회수도 상당하다.

티나는 지인이 링크를 보내주어 이 영상의 존재를 알게 되었다. “나는 정말 충격을 받았고 불안했다. 있지 않아야 할 곳에 내 얼굴이 있는 것을 보니 정말 이상하고 역겨웠다.”

이 영상을 직접 만들었다고 주장하는 게시자의 프로필에는 중년 남성이라고 나와있다. 티나는 전혀 모르는 사람이다. 티나는 이 영상을 내리도록 할까도 생각했지만, 다른 웹사이트에도 이미 공유되었음을 깨닫고 의미가 없다고 생각했다.

“난 인터넷이 어떤지 안다. 뭔가 한번 올라오면 절대 완전히 지워지지 않는다. 영원히 다시 올라올 것이다.”

누구에게나 일어날 수 있다

최근까지는 진짜 같은 딥페이크 영상 조작은 능숙한 기술자들만이 할 수 있었다. 예를 들어 할리우드에서는 배우가 사망한 뒤에 디지털로 만든 영상을 영화에 넣곤 했다. 그러려면 배우의 얼굴 영상이 상당히 많이 필요했다. 기술이 빠르게 발달하고 있는 지금은 이런 가짜 영상 편집이 아주 쉬워졌고, 그에 따라 여성들이 피해를 입고 있다. 상대의 얼굴 사진이 비교적 많지 않은 아마추어조차도 딥페이크 포르노를 만들 수 있는 시점에 이르렀다.

25세의 그리스 남성이며 영상 제작자라고 자처하는 온라인상의 어떤 인물은 자신이 딥페이크 포르노 제작을 시작한 ‘최초의 사람들 중 하나’라며 여러 게시판에서 기부를 요청하고 유료 제작 의뢰를 받고 있다. 그의 영상 조회수는 30만회가 넘는다.

이름을 밝히지 않은 그는 딥페이크가 ‘포토샵 조작이나 그림, 렌더링과 다르지 않다’고 허프포스트에 말했다. 자신이 업로드한 섹스 영상 삭제 요청을 받은 적이 있느냐는 질문에는 “내리는 일은 없다”고 답했다.

그는 여성들의 프라이버시는 무시하면서도, 자신의 프라이버시 보호에는 신경을 쓰는듯했다. “나는 비트코인 등 암호화폐로만 돈을 받는다(페이팔/신용카드는 프라이버시 때문에 받지 않는다).”는 글을 올린 적이 있다. 다른 글에서는 영상 하나당 15~40달러를 받는다고 밝혔다.

“여성들은 ‘난 너와 사귀고 싶지 않아, 널 알고 싶지 않아, 널 위해 옷을 벗고 싶지 않아.’라고 남성에게 말할 수 있다. 하지만 이제 남성들은 ‘그래? 강제로 하게 할 거야. 육체적으로 못한다면 가상으로 할 거야.’라고 말할 수 있다. 온라인에 들어가지 않는 이상 스스로를 보호할 방법은 사실상 없다.” 마이애미 대학교 법학 교수 메리 앤 프랭크스의 말이다. 그는 ”딥페이크, 특히 딥페이크 포르노에 대한 인식이 높아지면서, 온라인에서 보는 영상들에 대한 불신이 커지길 바란다”고 밝혔다.

“이걸 긍정적이라고 할 수 있을지는 모르겠지만, 유일하게 긍정적인 것은 이걸 아는 사람들이 많아질수록 [합성 포르노 영상이] 진짜인지 의심하는 사람들도 많아질 거라는 점이다.”

그러나 딥페이크는 헤어진 연인이 앙심을 품고 유출하는 성관계 영상이나 동의없이 촬영한 성관계 영상의 유출 위협을 넓히기도 했다. 악인은 이제 자신을 퇴짜놓은 여성의 누드나 섹스 영상이 없어도 온라인에 유출할 수 있다. 페이스북이나 인스타그램 사진을 기존 포르노 영상에 넣어 딥페이크를 만들면 된다. 만들기가 점점 더 쉬워지면서 가짜임을 알아보기도 더 어려워지고 있다.

LA에서 아이를 키우며 사업을 하는 에이미는 많은 여성들과 마찬가지로 과거에 조잡한 합성 이미지로 괴롭힘을 당한 적이 있다. 불쾌했지만 가짜임이 명백한 이미지였다. 자신이 등장해서 섹스하는, 그녀를 ‘잡년’(slut)으로 만드는 영상을 보기 전까지 딥페이크에 대해 들어본 적도 없었다. 진짜 같다며 익명의 영상 제작자를 칭찬하는 댓글들이 달려 있었다.

“테크놀로지와 조작하는 사람들의 기술이 나아져서 사람들이 정말 그게 나라고 믿을 정도가 되기 전까지는 아주 우려스럽지는 않았다. 우리는 영상을 보면 그게 진짜일 거라고 생각한다.” 에이미가 허프포스트에 밝혔다.

미 국방부 고등 연구 계획국(DARPA)은 최근 몇 년 간 딥페이크 등 조작 영상을 감지할 수 있는 기계 학습 알고리즘을 개발하고 있다. 딥페이크 소프트웨어가 계속 진화함에 따라, 그를 따라잡는 것이 관건이다.

“이런 영상을 만드는 사람들의 툴이 점점 더 정교해지니, 우리의 툴도 계속 더욱 정교해져야 한다. 군비 확장 경쟁이될 것이다.” DARPA 연구를 맡고 있는 퍼듀 대학교의 미디어 포렌식 전문가 에드워드 델프가 최근 허프포스트 인터뷰에서 밝혔다.

피해자가 할 수 있는 일이 없다

LA의 마야(29)는 최근 허프포스트의 연락을 받을 때까지도 자신이 딥페이크 포르노에 등장했다는 걸 몰랐다. 자신의 이름까지 나오는, 자위하는 여성의 영상을 보고 마야는 경악했다. 하지만 완전히 놀라기만 한 것은 아니었다. 최근 모르는 사람들이 섹스하자는 메시지를 많이 보내왔기 때문이었다.

“이렇게 노골적인 방식으로 공격당하니 정말 이상한 기분이 든다. 사람들이 나를 성애화하고 있다고 생각하면 내가 페티시의 대상이 되고, 원치 않는 관심을 받고 있고, 인간으로서의 존중을 잃고 있고, 이제 안전하지 않다고 느껴진다.”

마야와 같은 상황의 여성들은 영상이 공개되고 나면 할 수 있는 일이 별로 없다는 것이 안타까운 현실이다. 소송은 비용이 엄청나게 들고, 괴롭힘, 위장(impersonation), 명예훼손, 이미지 남용(보통 셀러브리티에게만 적용된다) 등으로 고소하려면 상대가 누구인지를 알아야 한다. 동의를 구하지 않은 딥페이크 포르노 피해자들 상당수가 그렇듯, 마야는 이 영상의 제작자나 게시자가 누구인지 전혀 모른다.

미국의 경우 거대 소셜 미디어 기업 및 딥페이크 게시판 등이 통신 품위법 230항에 의해 제3자의 콘텐츠에 대한 책임에서 보호받고 있어서, 영상이 올라온 사이트를 고소하는 것도 무의미하다. 사이트들은 유저들이 올린 콘텐츠 때문에 법적 문제에 휘말리지 않으며, 제거할 의무도 없다. 그래서 모욕적인 콘텐츠를 온라인에서 제거하려는 노력 역시 효과가 없을 때가 많다.

“피해자들이 할 수 있는 게 별로 없다. 실망스럽고 정신이 번쩍 드는 일이다.” 성적 프라이버시 전문 변호사 캐리 골드버그의 말이다. 딥페이크 웹사이트는 “사람의 굴욕을 화폐화하기 위해” 존재한다고 그녀는 말한다. “230항 때문에 책임을 지지 않아도 된다는 사실에 너무나 오만해진 웹사이트들이 있고, 그로 인해 생긴 문제를 잘 보여준다.”

악의적 딥페이크는 보통 익명으로 올라오며 바이럴 되도록 만들어졌기 때문에, 대니얼 시트론 메릴랜드 대학교 법학 교수 등 피해자를 위한 운동가들은 국회의원들에게 제작자뿐 아니라 유포자도 처벌하는 정책을 만들라고 촉구하고 있다. 시트론과 프랭크스는 고의로 가짜 영상 확대를 돕고 유포가 가능하게 만든 플랫폼들에게 책임을 물을 연방 형법 초안을 함께 작성하고 있다.

“우리의 말과 행동을 반영하지 않는 위장이나 조작이 있다면, 플랫폼들은(그 사실을 알게 되고 나면) 해당 영상을 내려야 한다.” 시트론은 6월에 열린 첫 딥페이크 관련 국회 공청회에서 말했다. 지금으로서는 영상을 올릴 때 필터링을 할 방법이 없으므로, 위조라는 것이 밝혀지는 즉시 플랫폼 측이 삭제하도록 해야 한다고 시트론은 말했다.

언론 자유 지지자들은 아주 주의깊게 하지 않으면, 웹사이트에서 특정 콘텐츠를 제한하도록 하는 것은 온라인에서의 표현에 더욱 광범위한 영향을 줄 수 있을 것이라 우려한다.

그러나 프랭크스는 걷잡을 수 없는 딥페이크 포르노가 이미 그런 영향을 미치고 있다고 말한다.

“딥페이크 포르노가 여성의 언론 [자유에] 엄청난 악영향을 미치고 있다. 안전하기 위해서는 스스로를 검열해야 하기 때문이다.”

여성들은 침묵을 강요받는다

탐사보도 언론인 라나 아이유브는 프랭크스가 말하는 침묵의 영향을 직접 경험했다. 지난 봄에 아이유브는 인도에서 그녀를 겁주고 망신을 주기 위한 공격을 받았다.

어린 소녀가 강간당한 사건에 대한 한 정당의 수치스러운 반응을 아이유브가 공개적으로 규탄하자 다음 날부터 공격이 시작되었다. 갑자기 아이유브가 쓴 것처럼 조작된 명예 훼손 트윗의 스크린샷들이 온라인에 돌기 시작했다. 그리고 아이유브는 자신의 이름과 전화번호가 들어간 딥페이크 포르노 영상이 소셜 미디어에서 순식간에 퍼지고 있음을 깨달았다. 조회수가 엄청났고, 아이유브는 섹스하자는 전화와 문자를 받기 시작했다.

“피해가 엄청났다. 나라 전체가 내 얼굴이 나오는 포르노 영상을 보고 있었는데, 난 도저히 아무것도 할 수 없었다.”

이 영상이 가짜임이 밝혀진 지금도 아이유브는 앞으로도 완전히 예전으로 돌아갈 수는 없을 것이다. 자신의 평판에 가해진 손상을 회복할 수가 없고, 소셜 미디어에서 관심을 더 끄는 게 두려워졌다.

“나는 내 의견을 강하게 주장하는 편이었지만, 이젠 온라인에 뭔가를 올릴 때마다 훨씬 더 조심스러워졌다. 필요에 의해 스스로를 상당히 많이 검열했다. ‘누가 내게 또 무슨 짓을 하면 어떡하지?’라는 생각이 계속 든다.”

동료가 딥페이크 영상을 찾아서 보내줬다는 텍사스의 여성 케이트 역시 그 이후 고생을 겪었다. 변호사에게 문의하니 영상 제작자가 누구인지 모르는 이상 싸우기가 굉장히 어려울 것이라는 대답이 돌아왔다.

법적인 대응 방법이 없어서 케이트는 마지못해 해당 영상이 올라간 딥페이크 게시판을 찾아가 삭제를 요청했다. 사이트 관리자는 이 페이지에 있는 영상이 케이트만은 아니라고 답했고, 그뒤로는 대답하지 않았다고 한다. 케이트는 무력감을 느꼈다.

“그게 온라인에 있고 내가 할 수 있는 일이 아무것도 없다니 그로테스크하다. 무시무시할 정도로 진짜 같고, ‘그건 내가 아니야!’라고 말하고 싶은 마음이 절실하다. 하지만 그러면 관심만 더 끌게 될 것이다.”

아이유브와 마찬가지로 케이트 역시 자신의 콘텐츠가 왜곡되고 자신에게 불리하게 사용되어도 처벌받지 않는 일이 또 생길까봐 온라인에 올리는 것들을 줄이기 시작했다.

“딥페이크 포르노와 리벤지 포르노 등은 앞으로도 여성들이 더욱 침묵을 지키게 만들 것이다. 이런 영상들이 많아지고 진짜 같아진다면, 우리는 인터넷을 사용하는 대가로 그걸 그냥 받아들여야 하는가?” 케이트의 말이다.

*허프포스트의 글을 번역, 편집한 것입니다.