여성 정치인들도 인공지능(AI)으로 생성된 성적 딥페이크의 표적에서 예외가 아니었다. 유럽의회 여성 의원 6명 중 1명이 성적 딥페이크 콘텐츠에 등장하거나 관련 사이트에 노출된 것으로 나타났다. 여성 정치인을 겨냥한 디지털 성폭력이 확산하면서 유럽연합(EU) 차원의 강력한 대응이 필요하다는 목소리가 커지고 있다.

영국 일간 가디언은 18일(현지시각) 독일 베를린에 본부를 둔 싱크탱크 '아고라 디지털 트랜스포메이션(ADT)'이 발표한 보고서 '표적이 되고도 외면받다 : 유럽의회 여성 의원 대상 성적 딥페이크와 플랫폼 대응의 실패'를 인용해 이같이 보도했다.

실제 ADT가 지난 5일 발표한 보고서를 보면 유럽의회 의원 720명을 대상으로 조사한 결과, 총 50명이 성적 딥페이크 콘텐츠에 등장하거나 관련 웹사이트 및 검색 결과에서 확인됐다. 이 가운데 46명이 여성이고 남성은 4명에 그쳤다. 여성 의원 6명 중 1명꼴로 관련 피해에 노출된 셈이다.

ADT는 현행 EU 규제 체계가 여성 정치인들을 충분히 보호하지 못하고 있다고 지적했다. 피해가 발생한 이후에야 대응이 이뤄지는 데다, 피해자가 직접 딥페이크 콘텐츠를 찾아 신고해야 하는 구조라고 전했다. 

특히 강력한 규제 의무는 대형 온라인 플랫폼에 집중돼 있지만, 실제 피해 콘텐츠 상당수는 규모가 작거나 해외에 기반을 둔 웹사이트에서 유통되고 있다고 설명했다.

또 EU의 디지털서비스법(DSA)과 일반개인정보보호규정(GDPR), AI 관련 디지털 옴니버스(Digital Omnibus) 등 현행 및 추진 중인 규제에는 불법 콘텐츠의 삭제 기한이 명확히 규정돼 있지 않다고 가디언은 전했다.

반면 미국과 영국은 최근 관련 법률을 마련해 당사자의 동의 없이 제작된 AI 기반 성적 이미지에 대해 신고 후 48시간 이내 삭제하도록 의무화하는 등 대응을 강화하고 있다. 

앞서 ADT가 지난 9월14일 발표한 별도 보고서에서도 유럽연합(EU) 27개 회원국의 국가의회 의원 5872명을 조사한 결과, 22개국 여성 의원 138명과 남성 의원 9명이 성적 딥페이크 콘텐츠에 등장하거나 관련 사이트에 노출된 것으로 나타났다. 여성 의원이 남성 의원보다 이러한 콘텐츠에 등장하거나 연관될 가능성은 약 33배 높았다.

실제 피해 사례도 공개됐다. 가디언 보도에 따르면, 오스트리아 녹색당 소속 유럽의회 의원 레나 실링은 지난 9월 자신의 나체 모습을 담은 딥페이크 이미지가 온라인에 유포되고 있다는 사실을 알게 됐다고 밝혔다.

해당 이미지는 실링 의원이 정치 활동 초기에 참석했던 기자회견 사진을 디지털 기술로 조작해 옷을 벗은 것처럼 만든 것이었다. 

실링 의원은 이러한 이미지가 여성 정치인들이 이미 불균형적으로 겪고 있는 성차별적 비난과 괴롭힘, 폭력에 더해지는 일종의 '여성에 대한 디지털 폭력'이라고 지적했다. 그는 이러한 피해가 여성의 정치 참여를 위축시키고 민주주의에도 위협이 될 수 있다고 경고했다.

특히 여성의 사진을 클릭 몇 번만으로 나체 모습처럼 조작할 수 있는 이른바 '누디파이어(nudifier·AI 옷 제거 앱)'의 확산에 우려를 표했다.

이에 실링 의원과 독일 녹색당 소속 테리 라인케 유럽의회 의원은 EU 차원의 대응을 촉구하는 공동서한을 주도했다. 지난 9월30일 공개된 이 서한에는 유럽의회 의원 119명이 서명했다.

EU는 지난 7월 개정한 AI 관련 규정에 따라 당사자의 명시적인 동의 없이 성적으로 노골적인 합성 이미지 등을 생성하거나 조작하는 AI 시스템을 오는 12월2일부터 금지할 예정이다.

다만 EU 집행위원회와 회원국들에 누디파이어 앱과 관련 서비스에 대한 금지 조치가 실질적인 집행 수단과 함께 시행돼야 한다는 목소리가 나온다. 금지 규정만 마련하는 데 그치지 않고, 이를 위반하는 서비스에 대한 감독과 제재가 뒤따라야 한다는 것이다.