바야흐로 인공지능 전성시대다. 프로그래밍이나 동영상뿐 아니라 소설과 영화도 모두 생성형 인공지능으로 만들 수 있게 됐다. 콘텐츠가 풍성해진 것은 분명하지만 부작용도 만만치 않다. 가장 우려되는 대목 가운데 하나가 성(性) 착취를 위한 허위영상물(딥페이크)이다.

일론 머스크 테슬라 최고경영자(CEO)가 설립한 AI 스타트업 xAI에서 개발한 인공지능 그록(Grok)이 성착취 딥페이크 제작에 활용돼 논란이 되고 있다. 그록은 최근 간편하게 딥페이크 이미지를 생성할 수 있는 기능을 선보였는데 그 뒤 사회관계망서비스 엑스(옛 트위터)에는 여성과 미성년자 이미지를 활용해 노출이 심한 합성이미지를 게시하는 사례가 늘고 있다.

당연히 전 세계 각 나라에서 비판 여론이 확산됐고 규제 움직임도 나타났다. 말레이시아, 호주와 인도를 비롯한 각국 정부는 문제 콘텐츠에 대한 단속을 강화한다는 방침을 세운 것으로 알려졌다.

유럽연합(EU) 집행위원회는 한 발 더 나아가 엑스를 상대로 그록과 관련된 모든 내부 문서와 데이터를 올해 말까지 보존하라고 요구했다. 우리나라도 방송미디어통신위원회 차원에서 엑스에 공문을 보내 안전장치를 마련하고 청소년 접근제한과 보호계획을 수립하고 결과를 알려달라고 통보했다. 

하지만 일론 머스크는 오히려 반발하는 모양새다. 엑스와 xAI의 최고경영자인 머스크는 14일 엑스 계정에 올린 글에 "나는 그록이 생성한 미성년자 노출이미지에 대해 전혀 알지 못한다"며 "말 그대로 제로(Literally Zero)다"라고 적었다. 

그의 말은 매우 기만적이다. 엑스의 수장으로서 보고를 받지 않는다는 건 말이 되지 않는다. 모른다고 하면 직무유기요, 안다고 하면 대중을 상대로 거짓말을 하는 것이다.

첨단 기술을 보유한 기업의 최고경영자로서 태도도 문제다. 머스크는 앞서 10일 자신의 엑스에 "왜 이렇게 파시스트적인가. 그들은 검열을 정당화하기 위한 온갖 핑계를 찾고 있다"면서 AI가 생성한 비키니 차림의 키어 스타머 영국 총리 합성이미지를 재게시(리트윗)하면서 영국 정부를 조롱했다.

그록과 같은 인공지능을 활용한 성착취 딥페이크 게시물이 일반인 사이에서 활용될 경우 그 피해는 걷잡을 수 없이 커질 가능성이 높다. 인간의 존엄과 관련된 문제인 만큼 인공지능 발전 초기 단계에서 규제의 틀을 잡는 것이 중요하다. 법조계에서도 이런 목소리가 우세하다.

제원 법률사무소 진제원 변호사는 "우리나라의 경우 형법으로 이른바 '딥페이크 성착취물'을 규제하고 있지만 인공지능 분야에 대해서는 해석의 여지가 있다"며 "인공지능을 활용한 딥페이크 성착취물의 경우 규제를 빠르고 세밀하게 만들어 처벌하지 못하는 공백을 막을 필요가 있다"고 말했다.

주목할 것은 성착취 딥페이크 논란이 서버에 기반한 거대 생성형 인공지능에만 국한된 문제가 아니라는 것이다. 최근에는 노트북이나 모바일과 같은 개별 기기에서 구동되는 개인용 온디바이스 AI에서도 해상도 높은 이미지나 영상을 생성할 수 있다. 개별 기기의 성능이 비약적으로 발전했기 때문이다.

예컨대 스테이블 디퓨전 같은 이미지 생성모델을 개별 기기에서 직접 구동할 수 있게 됐고, 구글 플레이스토어나 애플 앱스토어에는 기기의 연산능력을 활용해 얼굴을 합성하거나 사진을 변형하는 온디바이스 기반 딥페이크 앱들이 존재한다. 

이런 온디바이스 AI 가운데는 개별적으로 수정할 수 있도록 오픈소스로 배포된 인공지능도 상당수 존재하기 때문에 온디바이스 AI 분야에도 적용될 규제가 있어야 할 것으로 보인다.

서버에 기반한 생성형 인공지능의 경우 윤리적 필터링을 거치지만, 개인 기기에서 직접 구동하는 오픈소스 모델은 사용자가 필터를 제거하거나 수정하여 악용할 소지가 크다.

이미 삼성 갤럭시나 애플 등의 최신기기로 생성한 AI 이미지에는 눈에 보이지 않는 디지털 워터마크나 'AI생성물'임을 나타내는 메타데이터가 자동으로 삽입되는 기술적 조치가 진행되고 있지만 국가 정책적 측면에서 세밀한 접근이 필요하다.

우리나라에서는 올해 1월22일부터 AI기본법(인공지능 발전과 신뢰기반 조성 등에 관한 기본법)이 시행된다. 하지만 이 법은 주로 '인공지능 사업자'를 대상으로 하며 순수 개인의 사용영역에 대해서는 직접적 규제가 사실상 없다.  

이 법은 개인 영역에서는 간접적으로 AI 사용시 인공지능으로 생성했음을 표시하는 정도에 그치고 있어 추가적으로 온디바이스 AI 및 성(性)과 관련해 엄격한 제도적 기반을 마련해야 할 것으로 보인다.