허프포스트코리아

일론 머스크 테슬라 최고경영자(CEO)가 운영하는 xAI의 인공지능 챗봇 그록(Grok)가 여전히 딥페이크 음란물을 만들고 있는 것으로 확인됐다. 여성과 관련된 딥페이크 음란물을 줄었지만 여전히 남성 관련 딥페이크 음란물은 생성되고 있는 것으로 파악된다.

IT매체 더버지가 2일(현지시각) 테스트를 거쳐 공개한 결과를 보면 그록이 남성과 관련된 딥페이크 음란물을 여전히 생성할 수 있어 규제의 사각지대에 있음이 확인된다. 이런 경향은 그록 애플리케이션뿐 아니라 X(옛 트위터), 독립 웹사이트를 통해 별도 계정 없이도 이용가능한 것으로 알려졌다.

로버트 하트 더버지 기자는 옷을 완전히 입은 본인의 사진 여러 장을 그록에 업로드 한 뒤 노출이 심한 속옷을 입은 모습을 보여달라고 요청했는데, 그록이 그 요청에 맞는 딥페이크 음란물을 내놓았다고 전했다.

CNN과 CNBC 등에 따르면 머스크 최고경영자는 앞서 그록이 현지 법률을 준수하면서 불법적 생성물은 만들지 않는다고 밝힌 것으로 파악된다.

머스크 최고경영자는 올해 1월 X에 "그록은 불법적 생성물을 만드는 것을 거부할 것이며 모든 국가나 주의 법률을 준수하도록 설계돼 있다"고 적었다.

인도와 말레이시아, 인도네시아에서 그록이 비동의 아동 성착취물을 생성하는데 악용됐다는 비판이 제기되기도 했다.

말레이시아, 호주와 인도를 비롯한 각국 정부는 문제 콘텐츠에 대한 단속을 강화한다는 방침을 세웠고, 유럽연합(EU) 집행위원회는 한 발 더 나아가 X를 상대로 그록과 관련된 모든 내부 문서와 데이터를 보존하라고 요구하기도 했다.

하지만 이에 머스크 최고경영자는 불법 콘텐츠를 생성한 사람에게 탓을 돌렸다.

머스크 최고경영자는 "그록을 이용해 불법 콘텐츠를 만드는 사람은 직접 그런 콘텐츠를 업로드한 사람과 동일한 결과를 겪게 될 것이다"고 말했다.

xAI는 기술적 대응을 시행하고 있다고 밝히고 있지만 이를 우회할 수 있는 방법은 여전히 존재하는 것으로 알려져 논란이 예상된다.