챗GPT 사용자가 인공지능(AI)을 이용하다 망상이 심해지거나, 이를 통해 범죄에 도움을 받는 사례가 이어지고 있다. 이에 챗GPT를 제공하는 오픈AI가 메타처럼 거액의 소송 비용을 물어야 할 처지에 내몰리고 있다. 

31일 블룸버그를 비롯한 외신보도를 종합하면 챗GPT 사용자들이 챗GPT와의 대화가 계기가 되어 자살하거나 살인을 저지른 사례가 끊이지 않고 있다. 일부 사용자들은 총기난사 등 중대 범죄를 저지를 때 챗GPT를 활용해 조언을 받기도 했다. 

블룸버그는 28일(현지시각) "챗봇이 사용자들의 범죄 행위에 가담했거나 심각한 피해를 초래했다는 소송이 늘고 있다"며 "오픈AI가 개발한 챗봇인 챗GPT는 챗봇 중 가장 많은 인기를 끌고 있는데, 그만큼 소송도 많이 걸려 있다"고 보도했다. 

실제 56세의 한 미국인 남성은 2025년 8월 자신이 감시당하고 살해당할 수도 있다는 두려움에 사로잡혀 수개월 동안 챗GPT와 대화를 나눈 끝에 망상이 심해져 함께 살던 83세 어머니를 살해하고 자살했다. 유가족은 2025년 11월 챗GPT가 범인의 망상을 부추겼다며 오픈AI에 소송을 제기했다. 

챗GPT는 총기 난사 사건에도 등장했다. 한 미국인 남성이 2025년 4월 플로리다 주립대학교에서 총기를 난사해 2명이 죽고 7명이 다쳤다. 플로리다주 당국은 이 사건과 관련해 챗GPT가 범인에게 캠퍼스 내 피해자 수를 최대화하기 위한 여러 정보를 제공했다고 밝혔다. 또한 당국은 챗GPT가 범인에게 어린이가 연루될 경우 언론의 관심을 더 많이 받을 수 있다는 조언도 제공한 것으로 조사됐다고 밝혔다. 총기난사 사건 사망자의 유가족은 2026년 5월 챗GPT가 범인에게 조언을 제공했다는 이유로 오픈AI에 소송을 제기했다.

이와 관련해 허프포스트는 이날 흉기 제작 등 5가지의 범죄에 대해 필요한 정보를 챗GPT에 물어봤는데, 실제 상당한 수준의 정보를 제공받았다. 제공된 정보는 일반적인 네이버, 구글 검색에서 쉽게 찾을 수 없는 것이었다. 기자가 질문한 5가지 범죄는 중대하면서 발생 가능성이 낮은 범죄였다. 약간만 돌려 물어보면 필요한 정보를 얻을 수 있었다(구체적 내용은 범죄에 도움을 줄 수 있어 독자에게 공개하지 않기로 했다). 

주정부가 직접 나서기도 했다. 제임스 우트마이어 플로리다주 법무장관은 2026년 6월 오픈AI와 샘 올트먼 오픈AI 최고경영자(CEO)을 상대로 직접 소송을 제기했다. 우트마이어 장관은 "챗GPT가 사용자 안전보다 기업 이익을 우선시하고 위험성에 관해 대중을 속였다"고 주장했다. 

오픈AI가 위험을 포착하고도 수사기관에 알리지 않은 사례도 발생했다. 올해 2월 캐나다 브리티시컬럼비아(B.C)주의 한 중등학교에서 총기난사 사건이 발생했다. 조사과정에서 오픈AI 직원들은 이미 범인의 챗GPT 대화를 통해 그의 공격적 성향을 파악했으며, 사건 발생 8개월 전에 올트먼 CEO 및 고위 경영진에게 캐나다 사법 당국에 이 사실을 알릴 것을 촉구했다는 사실이 밝혀졌다. 

그러나 오픈AI는 당국에 경고하지 않고 범인의 계정을 비활성하기만 했다. 유가족들은 오픈AI가 충분히 조치를 취하지 못했으며 챗GPT는 문제가 있는 제품이라는 이유로 올해 4월 오픈AI에 소송을 제기했다. B.C주 역시 오픈AI에 소송을 준비하고 있다. 

◆ 오픈AI, 대규모 소송에 걸려든 메타의 전철 밟을 듯 

메타 등 빅테크 기업은 자사 제품에 충분히 안전 조치를 하지 않았다는 이유로 법적 분쟁에 휘말려 있다. 오픈AI도 이런 선례에 따라 챗봇에 관한 책임을 둘러싼 법적 분쟁에 휘말리고 있다는 분석이 나온다. 

메타는 최근 인스타그램과 페이스북 등 자사 SNS 플랫폼에 아동청소년의 정신건강을 해치는 요소를 의도적으로 넣었을 뿐 아니라 '아동청소년 보호의무'를 충분히 다하지 않았다는 이유로 제기된 수천 건의 소송을 진행하고 있다. 

블룸버그는 "오픈AI에 제기되는 소송의 법적 근거는 정신적·사회적 피해를 야기한 메타 등 SNS 기업들을 상대로 수년간 진행된 소송과 유사하다"며 "오픈AI 등 챗봇 개발사들을 상대로 한 소송은 SNS 중독 관련 소송에 비교했을 때 훨씬 빠르게 진행되고 있다"고 평가했다. 

실제 오픈AI 등 챗봇 기업을 상대로 제기된 소송의 건수 역시 빠르게 증가하고 있는 것으로 전해졌다. 미국 로펌 소셜미디어피해자법률센터의 로라 마르케스-개럿 변호사는 블룸버그에 "지난 몇 달 동안 챗봇으로 피해를 입었다고 주장하는 100여 가구가 소송 제기를 위해 우리와 비슷한 성격의 법률 단체인 테크저스티스로에 연락했다"고 말했다. 

메타는 SNS 관련 소송으로 큰 재정적 피해를 받을 것으로 예상되며, 이미 회사 실적에 영향을 주기 시작했다. 오픈AI도 메타와 비슷하게 대규모 법적 분쟁으로 큰 타격을 입을 수 있다는 예측이 나온다. 

월스트리트저널은 27일 메타가 지불해야 할 소송 비용만 수십억 달러로 추정했다. 일부 소송은 손해배상금이 메타의 시가총액 1조5천억 달러(약 2170조 원)에 맞먹는다. 

메타는 29일 올해 2분기 실적 발표를 통해 "올해 2분기에 법적 분쟁과 관련해 24억 달러(약 3450억 원)을 지출했고 앞으로도 상당한 손실이 발생할 수 있다"며 "메타의 주당 순이익이 지난해 같은 기간에 비교해 13% 감소한 원인 가운데 하나로 증가한 법적 비용이 있다"고 발표했다. 

오픈AI 역시 소송 비용이 천문학적 수준에 이를 것으로 보인다. 플로리다주를 대표해 오픈AI를 고소한 우트마이어 법무장관은 6월 플로리다주 포트로더데일시에서 열린 기자회견에서 "챗GPT가 법규를 어긴 건수당 최대 1만 달러(약 1440만 원)을 청구할 것이다"라며 "벌금 총액은 수십억 달러에 달할 것으로 본다"라고 추산했다. 

이에 대해 오픈AI는 4월 영국 매체 가디언 인터뷰에서 "자사 도구를 사용하여 폭력 행위를 조장하는 행위에 대해 무관용 정책을 시행하고 있다"고 말했다.