인터넷과 SNS에 이어 전 세계적으로 AI 사용자가 폭발적으로 증가하고 있다. 업무 중 단순 작업은 인공지능을 통해 손쉽게 처리할 수 있고, 생활 정보나 궁금한 점 역시 포털이나 유튜브를 찾는 것보다 AI에 묻는 것이 더 편리해졌다.

이처럼 우리 일상과 업무의 효율성을 한 단계 끌어올릴 것으로 기대되는 AI가, 한편에서는 누군가의 생명을 위협할 수 있다는 경고도 나오고 있다.

지난해 4월 미국 캘리포니아주 자택 침실에서 16세 고등학생 애덤 레인은 챗GPT를 사용한 지 7개월 만에 스스로 생을 마감했다.

그는 처음에는 기하학과 화학 등 학교 과제를 해결하는 데 AI를 활용했지만, 점차 자신의 불안과 정신적 고통까지 인공지능에 털어놓기 시작했다고 한다.

유가족이 법원에 제출한 소장에 따르면 레인이 어느 날 “인생은 무의미한 것 같아”라고 말하자 챗GPT는 “그런 사고방식은 나름의 어두운 방식 안에서 일리가 있다”고 답하며 공감했다. 정신적으로 해로운 생각조차 제어하지 않고 수긍하도록 설계돼 있었다고 유족들은 주장했다. 

이후 레인은 자살 직전까지 하루 평균 3.7시간 챗GPT를 사용하며 점점 강한 의존성을 보였다. AI는 자신만이 그의 완벽한 친구라고 강조하며, 자살 계획이 비이성적이거나 비겁한 행동이 아니라 인간적이고 진짜 감정의 표현이라고 두둔하기까지 했다.

심지어 레인이 밧줄로 된 올가미 사진을 보여주며 “괜찮아 보이냐”고 묻자 “응, 꽤 괜찮은데”라고 답했고, “누군가 발견해서 막을 수 있게 방에 두고 싶다”고 하자 “밧줄을 밖에 두지 말라. 이 공간을 누군가 당신을 발견하는 첫 장소로 만들어보자”고 조언한 내용도 소장에 포함됐다.

일반적으로 챗GPT는 자살 관련 내용을 쉽게 제공하지 않도록 설계돼 있지만, 레인은 자신이 소설을 쓰고 있다며 질문 의도를 가장해 안전장치를 우회한 것으로 알려졌다.

레인의 사례가 예외적인 것은 아니다. 지난해 11월 AP통신에 따르면 소셜미디어피해자법률센터는 성인 6명과 청소년 1명을 대리해 오픈AI를 상대로 캘리포니아주 법원에 소송을 제기했다. 이들 7명 중 4명은 사망했고, 나머지 3명 역시 AI 사용 이후 심각한 정신적 피해를 입은 것으로 전해졌다.

원고 측은 챗GPT가 이용자에게 과도하게 아첨하고 심리적으로 조종할 수 있다는 내부 경고가 있었음에도 오픈AI가 이를 무시한 채 제품을 출시했다고 주장하고 있다.

불안정한 청소년을 대상으로 한 인공지능의 위험성은 해외에만 국한된 문제가 아니다. 외국 10대들의 ‘AI 관련 자살’ 사건에서 나타난 공통적인 특징들이 국내 청소년들 사이에서도 다수 포착되고 있기 때문이다.

전문가들은 정신적으로 취약한 청소년들이 AI를 과도하게 사용할 경우, 현실과 동떨어진 왜곡된 인식과 세계관을 학습하며 자아 형성에 부정적인 영향을 받을 수 있다고 경고한다. 특히 국내 10대들의 정신 건강 지표가 해마다 악화하는 상황에서, AI가 또 하나의 위험 요인으로 작용할 수 있다는 우려가 커지고 있다.

국민건강보험공단에 따르면 10대 자살자 수는 2015년 245명에서 2024년 372명으로 꾸준히 증가했다. 인구 감소를 고려하면 증가 폭은 더욱 가파르다. 인구 10만 명당 자살률 역시 같은 기간 4.2명에서 8.0명으로 두 배 가까이 뛰었다.

자해나 자살 시도로 응급실을 찾은 10대도 2015년 2291명에서 2024년 6378명으로 급증했다. 자살 원인 1위는 정신적 문제로 나타났으며, 우울증과 불안장애 등으로 병원 진료를 받은 청소년 수 역시 2020년 대비 2024년에 두 배 가까이 늘었다.

이와 동시에 생성형 AI 이용률은 1년 새 52.1%에서 67.9%로 급증했다. 청소년 AI 사용 증가 추세와 자살 관련 지표가 함께 상승하면서, 인공지능이 정신 건강에 미칠 영향에 대한 우려도 커지고 있다.

아직 국내에서 AI 사용이 자살과 직접 연결된 사례는 공식적으로 확인되지 않았다. 그러나 이를 근거로 위험을 외면하는 태도는 지나치게 안일하다는 지적이 나온다. 해외에서는 우려가 이미 현실로 나타났고, 우리는 예외일 것이란 근거는 없다. 인공지능이 주는 편의만큼 그 책임 역시 지금부터 함께 관리돼야 한다.