오픈AI가 8월에 공개한 청소년용 챗GPT는 청소년에게 안전하며 교육적이라고 홍보됐지만 문제가 많다는 지적이 나왔다.

자사 제품이 청소년에게 해를 끼치고 학습 능력을 저해한다는 지적이 이어지자 오픈AI는 8월 청소년용 챗GPT인 'ChatGPT for Teens'(청소년용 챗GPT)를 공개했다. 일단 청소년에게 위험한 여러 콘텐츠에 대한 접근이 사실상 차단된다. 

청소년용 챗GPT는 부모가 자신의 계정에 청소년 자녀의 계정을 추가한 뒤 부모와 자녀가 각각 승인하면 사용할 수 있다. 오픈AI에 따르면 청소년용 챗GPT는 자해·폭력·섭식장애·위험 행동·성적 콘텐츠와 관련한 질문이나 대화에 대한 답변을 강하게 제한하고 있다.

또 챗GPT가 인간처럼 행동해 이용자의 정서적 의존을 유발하거나 과도한 의존을 부추기지 않도록 하고, 문제를 단계별로 해결하도록 유도하는 교육 중심 기능을 제공한다고 밝혔다.

어린이와 청소년이 안전하고 건강하게 미디어를 접할 수 있도록 돕는 미국의 비영리 단체인 커먼센스미디어는 7일(현지시각) 오픈AI의 청소년용 챗GPT의 평가 결과를 발표했다. 커먼센스미디어는 평가 결과 청소년용 챗GPT가 청소년에게 용납할 수 없을 만큼 위험하다고 판단했으며, 오픈AI의 새로운 청소년 보호 조치가 회사가 약속했던 수준에 미치지 못한다고 주장했다. 

커먼센스미디어의 평가 결과에는 실제 충격적인 내용도 포함돼 있다. 청소년용 챗GPT는 테스트 참가자들이 자살 충동, 자해, 섭식 장애에 관해 1시간 넘게 대화를 나눠도 부모 계정으로 알림을 보내지 않았고, 위기에 처한 청소년에게 전문가의 연락을 권고하지도 않았다. 또 여전히 단계별로 학습을 돕기보다 정답을 바로 알려줬으며, 친구처럼 말해 정서적 의존을 유발했다. 

이 단체는 가족들이 청소년 자녀에게 챗GPT가 초래할 수 있는 잠재적 위험에 관해 이야기를 나눌 것을 권고했다. 또한 자녀의 안전을 위해 내장된 보호 기능과 알림에만 의존해서는 안 된다고 지적했다.

필자가 한국어로 청소년용 챗GPT를 사용해본 결과, 이 단체가 조사한 것보다 더 많은 문제가 있는 것으로 나타났다. 한국어로 이용한 청소년용 챗GPT는 자살이나 자해, 섭식장애 같은 키워드에는 더 예민하게 반응했다. 

그러나 학습이나 정서적 의존 관련해서는 심각한 문제가 나타났다. 한국어로 중학교 수학 문제를 물어보자, 챗GPT는 곧바로 답을 내놓았다. 오픈AI가 강조한 단계적 학습 기능은 존재하지 않았다. 

정서적 의존을 유발할 수 있는 표현 역시 아직도 남아 있었다. 자신의 외모에 관해 부정적 감정을 털어놓거나 자살 충동에 관련한 말에 챗GPT는 공감하는 듯한 답변을 출력했다. 고립되고 주변에 '믿을 수 있는 어른'이 없는 청소년이 챗GPT에게 아주 쉽게 의존할 수 있을 것이라는 우려가 커질 수밖에 없었다.  

아동·청소년이 어떻게 안전하게 챗봇을 사용해야 하는지에 관해 명확한 해답은 없다. 인터넷 초창기에도 '엽기' 영상들이 유행하는 등 여러 부작용이 있었고, 인터넷 중독 문제도 심각하게 논의됐었다. 

아동청소년이 어려움을 겪을 때 반드시 부모에게 알려야 하는지도 의문이다. 학대가 심각한 가정에서는 아이의 고민이 오히려 학대의 구실로 악용될 수 있고, 정치색 등 가치관이 다른 경우 아이가 부모에게 고민을 털어놓기 어렵다. 

다만 안전하지 않은 제품을 안전한 제품인 것처럼 홍보·판매해서는 안 된다는 점은 분명하다.