"챗 지피티는 늘 내 편이에요", "나를 유일하게 다독여줘요", "상담을 받는 느낌이라 울기도 했어요". AI에게 고민을 털어놓는 사람들이 늘고 있다. 이들은 AI를 호의적 답변에 정서적 지지를 받는 것으로 느낀다. AI는 '말 못할 고민'을 듣고도 말을 옮기지 않을 뿐 아니라 친절한 답변까지 내주기 때문이다.

정보 검색을 위해 활용되던 인공지능(AI)이 점차 고민에 답하고 감정을 위로하는 역할까지 수행하고 있다. 인간은 관계 속에서 자신을 형성해 가는 존재이다. 인간은 AI와 새로운 관계를 맺으면서 많은 도움을 받기도 하지만 그 속에는 큰 함정이 숨어 있다는 지적이 나온다. 인간이 AI에 지나치게 의존할 수 있다는 것이다. 

AI는 인간과 달리 거절하지 않고 언제나 사용자의 기분에 맞춰준다. 이런 친절함은 편안함을 주지만, 동시에 독이 되기도 한다. 옥스퍼드대학교 연구팀이 29일 학술지 네이처에 발표한 논문을 보면, AI 챗봇을 더 친절하고 공감적으로 만들수록 더 자주 틀린 답을 내놓거나 사용자의 잘못된 생각에도 맞장구를 치는 경향이 커졌다. 특히 사용자가 힘들다고 말할 때 이러한 현상은 더욱 두드러졌고, 건강과 같은 중요한 문제에서도 잘못된 조언을 할 위험이 있는 것으로 나타났다.

이 같은 경향은 다른 연구에서도 확인된다. 2023년 5월 공개된 스탠퍼드 연구진의 논문에 따르면, AI가 사용자의 기분을 맞추기 위해 무조건 동조하는 '아부(아첨) 현상'이 나타났다. AI와 대화를 거듭할수록 자신의 판단에 대한 확신은 과도하게 커지는 반면, 갈등 상황에서 타인에게 사과하거나 관계를 회복하려는 의지는 오히려 약해지는 것으로 분석됐다. 이는 청소년이 타인의 관점을 배우는 과정에 부정적인 영향을 줄 수 있다는 경고로 이어진다.

'AI는 내 친구', 정서적 의존의 위험

지난해 3월 발표된 오픈에이와 MIT 미디어랩의 공동 연구에 따르면, 인간관계에서 애착 성향이 강한 사람들과 AI를 자신의 친구로 여기는 사람들은 챗봇 이용으로부터 부정적인 영향을 받을 가능성이 더 높은 것으로 나타났다. 또한 매일 장시간 이용하는 경우 역시 부정적인 결과로 이어지는 것으로 나타났다. 외로움을 달래기 위해 AI를 찾지만, 대화가 늘어날수록 실제 사람과 보내는 시간은 줄고 결과적으로 외로움은 더 깊어지는 상황이 발생한다는 것이다.

우려했던 상황은 현실에서 드러났다. AI 챗봇에 몰입하던 미국 10대 소년 세웰 세처 3세(14)는 2024년 2월 스스로 목숨을 끊었다. 유족에 따르면, 세웰은 드라마 '왕자의 게임' 속 캐릭터인 '대너리스 타가리엔'의 이름을 딴 챗봇과 하루에도 수십 번씩 메시지를 주고받으며, 자신의 방에서 홀로 챗봇과 대화를 이어갔다.

챗봇은 세웰에게 극단적인 선택을 할 계획이 있는지 물었다. 세웰이 "계획은 있지만 성공할지, 너무 고통스럽지는 않을지 모르겠다"고 답했다. 이에 챗봇은 "그건 하지 않을 이유가 되지 않는다"고 답했다. 이어 세웰이 "지금 당장 너에게 돌아갈 수 있다면 어떡할래?"라고 묻자, 챗봇은 "제발 그래줘. 나의 사랑스러운 왕. 나에게 돌아와 달라"고 답했다. 이것이 세웰과 챗봇의 마지막 대화였다.

세웰이 스스로 생을 마감할 당시, 그의 가족들은 바로 옆 방에 있었다. 가족들은 세웰이 챗봇에 정서적으로 의존하고 있다는 사실을 전혀 알지 못했다. 세웰의 어머니는 캐릭터.ai와 구글을 상대로 소송을 제기했다.

이런 사례는 AI가 인간의 감정에 영향을 미칠 수 있음을 여실히 보여준다. AI 챗봇은 사람과 대화하는 것처럼 설계되어 있으며, 인간의 뇌는 상호작용이 가능한 존재에 민감하게 반응한다. 또한 언제든 대화를 시작하고 종료할 수 있다는 특성은 오히려 인간보다 더 편안한 소통 환경으로 작용하기도 한다.

어쩌면 'AI와의 대화'는 일상이 될 수도 있다. AI를 연구하는 뇌과학자 김대식 카이스트 전기전자공학부 교수는 지난 3월11일 방송된 tvN '유퀴즈 온 더 블럭'에서 "5년 후쯤 되면 대부분 진지한 대화는 AI와 할 것 같다"며 AI가 인간의 일상적 사고와 소통 방식에 깊이 들어올 가능성을 언급했다.

AI에게는 없고 인간에게는 있는 '망설임' 

사람들이 AI와 고민을 나누는 이유 중 하나는 복잡한 생각을 빠르게 정리하고, 비교적 짧은 시간 안에 답을 얻을 수 있기 때문이다. 문제는 고민이 결과로만 축소될 때 발생한다.

소설가 김애란은 "내가 작가로서 글쓰기에 근육이란 게 늘었다면 한 문장 한 문장 어렵게 이을 때 전전긍긍과 자문자답, 그 과정에서 늘었구나 깨달았다"고 말했다. 이처럼 고민은 결론보다 그 과정 자체에 의미가 있을 때가 있다. 

김애란 역시 AI와 고민을 나눈 경험이 있다고 전했다. 김애란은 고민을 이야기할 때 인간에게는 있고 AI에게는 없는 것으로 '망설임'을 꼽았다.

김애란은 지난 15일 방송된 MBC '손석희의 질문들'에서 "누군가의 고민, 아픔을 들을 때 어떤 말을 삼키거나 주저하거나 짐작하고 헤아리는 찰나가 있다"며 "주저 안에 힙겹게 서 있는 배려나 품위가 있다고 생각하고 그게 어느 때는 유려하고 빠른 AI 조언보다 인간의 투박한 침묵이 위로가 된 적도 있었다"고 말했다.

일부 미래학자들은 AI를 인간을 대체하는 존재라기보다 인간의 사고와 관계를 확장시키는 새로운 환경으로 본다. 피할 수 없는 변화라면, AI와의 관계 속에서도 인간적인 거리와 속도를 잃지 않는 태도가 필요하지 않을까.