대부분의 사람은 하루에 한번쯤 소셜미디어에 접속한다.

퓨리서치센터 조사에 따르면 미국 성인의 84%가 유튜브를 이용한다. 미국 성인 가운데 페이스북 이용자는 71%, 인스타그램 이용자는 50%에 달한다.

이들 플랫폼에서는 쇼핑한 물건을 소개하는 영상부터 요리법까지 온갖 콘텐츠가 끊임없이 쏟아진다. 그중에는 사람들을 속여 특정 주장을 믿게 하거나 제품을 구매하도록 유도하는 위험한 콘텐츠도 있다.

문제는 눈앞의 영상이 모두 진짜가 아니라는 것이다. 틱톡에서 팔로우하고 있는 '건강 전문 인플루언서'도 알고 보면 '정체불명의 기업'이 제품을 팔기 위해 만든 인공지능(AI) 아바타일 수 있다.

최근 뉴욕타임스가 조사한 결과, 소셜미디어에서 AI로 만든 가짜 인플루언서 영상 수백 편이 발견됐다. 영상 속 인물들은 의료인이거나 건강한 생활을 추구하는 웰니스 전문가처럼 꾸며져 있었다.

이들은 주로 만성 통증을 치료하거나 질병을 완치할 수 있다며 보충제를 판매한다. 특히 나이 든 여성을 노리고 하는 거짓 주장이 많다. 하지만 해당 제품들은 미국 식품의약국(FDA) 승인을 받지 않았을 뿐 아니라 심지어 일부는 건강을 오히려 악화시키거나 돈만 낭비하게 한다.

사이버 보안업체 트러스티드섹에서 자문을 담당하는 알렉스 해머스톤 이사는 AI 영상과 아바타가 정교해지면서 실제 영상이나 사람과 구분하기가 갈수록 어려워지고 있다고 말했다.

해머스톤은 "요즘에는 진짜와 가짜를 구분하기가 거의 불가능하다. 6개월이나 1년 전만 해도 손처럼 AI가 제대로 구현하지 못하는 부분을 확인하라고 했지만, 이제는 그런 방법도 거의 통하지 않는다"고 말했다. 특히 페이스북과 틱톡, 인스타그램을 작은 휴대전화 화면으로 보는 사람이 많아 진위를 가려내기가 더욱 어렵다고 설명했다.

그렇다면 소셜미디어에서 AI 건강 사기의 피해자가 되지 않으려면 어떻게 해야 할까. 전문가들은 다음과 같은 기준을 제시했다.

기적적 효능을 내세운다면 일단 의심해야 한다

피츠버그 카네기멜런대학교에서 비즈니스 커뮤니케이션을 가르치며 관련 분야의 AI를 연구하는 에밀리 드주 조교수는 건강 관련 제품이나 치료법을 판단할 때 적용하는 한가지 기준이 있다고 말했다.

드주는 "고등학교에서 배우는 경제학 원칙이 있다. 공짜 점심은 없다는 것이다. 믿기 어려울 만큼 좋아 보이는 이야기라면 실제로도 사실이 아닐 가능성이 크다"고 말했다.

이어 "사실이더라도 장점으로 보이는 부분에는 생각보다 훨씬 복잡한 문제가 얽혀 있을 수 있다"고 덧붙였다.

의학적 치료를 받아도 낫지 않은 만성질환을 알약이나 보충제 하나로 해결할 수 있다고 누군가 주장한다면 믿어서는 안된다. 그 말을 하는 주체가 사람이든 AI 아바타든 마찬가지다.

드주는 "기적처럼 들리는 순간 극도로 의심해야 한다. 그게 가장 안전한 방법이다"라고 말했다.

검증된 건강 관리법은 대개 이미 수도 없이 들어온 평범하고 지루한 것들이다. 운동하고, 건강하게 먹고, 충분히 자고, 정기적으로 병원과 건강검진을 찾고, 처방받은 약을 복용하는 것이다.

구매를 재촉하는 것도 위험 신호다

온라인 건강 정보를 접할 때는 몇가지 위험 신호를 주의해서 살펴봐야 한다.

의료 서비스 품질과 환자 안전을 연구하는 기관인 ECRI의 섀넌 쿠커 부사장은 즉시 제품을 구매하라고 재촉하는 행태를 대표적인 위험 신호로 꼽았다.

쿠커는 "한정 기간에만 판매한다거나 선착순 20명만 구매할 수 있다는 식이다. 온라인에서 무엇을 사든 경계해야 하는 수법이지만, 건강과 관련된 제품이라면 특히 더 조심해야 한다"고 말했다.

실명이나 의료 자격을 밝히지 않은 채 등장하는 사회관계망서비스(SNS) 체험담도 믿기 어렵다.

쿠커는 "의료 자격의 진위를 확인하기가 쉽지 않다는 것은 안다. 그래도 실명이나 자격 정보가 있는지는 반드시 살펴봐야 한다"고 말했다. 

AI는 참고 수단일 뿐 치료를 결정할 수 없다

어떤 치료나 건강 관리법을 시작하기 전에는 반드시 의료 전문가와 상담해야 한다.

쿠커는 AI 활용 자체에는 긍정적이다. 일반적 건강 정보를 알아보는 출발점으로는 유용할 수 있다고 봤다. 다만 실제 치료에 영향을 미치는 문제에서 AI를 최종 결정권자로 삼아서는 안 된다고 강조했다.

그는 "AI가 생성했거나 인플루언서가 내놓은 건강 관련 주장은 일반인이 해주는 조언과 똑같이 취급해야 한다"고 말했다.

이어 "흥미로운 이야기이고 생각할 거리를 줬다고 받아들일 수는 있다. 그러나 전문적인 의학적 판단을 대신할 수는 없다"고 덧붙였다.

온라인에서 접한 주장의 진위 여부가 궁금하다면 반드시 의사에게 물어봐야 한다. 의사를 만나기 어려운 상황이라면 가까운 약사와 상담할 수도 있다.

해머스톤은 AI를 앞세운 건강 사기에 속았다면 반드시 신고해야 한다고 강조했다. 이는 다른 종류의 사기도 마찬가지다.

만약 소셜미디어에서 가짜 영상을 발견했다면 메타 같은 플랫폼 운영사에 신고할 수도 있다.

해머스톤은 "신고한다고 해서 반드시 영상이 삭제되는 것은 아니다. 그래도 사기에 속았다면 자신이 할 수 있는 방식으로 반드시 알려야 한다"고 강조했다.

이어 "친구들에게 같은 일을 당하지 않도록 알리는 것도 방법이다. 사람들은 사기에 속으면 부끄럽다는 이유로 이야기하지 않으려 한다. 하지만 자신은 잘못을 저지른 사람이 아니라 피해자라는 사실을 알아야 하며 반드시 도움을 받아야 한다"고 말했다.

의료계에 대한 불신이 가짜 AI 인플루언서를 키운다

기성 권위, 특히 의료계에 대한 뿌리 깊은 불신도 AI 건강 인플루언서가 확산하는 배경이다.

드주는 "기존 권위에 대한 불신이 역사상 전례 없는 수준에 이른 시대를 살고 있다"고 말했다.

의사와 과학자 같은 전문가에 대한 신뢰는 수십 년에 걸쳐 약화해 왔고, 그 여파는 오늘날 곳곳에서 드러나고 있다. 미국에서는 백신 반대 전력이 있는 로버트 케네디 주니어가 보건복지부 장관에 오를 만큼 백신 반대론이 보건 행정의 최고위층까지 파고들었다.

이제 많은 사람은 의사의 설명을 들은 뒤 인터넷에서 직접 정보를 찾아본다. 스스로 조사하는 행위가 항상 나쁜 것은 아니다. 다른 의료진에게 2차 소견을 구하는 것도 도움이 된다. 다만 그 소견은 틱톡의 아바타가 아니라 의료 전문가에게서 받아야 한다.

드주는 의사와 의료 전문가를 향한 불신을 언급하며 "AI를 이용한 가짜 인플루언서 사기의 확산이 오히려 이 문제를 다시 돌아보고 진지하게 고민하는 계기가 될 수도 있다"고 말했다.

과거 의사는 진실을 알려주는 존재이자 건강에 문제가 생겼을 때 가장 먼저 찾아가야 할 전문가로 인식됐다. 여전히 많은 사람에게는 그렇지만 모두가 의료진을 그렇게 신뢰하는 것은 아니다.

드주는 "인터넷이 정보의 문턱을 낮추면서 누구나 직접 조사할 수 있게 됐고, 그 과정에서 의료진에 대한 기존의 인식도 약해진 것 같다. AI는 상황을 훨씬 더 복잡하게 만든다. 아무리 똑똑한 사람도 감정과 두려움 때문에 속을 수 있기 때문이다"라고 말했다.

소셜미디어의 AI 아바타는 주로 통증이나 다른 건강 문제로 고통받는 사람들의 절박함을 파고든다.

드주는 "이번 현상이 웰니스와 건강 분야에는 여전히 신뢰할 수 있는 전문가가 존재한다는 사실을 다시 인정하는 계기가 될 수 있다. 특히 미국은 세계적 수준의 의료 체계를 갖추고 있다"고 말했다.

이어 "그 강점을 활용해 다시 전문가들에게 의지할 수 있다. AI가 오히려 전문가를 다시 찾게 만드는 역설적 동기가 될 수도 있다"고 말했다.

쿠커도 "의료는 매우 복잡하지만 결국 사람이 사람을 돌보는 일이다. 챗봇이나 AI로 만든 인물은 의료 전문가가 쌓아온 전문성과 교육, 경험을 대신할 수 없다"고 강조했다.

현재 미국에는 AI를 규율하는 연방 차원의 규제가 없다. 일부 전문가들은 이러한 규제 공백이 개인정보 보호와 안전 측면에서 위험하다고 지적한다. 보충제 산업 역시 FDA의 규제를 받지 않는다.

드주는 "상황은 달라질 수 있다. 지금과 다른 방식으로 규제할 수도 있다. 그러나 우리는 이미 인터넷을 상당히 방임적으로 규제해 왔다"고 말했다.

이어 "특히 2026년인 현재를 돌아보면 인터넷에 대한 이런 방임적 접근이 좋은 결과를 낳지 못했다고 말할 수 있다"고 덧붙였다.

드주는 "웰니스 분야도 마찬가지로 규제가 느슨하다. 보충제 산업에서는 온갖 제품을 팔면서 원하는 주장을 거의 마음대로 할 수 있다. 실제로 누군가가 크게 다치거나 목숨을 잃고 나서야 문제가 된다"고 지적했다.

* 허프포스트코리아는 미국 허프포스트와 제휴를 통해 기사를 공유하고 있습니다. [번역·정리 강서원 허프포스트코리아 기자]