유튜브가 인공지능(AI)로 제작한 영상을 대거 삭제하고 채널을 폐쇄하며 수익화를 멈추는 등 강력한 규제에 나서고 있다. 윤리적 이유가 아니라, 소비자들이 AI 컨텐츠가 많은 플랫폼을 꺼려하는 추세가 발견됐기 때문이다. 

한국은 세계에서 '저품질 AI 영상'이 가장 활발히 제작되고 시청되는데, 이런 변화로 AI를 이용한 가짜 뉴스 제작 등이 줄어들 수 있을지 주목된다.  

영국 BBC는 1일(현지시각) "점점 더 많은 플랫폼 기업들이 'AI 슬롭'을 규제하는 정책을 도입하고 있다"며 "AI로만 만들어진 가짜 글, 이미지, 동영상을 사람들이 보고 싶어하지 않는다"고 보도했다. 

AI 슬롭(slop)은 조회수나 수익을 노리고 대량으로 생성형 AI를 이용해 찍어내는 저품질·가짜 온라인 콘텐츠를 뜻하는 신조어다. 자극적 영상, 의미 없는 이미지, 어설픈 내용, 가짜 정보 확산 등의 특징을 가진다. 

사람들은 AI 슬롭에 부정적으로 반응하는 것으로 나타났다. 실제 지난 2월 종합 과학 저널 네이처에 실린 한 논문을 보면, 일부 AI 도구를 이용한 컨텐츠는 사용자 참여도와 생성된 컨텐츠 양을 증가시키지만 동시에 전반적으로는 토론의 질과 진정성을 저하시키고 대화에 부정적 파급 효과를 초래했다. 

글로벌 데이터 분석 기업 유고브가 2557명의 미국 성인을 대상으로 진행해 지난 5월 공개한 여론조사에 따르면, 응답자 69%가 AI로 만든 컨텐츠를 사람이 만든 컨텐츠보다 불신한다고 했다. 특히 응답자 61%는 AI 컨텐츠라고 생각되면 읽거나 참여하지 않을 가능성이 높다고 했으며, 이는 참여할 가능성이 높다고 답한 31%의 2배에 가깝다. 

사람들의 부정적 반응에 글로벌 플랫폼 기업들은 생성형 AI 관련 정책을 강화하거나, 생성형 AI를 사용하는 기능을 도입했다가도 철회하고 있다. 

유튜브의 AI 슬롭 규제 정책은 특히 컨텐츠 수익화를 막는다는 점에서 특징적이다. 유튜브는 지난달 15일 "비정상적 컨텐츠는 더 이상 광고 수익이나 구독 수익을 얻을 수 없다"며 "AI를 과도하게 사용해 독창성이 없는 동일한 컨텐츠를 올리거나, 클릭이나 조회수 유도를 위한 자극적이거나 감정을 강요하는 억지 신파극 컨텐츠를 올리거나, 의료·금융·법률 문제·의학적 조언 관련 주제를 다룰 때 AI 캐릭터를 사용하면 수익을 막을 것"이라고 발표했다. 

맷 할프린 유튜브 신뢰 및 안전 담당 부사장은 지난달 16일 공식 유튜브 채널에 등장해 "AI를 전면 금지하겠다는 말이 아니다"라면서도 "유튜브는 AI를 이용해 만든 내용이 뻔하고 창의성도 없이 빨리 생산하기만 한 양산형 컨텐츠를 용납하고 싶지 않다"고 말했다. 

할프린 부사장은 "특히 감정적으로 시청자를 조종하려는 영상의 경우 많은 시청자들이 부정적 반응을 보였다"며 "시청자들은 그런 영상 때문에 불쾌감을 느꼈고 해당 채널이나 유튜브 플랫폼 자체에 다시 오고 싶어하지 않다고 했다"고 덧붙였다.

유튜브는 지난 5월에는 AI로 제직된 사실을 숨기고 업로드된 영상을 감지하는 AI 시스템을 도입했다. 1월에는 AI를 사용해 빠르게 영상을 올리는 계정 16개를 삭제했는데, 이 계정들의 총 팔로워 수는 3500만 명에 달하는 것으로 전해졌다. 지난해 5~7월에는 AI를 사용한 영상은 의무적으로 사용 여부를 공개하도록 했으며, AI 기반 콘텐츠라 할지라도 수익을 창출하려면 반복적 내용이 아니라 상당히 독창적이고 인간이 만든 가치를 포함하도록 규정했다. 

구글이 지난 6월에 펼쳐낸 연구 보고서에 따르면 구글은 조직적 AI 콘텐츠 제작을 방지하기 위해 여러 유튜브 채널을 그룹으로 묶어 한꺼번에 조직적으로 삭제했다. 지난 6개월 동안 구글은 이 방식을 통해 13만 개의 유튜브 채널을 폐쇄시켰다.  

◆ 한국, AI 슬롭 세상 최상위권 : 이제 가짜 뉴스, 작위적 영상 줄어들까 

영상편집 플랫폼 캡윙이 지난해 11월 발표한 보고서에 따르면 AI 슬롭 채널의 조회수가 가장 많은 국가는 한국이었다. 

한국의 인기 유튜브 채널 상위 100개 가운데 AI 슬롭 유튜브 채널 11개의 누적 조회수는 약 84억5천만회로 2위인 파키스탄(53억4천만회)의 1.58배에 달했다. 전 세계에서 조회수가 가장 많은 인기 AI 콘텐츠 채널 10개 중 5개도 한국에서 만들어졌다. 

한국 정부는 이런 상황에서 대표적 AI 슬롭인 가짜 뉴스 등이 퍼지는 것을 막으려 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'을 올해 1월 시행했다. 

이 법에 따르면 AI 모델을 개발하거나 활용해 제품 및 서비스를 제공하는 경우 생성형 AI 결과물에 워터마크 등 AI 생성 표시 의무가 부과된다. 정부는 2027년 1월까지 계도기간을 둔 상태다. 

이번 유튜브 정책 변경 등으로 수익 창출이 어려워지면 AI기본법의 계도기간이 만료되기 이전에도 한국에서 'AI 슬롭'이 줄어들 것으로 예측된다. 

AI 슬롭의 기본 수익 구조는 AI로 빠르게 만들어낸 자극적 가짜 뉴스를 통해 많은 사람들의 조회수를 모아 수익을 창출하는 방식이다. 그런데 수익 창출이 불가능해지면 더 이상 슬롭을 만들어낼 요인이 사라지기 때문이다. 

앞으로도 유튜브 등 플랫폼 기업은 꾸준히 AI 슬롭을 줄일 것으로 예상된다. 

채드 모닝 오하이오대학교 데이터과학과 조교수는 지난해 9일 오하이오대학신문과의 인터뷰에서 "플랫폼은 저급 콘텐츠 외에도 실제로 시청자들의 관심을 끄는 흥미로운 콘텐츠가 필요하다"며 "이 때문에 플랫폼들은 시청자들이 선호하지 않는 AI 슬롭을 걸러내는 방향으로 나아갈 것이다"라고 설명했다.  

제니퍼 가렛 리시 오하이오대학교 초등교육학과 조교수도 "플랫폼 기업들은 조회수와 클릭수를 원한다"며 "사람들이 AI 슬롭 등 허위 콘텐츠가 만연하는 상황에 거부감을 느끼면 당연히 확산을 제한할 것이다"라고 말했다.