인공지능(AI)이 쓴 글인지, 사람이 쓴 글인지 가려내는 기술이 등장하면서 ‘AI 사용’의 범위를 어디까지 볼 것인지를 둘러싼 논란도 커지고 있다.

AI가 글을 처음부터 작성한 경우뿐 아니라 사람이 쓴 글을 AI로 교정하거나 번역한 경우에도 AI 사용 흔적이 남을 것으로 보이기 때문이다. 

AI 기업들은 최근 생성형 AI가 만든 텍스트를 식별할 수 있는 기술을 잇따라 내놓고 있다. 영국 일간지 가디언은 지난 17일(현지시각) 앤트로픽이 생성형 AI ‘클로드’가 작성하는 텍스트에 보이지 않는 워터마크를 적용하기 시작했다고 보도했다. 워터마크는 사람이 눈으로 확인할 수 있는 표식이 아니라 텍스트의 통계적 패턴에 변화를 주는 방식이다. 따라서 워터마크가 감지됐다는 사실만으로 AI가 해당 글을 처음부터 작성했다고 단정하기는 어렵다.

앤트로픽 역시 워터마크가 감지되더라도 해당 텍스트가 클로드에 의해 처리됐다는 신호일 뿐, AI가 글을 처음부터 작성했다는 의미는 아니라고 설명했다. 사람이 쓴 글을 클로드로 교정하거나 번역하는 경우에도 워터마크가 남을 수 있기 때문이다.

구글도 생성형 AI 콘텐츠에 ‘신스아이디(SynthID)’를 적용하고 있다. 구글 딥마인드는 2024년 5월14일 생성형 AI가 만든 텍스트에 눈에 보이지 않는 워터마크를 삽입하는 기술을 공개했다. 구글 역시 신스아이디가 AI 콘텐츠를 식별하는 데 도움을 줄 수 있지만 완벽한 판별 기술은 아니라고 설명했다. 특히 텍스트를 크게 다시 쓰거나 다른 언어로 번역하면 탐지 신뢰도가 낮아질 수 있다고 밝혔다.

문제는 'AI 단순 사용'과 'AI로 작성'을 어디에서 구분할 것이냐는 것이다. 예를 들어 사람이 직접 작성한 자기소개서의 맞춤법만 AI로 수정했다면 이를 AI가 쓴 글로 볼 수 있을까. 외국어 원서를 AI로 1차 번역한 뒤 직접 문장을 수정했다면 어떨까. AI에게 일부 문장만 다듬도록 요청한 경우까지 AI가 작성한 글로 분류한다면 AI를 단순 보조 도구로 이용한 사람의 글도 같은 기준으로 평가받게 되는 셈이다.

학교와 기업에서도 문제는 좀더 심각해질 수 있다. 과제나 자기소개서, 입사지원서 등을 AI로 작성했는지 여부가 평가의 기준이 될 수 있기 때문이다. 특히 사람이 직접 작성한 글을 AI로 맞춤법이나 문장 표현만 수정한 경우까지 AI 작성으로 분류한다면 AI를 보조 도구로 사용한 사람과 AI에 글 전체를 작성하게 한 사람을 동일하게 평가하게 될 수 있다. 

AI 번역부터 문학상 수상작까지, ‘어떻게 만들었는가’가 중요해진다

출판계와 국제 문학상에서도 AI 번역과 AI 작성 의혹이 잇따르면서 논쟁이 이어지고 있다. 최근 국내 출판계에서 벌어진 ‘책도둑’ 논란도 이 같은 문제를 보여준다. 지난 7월 고전문학 전자책 서비스 ‘책도둑’이 제공한 번역물에 AI가 활용된 사실이 뒤늦게 알려지면서 논란이 일었다. 운영자 측은 이용자들의 문의가 이어지자 AI를 활용해 번역했다고 밝혔고, 이후 기존 구매자에 대한 환불에 나섰다.

논란의 핵심은 AI를 사용했다는 사실뿐 아니라 이용자가 해당 번역이 어떤 방식으로 만들어졌는지를 사전에 몰랐다는 데 있었다. AI가 번역한 결과물을 사람이 수정한 경우와 전문 번역가가 직접 번역한 경우를 독자가 어떻게 구분하고 평가할 것인지도 과제로 남았다.

문학상에서도 AI 사용 여부가 수상작의 저자성을 둘러싼 논쟁으로 이어졌다. 2026년에는 영국을 비롯한 56개 영연방 회원국의 작가들이 참여하는 국제 문학상인 ‘커먼웰스 단편소설상(Commonwealth Short Story Prize)’에서 AI 작성 의혹이 제기됐다.

미국 AP통신은 올해 5월22일 트리니다드토바고 출신 작가 자미르 나지르의 단편 ‘The Serpent in the Grove(숲속의 뱀)’가 커먼웰스 단편소설상 카리브해 지역 수상작으로 선정된 뒤 AI로 작성된 것 아니냐는 의혹이 제기됐다고 보도했다. 온라인에서는 작품의 문체와 표현을 근거로 의혹이 확산됐고, AI 탐지 도구의 분석 결과까지 논란에 등장했다. 작품을 온라인에 공개한 문학잡지 그란타 측이 AI 챗봇 클로드에 작품의 AI 작성 여부를 물어본 사실도 알려졌다.

하지만 AI 탐지 결과만으로 작가의 AI 사용 여부를 확정하기는 어려웠다. 영국 일간지 가디언은 7월1일 커먼웰스 재단이 관련 의혹을 검토한 결과를 보도했다. 재단은 수상자들의 초고와 메모, 작성 시점이 기록된 문서 등 창작 과정을 살펴본 뒤 AI가 작품 작성에 사용됐다는 증거를 찾지 못했다고 밝혔다. 이후 나지르의 작품은 6월30일 2026년 커먼웰스 단편소설상 전체 수상작으로 선정됐다.

이 사례는 AI 탐지 기술만으로 인간의 창작 여부를 판단하는 데 한계가 있다는 점을 보여준다. 문체나 표현이 AI가 생성한 글과 비슷하다는 이유만으로 실제 AI 사용 여부를 확인하기는 어렵기 때문이다. 완성된 텍스트의 특징만 보는 것이 아니라 초고와 메모, 수정 과정 등 작품이 만들어진 과정을 함께 살펴볼 필요가 있다는 지적이 나오는 이유다.

그래서 일본의 일부 문학상은 이미 이런 차이를 규정에 반영하고 있다. ‘카도카와 츠바사문고 소설상’은 생성형 AI 사용 범위를 엄격하게 제한하고 있다. 오탈자 확인이나 표현 다듬기, 아이디어 발상 등 보조적인 용도로만 AI를 활용할 수 있으며 작품 본문이나 구성의 주요 부분을 AI가 생성한 경우에는 심사 대상에서 제외된다. AI를 사용해 응모할 경우에는 사용한 도구와 목적을 밝혀야 하며 필요할 경우 프롬프트와 생성 결과 등 제작 과정까지 제출해야 한다.

일본에서는 AI가 문학상 심사 과정 자체에 부담을 주는 문제도 나타나고 있다. 일본경제신문(닛케이)은 지난 17일 일본 신인문학상에 AI를 활용한 작품이 유입되면서 심사 부담이 커지고 있다고 보도했다. 일본 출판사 하야카와쇼보가 주최하는 제14회 하야카와SF콘테스트에는 올해 1012편이 접수됐다. 지난해 484편과 비교하면 두 배 이상 늘어난 규모다.

출판사 관계자는 응모작 가운데 생성AI가 사용된 작품이 적지 않을 것으로 추정하면서도 실제 AI 사용 여부를 모두 확인하기는 어렵다고 설명했다. AI를 활용해 작품을 만들어내는 사람이 늘어날수록 심사 대상 자체가 늘어나고, 이를 확인하기 위해 사람이 추가로 작품을 읽고 창작 과정을 검증해야 하는 상황이 발생할 수 있다는 것이다.

AI 흔적 지우기부터 창작 과정 공개까지, ‘AI 사용’의 기준을 다시 묻다

AI의 흔적을 찾아내는 기술과 이를 피하려는 움직임도 나타나고 있다. 미국 경제매체 비즈니스 인사이더는 지난 19일 앤트로픽의 워터마크 도입 이후 개발자들이 텍스트를 다시 작성하거나 워터마크 패턴을 교란하는 방식으로 이를 우회하는 도구를 만들고 있다고 보도했다. 워터마크가 적용된 글을 다른 AI 모델로 다시 작성하면 흔적이 사라질 가능성도 제기됐다.

AI가 처음부터 작성한 글인지, 사람이 쓴 글을 AI가 일부 수정한 것인지, 번역 과정에서 AI를 활용한 것인지에 따라 창작 과정은 달라진다. 하지만 완성된 텍스트만 놓고 이를 구분하기는 쉽지 않다. 이에 따라 초고와 수정 과정, AI를 활용한 범위 등을 기록해 창작 과정을 확인할 수 있도록 해야 한다는 의견도 나온다.

한편 AI가 검색 엔진을 넘어 글쓰기 도구로 활용되면서 창작 과정에서 AI의 도움을 받는 경우도 늘고 있다는 점도 간과할 수 없다. 정보 검색부터 문장 다듬기, 아이디어 구상까지 활용 범위가 넓어지면서 AI를 완전히 배제한 채 글을 쓰기는 쉽지 않다는 것이다.

AI가 내놓는 결과 역시 사용자의 질문에서 출발한다. 무엇을 질문할지, 어떤 답변을 선택할지, 이를 자신의 글에 어떻게 반영할지는 결국 작성자의 판단에 달려 있다. AI를 활용하더라도 그 과정에는 여전히 사람의 선택과 개입이 존재한다는 의미다.

결국 AI 시대의 텍스트의 창작성(Originality)를 둘러싼 논쟁은 AI가 창작 과정에 어느 정도 개입했는지를 확인하고 그 개입을 어떻게 평가할지 새로운 논점을 낳고 있다.