허프포스트코리아

미국 인공지능(AI) '클로드' 개발사 앤스로픽이 중국 인공지능 연구소들이 불법 행위를 저지르고 있다고 주장했다. 중국 연구소들이 무단으로 앤스로픽의 인공지능을 활용해 자사 모델을 학습시켰다고 주장했다.

미국 인공지능(AI) '클로드' 개발사 앤스로픽이 23일 중국 연구소들의 불법 행위를 규탄했다. 사진은 이해를 돕기 위해 AI로 생성한 이미지.

앤스로픽은 23일(현지시각) 자사 공식 사이트를 통해 “중국 기업 3사(딥시크, 문샷, 미니맥스)가 클로드의 기능을 불법 추출해 자체 AI 모델 성능을 향상시킨 것으로 파악된다”고 주장했다. 앤스로픽은 이 연구소들이 약 2만4천 개의 가짜 계정을 동원해 클로드와 1600만 건 이상(미니맥스 1300만 건, 문샷 340만 건, 딥시크 15만 건)의 대화를 주고받았다고 밝혔다.

중국 연구소들은 이 과정에서 '증류'라는 기법을 사용했다. 증류란 고사양 모델이 생성하는 답변을 기반으로 저사양 모델을 학습시키는 행위다. 증류 기법을 활용하면 AI 모델이 학습하는 데 드는 시간과 비용을 획기적으로 절감할 수 있다. 다만 타사의 모델을 허락 없이 증류할 경우 사용 약관 위반으로 여겨진다.

앤스로픽은 이 같은 중국 연구소의 행위가 '국가안보문제'에 해당한다고 주장했다.

앤스로픽은 "미국 모델을 증류한 외국 연구소는 이러한 보호되지 않은 기능을 권위주의 정부의 군사와 정보 및 감시 시스템에 제공할 수 있다"며 "증류 공격은 미국이 수출 통제로 지키고자 했던 'AI 선도국 지위'를 중국을 비롯한 해외 연구소들이 우회로를 통해 빼앗으려는 시도"이라고 말했다.

앤스로픽은 증류로 개발된 AI 모델이 군사적으로 악용될 수 있다는 주장도 펼쳤다.

앤스로픽은 "해외 연구소는 증류로 개발한 모델을 군사 정보 감시 시스템에 투입할 수 있다"며 "권위주의 정부가 최첨단 AI를 사이버 작전, 허위 정보 캠페인, 대량 감시 등에 활용하도록 할 경우 위험이 배가된다"고 경고했다.

해외 연구소가 무단으로 미국 AI를 활용한 것은 이번이 처음이 아니다.

챗GPT 개발사로 잘 알려진 오픈AI는 미국 하원 중국특별위원회에 "딥시크가 증류 기법을 활용해 미국 오픈AI와 여타 미국 최첨단 연구소들의 기술 역량을 탈취하려는 시도를 지속적으로 하고 있다"는 내용의 서신을 전달한 것으로 알려져 있다.

앤스로픽은 영리화에 비판적이던 오픈AI 출신 직원들이 세운 회사다. '안전하고 윤리적인 AI' 를 표방하며 자사 모델이 살상 무기 개발이나 군사 작전에 직접적으로 사용되는 것을 제한한다.

다만 미군이 지난달 마두로 전 베네수엘라 대통령을 체포·압송했던 작전 '확고한 결의'에서 클로드를 활용하며 앤스로픽 측과 갈등을 빚었다. 전장에서 AI를 활용하는 문제를 두고 협상이 원만하게 되지 않았기 때문이다.