앤트로픽이 자사 인공지능(AI) 모델 오용 사례를 발표하면서 생물 무기 개발이 의심되는 시도를 저지했다고 발표했다.

전문가들은 점점 강력해지는 AI에게서 악의적 세력 접근을 차단하는 것이 중요하다고 짚었다. 

앤트로픽은 10일(현지시각) 발표한 자사 클로드 AI 챗봇 오용 사례 보고서에서 과학자들이 앤트로픽의 차단된 지역 사용자 AI 모델 접근을 금지하는 통제 장치를 우회하고 생물 무기를 개발하려 시도했다고 밝혔다. 

이번 보고서에는 지난 8개월 동안 클로드 AI 챗봇의 다양한 모델에서 발생한 수많은 오용사례가 상세히 기록돼 있다. 예로 러시아 국영 언론이 클로드를 이용해 독립적 보도인 척 가장한 온라인 선전물을 제작한 사례가 있다. 

클로드를 이용해 총기, 미사일, 무인 항공기, 폭탄 등 재래식 무기 설계 및 개발용 소프트웨어를 개발하려는 시도도 중국, 러시아, 예멘 등에서 총 6회 발생했다.

그러나 이번 보고서에서 많은 관심을 받은 부분은 생물 무기 개발에 관련한 내용이었다. 생물 무기는 박테리아, 바이러스, 곰팡이 같은 병원균이나 독소를 사용하여 인간, 동물, 식물을 살상하거나 무력화하는 군사적 목적으로 개발된 무기다. 

미국 연구기관인 전략위험위원회의 앤드류 웨버 선임 연구원은 보고서 발표 전 검토에 참여했는데, 관련해 뉴욕타임스와의 인터뷰에서 "(보고서에는) 국가 지원을 받는 생물 무기 개발자들이 급속도로 발전한 주요 AI 모델의 능력을 악용하려 한 사례가 있다"고 말했다. 

이 가운데 한 사례로는 올해 5월 한 과학자가 클로드에게 치쿤구니야 바이러스 연구 자금 지원 신청서 작성을 도와달라고 요청한 건이 있다. 치쿤구니야 바이러스는 수 개월 동안 극심한 통증 등 증상을 유발하는 병으로 모기를 통해 감염된다. 이 과학자는 클로드의 도움을 받아 치쿤구니야 바이러스에 살아있는 동물에게 반복적으로 감염될수록 더욱 해롭게 변하는 돌연변이를 설계하려 했다. 

앤트로픽은 이 과학자와 연관된 계정을 차단했다고 밝히며, 특히 이 연구는 군사 연구 기관에서 수행될 예정이었다는 사실이 밝혀져 크게 염려됐다고 설명했다.  

제이콥 클라인 앤트로픽 위협 정보 책임자는 뉴욕타임스에 "해당 연구에 무기로 쓸 목적이 있었는지는 알 수 없다"고 말했다. 클라인 책임자는 이어서 다만 군사 기관이 병원체의 유전자를 변형해 전염성을 높이거나 독성을 강화시키는 '기능 획득 연구'를 수행하려 한 건 매우 염려되는 일이라고 짚었다.

지난해 앤트로픽이 실시한 평가에 따르면 구형 AI 모델은 위험한 생물학 연구를 유의미하게 지원할 수 있는 수준에 미치지 못했다. 

다만 앤트로픽은 신형 AI 모델의 경우 더 복잡한 과학 연구를 수행할 수 있다고 설명했다. 그러면서 정당한 연구지만 악용되면 심각한 위협을 가할 수도 있는 '이중 용도' 생물학 연구 관련 문의의 접근을 제한하기 위해 더 강화된 안전장치를 마련했다고 강조했다. 

보고서를 검토한 수잔 모나레즈 전 미국 질병통제예방센터 소장은 이번 조사 결과와 관련해 뉴욕타임스에 "악의적 세력이 일면 합법적으로 보이는 연구를 악용해서 퍼지면 막을 수 없는 병원균을 만들어낼 수도 있다"고 말했다.

웨버 연구원은 "러시아, 중국, 북한은 금지된 생물 무기를 계속 개발하고 있다"며 "이 곳의 연구자들이 매우 강력한 AI 모델에 접근하지 못하도록 막아야 한다"고 말했다.