유엔(UN)이 군사용 인공지능(AI)과 관련한 새로운 조치를 내놨다. 유엔은 급속도로 발전하는 AI가 인류에 심각한 위협을 초래할 수 있다는 우려를 해소하는 것이 이번 조치의 목적이라고 밝혔다.

이번 계획에 따라 유엔군축연구소(UNIDIR)는 군사 분야에서 AI를 활용하는 방안에 관해 논의할 새로운 포럼을 출범시킨다. UNIDIR은 세계 각국 지도자와 전문가 등 다양한 관계자들이 참여해 협력할 예정이라고 밝혔다.

UNIDIR는 AI 산업의 책임 있는 활동을 위한 프레임워크 개발 산업도 진행하고 있으며, 무장 단체들의 AI 오용 위험에 초점을 맞춘 방안도도 곧 개시될 것이라고 발표했다. 

AP통신은 20일 "UNIDIR가 군사용 AI와 관련한 새로운 이니셔티브를 오는 22일 출범한다"며 "이번 이니셔티브는 주요 관계자들이 모여 이 문제를 논의하는 최초의 국제 포럼이 될 것이다"고 보도했다.

로빈 가이스 UNIDIR 소장은 이날 유엔 기자회견에서 "핵 분야를 포함한 모든 영역에서 인간의 판단이 개입할 여지는 점점 줄어들고 있다"고 경고했다.

가이스 소장은 이어 AI가 조기 경보 시스템, 정보 수집, 정찰 등 매우 다양한 분야에 활용되고 있는 가운데, 어느 시점에 인간이 통제력을 잃게 될지 판단하기는 매우 어렵다고 지적했다.

AI 분야의 주도권을 확보하려는 국가 간 경쟁이 AI 규제 마련에 걸림돌이 될 수 있지만, 가이스 소장은 지난 9월 미국·중국 정상회담에서 국가 안보를 위협할 수 있는 AI 관련 안전 경보 시스템 구축이 제안된 사례를 들어 이러한 우려에 반론을 제기했다.

가이스 소장은 "(이 사례에서 볼 수 있듯이 AI의 영향에 대한 우려가 이미) 주요 강대국들의 행동을 촉발하고 있다"고 평가했다. AI가 초래할 수 있는 위험은 9월 열린 유엔 193개 회원국 정상회의에서도 주요 의제로 다뤄졌다.

UNIDIR는 6월 'AI·평화·안보 탁월성 센터'를 설립해 국제기구 최초로 AI 안보에 집중하는 상설 플랫폼을 마련했다. 가이스 소장은 이 센터가 미국, 러시아, 중국, 영국, 프랑스 등 5대 핵보유국 모두로부터 자금을 지원받았다고 밝혔다.

UNIDIR는 오는 22일 이 센터의 사업으로 전 세계 관련 분야 관계자들을 모아 군사 분야에서 AI를 활용하는 방안을 논의하는 새로운 포럼을 출범한다.

가이스 소장은 포럼의 구체적 활동에 대해서는 언급을 피하면서도, 이번 주 센터에서 시작되는 다른 AI 관련 사업들과 함께 추진될 것이라고 설명했다.

그는 산업계의 역할에 초점을 맞춰 책임 있는 산업 활동을 위한 프레임워크를 개발하는 사업도 진행 중이라고 밝혔다.

가이스 소장은 "(기업의 설계 및 개발 결정은) AI 기반 군사 역량을 궁극적으로 신뢰할 수 있고 예측 가능하며 국제법에 부합하는 방식으로 운용할 수 있을지를 결정한다"고 강조했다.

이에 따라 UNIDIR는 산업계가 국제법을 준수하고 인권을 보호할 수 있도록 실질적·자발적 지침을 담은 프레임워크를 개발하고 있는 것으로 전해졌다.

가이스 소장은 유엔 산하 기구인 UNIDIR가 이번 주 방위 기술 기업, 소프트웨어 개발업체, 하청업체, 투자자 및 기타 관련 당사자들 및 정부, 시민사회, 학계 및 전문가들과도 협의를 진행한다고 밝혔다. 

이날 발표에 따르면 무장 단체들의 AI 오용 위험에 초점을 맞춘 이니셔티브도 조만간 시작된다. 가이스 소장은 무장 단체들이 이미 작전 계획과 실행, 군수 지원 등에 AI 기술을 활용하고 있다고 경고했다.

가이스 소장은 "군사용 AI라는 시급한 문제를 더 이상 외면할 수 없다"고 강조했다.