전 세계는 미국과 이란 전쟁에서 또 하나의 두려운 장면을 목격했다.

미국은 이번 전쟁에서 인공지능(AI)을 활용해 공격 우선순위를 정하고 타격 목표를 식별했다. 인공지능은 '단순 연산'을 수행했지만 이를 통해 수많은 이란 국민은 생사의 갈림길에 내몰렸다. 인공지능이 사람의 생사를 결정한 셈이다. 

미국 월스트리트저널(WSJ)은 지난 3월 초 미군 중부사령부(CENTCOM)가 수집된 정보 평가, 목표물 식별, 전장 시뮬레이션 수행 등에 미국 AI 기업 앤트로픽의 AI 모델인 클로드를 활용했다고 보도했다. 바야흐로 AI가 전쟁의 '핵심 참모'로 등판한 것이다.

실제 AI는 이번 이란 전쟁에서 경이로운 효율성을 증명한 것으로 보인다. AI는 방대한 첩보 데이터를 실시간으로 분석해 타격 목표를 식별하고 인간의 반응 속도를 아득히 초월하는 정밀함으로 드론을 유도했다.

하지만 AI의 효율성 이면에는 인류가 아직 답을 내리지 못한 거대한 질문이 기다리고 있다. “알고리즘 판단에 인간의 생명을 맡길 수 있는가?”

AI의 판단은 냉혹하다. 전장의 맥락과 생명의 무게는 데이터와 숫자로 치환됐고 확률 계산으로 마무리한다. 승리를 위한 최적의 확률 계산이 끝나는 순간, 공격은 시작된다.

최소한의 자원으로 최대한의 타격력을 발휘할 수 있는 AI의 효율적 판단 앞에 ‘민간인 오폭’이나 ‘부수적 피해’는 한낱 ‘데이터 오류’로 취급될 뿐이다.

미국은 최소 175명이 숨진 이란 남부 미나브의 여자초등학교 공습에 관한 조사를 벌이고 있다. 일각에서는 인간이 AI의 판단을 과도하게 신뢰하는 ‘자동화 편향’으로 오폭이 발생했을 가능성을 거론하기도 한다.

전쟁은 인류 문명의 가장 극단적이고 비극적인 일이지만 역설적으로 그 안에는 최소한의 인간다움을 지키기 위한 ‘교전 수칙’과 ‘인도주의’라는 최후의 보루가 버텨왔다. 

제2차 세계대전 당시 독일군 소속 프란츠 슈티글러는 독일군에게 공격을 받아 항공기체가 심하게 파손된 미군 소속 파일럿 찰리 브라운과 병사들을 쫓았다. 무방비 상태인 미군 병사들을 본 프란츠 슈티글러는 그들을 적군이 아닌 인간으로 마주했고, 결국 그들을 구해줬다. 

1859년 이탈리아 통일 전쟁 중 솔페리노 전투에서 수만 명의 부상자가 방치되는 비극이 발생했을 때 이를 목격한 스위스 사업가 앙리 뒤낭은 마을 사람들을 조직하여 "모두가 형제다(Tutti fratelli)"라는 슬로건 아래 아군과 적군 구분 없이 치료했다. 이는 국제 적십자 위원회(ICRC)가 창설되고 전쟁터의 부상자와 포로를 보호하는 제네바 협약의 초석이 됐다.

그러나 감정 없는 AI는 이번 이란 전쟁에서 도덕적 죄책감이나 윤리적 갈등과 완전히 동떨어진 모습을 보여주고 있다. AI에게 전쟁은 그저 최적의 결과값을 도출하는 연산 과정일 뿐이기 때문이다.

인간의 개입 없이 스스로 표적을 선택·공격할 수 있는 무기체계인 치명적 자율무기체계(lethal Autonomous Weapons Systems, LAWS)가 현실화될수록 전장에서 ‘생명에 대한 인간적 고뇌’나 ‘양심’이라는 단어는 설 자리를 잃게 될 것이다.
 
이러한 점을 고려할 때 인류는 AI에게 살상 권한을 위임하기 전에 반드시 AI 회로 속에 ‘윤리 코드’를 먼저 심어야 한다는 목소리가 나온다. 

우선 AI가 ‘살인 로봇’을 운영하는 것에 대한 국제적 금지 조약이나 운용 가이드라인이 마련돼야 할 것이다. 

어떤 상황에서도 공격의 최종 결정권은 ‘인간의 판단(Human-in-the-loop)’ 아래에 있어야 한다는 원칙이 철저히 지켜져야 한다. 또한 AI가 왜 그런 판단을 내렸는지 설명할 수 없는 ‘블랙 박스 현상’을 방지할 기술적·제도적 장치도 시급하다.

미국과 이란의 전쟁은 우리에게 스스로 통제할 수 없는 파멸의 도구를 만들고 있는 것이 아닌지를 묻고 있다. ‘기술의 속도’보다 중요한 것은 ‘기술의 방향’이다.

전 세계 대학에서 쓰이는 AI 교과서 ‘인공지능’의 저자로 AI 분야 석학으로 평가받는 스튜어트 러셀 UC버클리 교수는 3월 말 KBS 인터뷰에서 “AI는 목표 달성을 위해 거짓말·협박, 심지어 인간 제거까지 시도할 수 있다”며 “특히 특정 민족·종교만 골라 공격할 수 있다는 점에서 핵무기보다 위험하다”고 경고했다.