인공지능(AI)이 인류를 멸망시킬 수 있다는 경고와 이 경고가 비과학적 공포 마케팅이라는 반박의 목소리가 미국 워싱턴을 동시에 뒤흔들고 있다. 

미국 진보진영의 버니 샌더스 무소속 상원의원과 우파 전략가 스티브 배넌 전 백악관 수석전략관은 좌우를 초월해 'AI 규제'에 한 목소리를 내고 있다. 다만 이들 두 사람은 '인공지능을 두고 중국과 어떻게 맞설 것인가'를 두고는 정반대의 해법을 내놨다. 

한편 다수 전문가들은 AI가 생화학무기 공격을 통해 인류를 위협한다는 주장 등에 대해 검증 불가능한 시나리오라며 선을 긋고 있다.

샌더스 의원과 배넌 전 백악관 수석전략관은 15일(현지시각) 워싱턴에서 열린 '친인간 의회(Pro-Human Assembly)'에서 나란히 무대에 올라 실리콘밸리 인공지능 빅테크 과두재벌을 비판하며 AI 규제 필요성을 역설했다고 가디언은 전했다.

이번 행사에서 좌파진영의 샌더스 의원과 우파진영의 배넌 전 수석전략관은 인공지능 규제에 같은 뜻을 보였지만, 중국에 인공지능 영역에서 어떻게 대응할지는 다른 의견을 보였다.

샌더스 의원은 다음 주 도널드 트럼프 미국 대통령이 시진핑 중국 국가주석과 정상회담을 여는 것을 계기로, 냉전 시절 미국과 소련이 핵미사일을 폐기했던 조약처럼 미국과 중국이 초지능 AI 개발 금지 조약을 맺어야 한다고 주장했다. 

샌더스 의원은 인간을 뛰어넘는 인공 초지능(ASI) 개발을 영구 금지하고, 안전 기준이 마련될 때까지 첨단 AI 개발을 일시 중단하는 법안을 발의할 준비를 하고 있다.

반면 배넌 전 수석전략관은 미중 협상 자체에 반대 의사를 밝혔다. 

그는 미국 연구소에서 중국인을 즉각 퇴거시키고 반도체와 자본 흐름을 완전히 차단하는 '경제·기술 격리'를 주장하면서 "중국 공산당의 AI 생태계를 셧다운해야 비로소 미국이 자국 내 규제를 논할 여유가 생긴다"고 말했다. 

두 사람 모두 실리콘밸리가 '위험은 대중에게 떠넘기고 이익만 독식한다'고 비판했지만, 트럼프 대통령에 대한 태도는 갈렸다. 샌더스 의원은 트럼프 대통령의 AI 무지를 직접 비판했고, 배넌 전 수석전략관은 비판을 자제했다.

미국 정가를 강타하고 있는 이번 AI 논쟁은 AI 클로드로 유명한 다리오 아모데이 앤트로픽 최고경영자의 발언이 도화선이 됐다.

아모데이 최고경영자는 12일 공개한 에세이에서 AI '스웜(무리)'이 6~12개월 안에 전자기기를 해킹해 네트워킹을 이룬 '봇넷'(로봇+네트워크)을 통해 인터넷 전체를 점령해 수천억 달러의 피해를 낼 수 있다고 경고했다. 

이런 경고는 챗GPT를 개발한 오픈AI의 테스트 AI 에이전트 약 700개가 올해 7월 자체 게시판을 만들고 집단처럼 행동하며 AI모델 공유 플랫폼 '허깅페이스'를 해킹한 실제 사건에서 비롯됐다.

하지만 게리 마커스 뉴욕대 명예교수를 비롯한 전문가들은 이런 아모데이 최고경영자의 주장을 터무니없다고 반박했다. 

인터넷 인프라 대부분이 구글이나 아마존과 같은 대기업 소유이며 정부의 강제력 없이 장기간 마비될 가능성은 낮다고 바라봤다.  

앤트로픽의 최신 모델을 평가한 영국 AI 안전 연구소도 "소규모의 방어 취약 시스템만 침해할 수 있다"고 바라봤다. 앤트로픽의 공동창업자 잭 클락이 "AI가 위험해지는 시점은 약 20년 뒤"라고 말한 점도 아모데이 최고경영자의 경고와 배치된다.

앤트로픽의 인공지능 과학자 에반 허빙거가 12일 내놓은 "AI 때문에 인류가 멸망할 확률이 10%"라는 주장도 논란거리가 되고 있다. 

미국 AI 정책연구소인 AI나우인스티튜트의 하이디 클라프 수석과학자는 이 주장을 두고 "반증도 검증도 할 수 없어 본질적으로 비과학적이다"고 지적했다. 

한편 일론 머스크 스페이스X 최고경영자는 10일 AI 빅테크를 향한 규제 요구 자체를 "심리전"으로 규정했다. AI를 향한 규제가 강화되면 규제에 약하고 자금력이 부족한 스타트업만 도태되고, 결국 선두기업의 시장 지배력만 강해진다는 논리를 폈다.