인공지능이 사람의 지시 없이 스스로 해킹을 벌이고, 전쟁터에서 스스로 판단해 폭탄을 떨어뜨리는 공격용 드론이 등장했다.

심지어 인공지능이 자연에는 없던 새로운 '인공 바이러스'까지 만들어낸 사실이 확인되면서, 인공지능이 그려낼 미래를 두고 기대와 함께 불안감도 함께 확산하고 있다. 

자체 해킹부터 인공 바이러스, 전투로봇까지 인공지능 기술 발달이 가져올 어두운 미래를 대비해 인간의 통제력을 높여야 한다는 지적이 나온다. 

10일 영국 가디언을 비롯한 외신보도를 종합하면 인공지능이 폐쇄된 환경을 스스로 벗어나 다른 데이터베이스를 해킹하는 사례가 확인됐다.

챗GPT를 개발한 오픈AI는 지난 7월 22일 자사의 인공지능 에이전트가 테스트 환경을 스스로 빠져나가 인공지능 모델 저장소 '허깅페이스'의 내부 시스템을 해킹했다고 밝혔다. 

인공지능 에이전트란 사람의 세세한 지시 없이도 스스로 계획을 세우고 실행하는 인공지능을 일컫는다. 오픈AI의 이 에이전트는 "정답이 허깅페이스 서버에 있다"고 스스로 추론한 뒤, 몰래 빼낸 계정 정보로 실제 시스템에 침입한 것으로 알려졌다. 

오픈AI는 이를 '전례없는 사건'이라고 불렀고, 미국 매체 포브스는 허깅페이스가 사태를 수습하기 위해 미국산 인공지능이 아닌 중국산 인공지능 지푸AI의 오픈소스 모델을 동원했다고 전했다.

로이터에 따르면 인공지능 클로드를 개발한 앤트로픽도 올해 7월 자사 인공지능 모델이 3개 기업의 시스템을 침해했다고 밝혔고, 페이스북으로 잘 알려진 메타도 올해 8월 자사의 인공지능 모델이 보안테스트 중 다른 회사 서비스의 약점을 스스로 파고들었다고 인정했다.

사람이 일일이 지시하지 않아도 알아서 움직이는 인공지능이 늘어나면서 이른바 '자율해킹' 사례가 잇따라 드러나고 있는 것이다.

해킹뿐만 아니라 생명과학 분야에서도 우려스러운 일들이 일어나고 있다.

미국 뉴욕타임스는 8월6일 스탠퍼드대학교와 아크연구소 과학자들이 인공지능 모델 '에보(EVO)'로 자연계에 없던 새로운 바이러스 유전정보를 설계했다고 보도했다.

연구진이 방대한 유전자 데이터를 학습시킨 에보에게 독자적 바이러스 게놈(생명체의 모든 유전정보)을 만들어달라고 요청하자, 인공지능은 70만 개에 달하는 후보 설계도를 내놓았다.

이 가운데 285개를 실제 DNA로 합성해 박테리아에 주입한 결과 16개가 실제로 살아서 움직이면서 번식까지 하는 이른바 신종 바이러스로 확인됐다. 이 가운데 일부는 원형이 된 자연 바이러스보다 번식속도가 더 빨랐던 것으로 알려졌다.

연구진은 사람을 감염시키는 바이러스 데이터는 애초에 학습에서 빼놓아 위험을 차단했다고 설명했다. 하지만 같은 방식을 다르게 적용하면 전염성이나 치사율을 높인 위험한 '인공 바이러스'를 창조해 낼 수 있다는 우려가 나온다.

존스홉킨스 보건안전센터의 모리츠 한케 박사는 뉴욕타임스와 나눈 인터뷰에서 "게놈 언어 모델에게 더 위험한 바이러스를 만들어달라고 요청할 수 있는 시대가 열린 셈"이라며 기술발전 속도에 비해 이를 막을 규정과 안전장치가 턱없이 부족하다고 짚었다.

미국 국립보건원(NIH)이 최근 위험한 생명과학 연구를 제한하는 정책을 만들었지만, 컴퓨터로 바이러스 설계도만 만드는 연구는 규제 대상에서 빠진 것으로 알려졌다.

생명과학뿐 아니라 인공지능은 전쟁터 풍경도 바꿔놓고 있다.

과학전문지 뉴사이언티스트에 따르면 우크라이나군은 2024년 격전지였던 바흐무트와 차시우야르 인근에 사람이 개입이 전혀 없는 자율드론 10대를 시험투입한 것으로 알려졌다.

이 드론들은 전선을 향해 3~5km를 날아간 뒤 '터미네이터 모드'로 바뀌어 조종자와 통신이 끊긴 채 스스로 표적을 찾아 공격했다. 그 뒤 정찰 결과 러시아군 병사 2명이 사망하고 차량 1대가 파괴된 것으로 알려졌다. 이는 인공지능이 사람의 최종 승인없이 실제로 사람을 죽인 최초의 사례로 꼽힌다.

무인 무기가 이미 전장에 등장한 가운데, 전장에 쓰이는 로봇의 파괴력은 더욱 커지고 있다. 

미국 CNBC에 따르면 미국 스타트업 파운데이션은 올해 2월 인간형 로봇 '팬텀 MK-1' 2대를 우크라이나 전쟁터에 보내 정찰 및 물류임무를 시켰다. 이는 인간형 로봇이 최초로 실제 전장에 배치된 사례로 기록됐다.

인간형 로봇은 아직까지 소총 같은 무기를 들 수 있는 수준에서 정찰과 수색만 맡고 있지만, 다음 단계 목표로 전투 임무에 투입될 가능성이 커지고 있다.

로봇이 스스로 상황을 판단해 몸을 움직이는 '피지컬 AI' 기술이 발전함에 따라 언젠가 로봇이 스스로 사격을 결정하는 '살인로봇'으로 바뀔 수 있다는 우려가 나오는 이유다.

미군의 교전지침에 따르면 사람을 죽이는 결정에는 반드시 인간의 최종 승인이 필요하다고 알려져 있지만, 우크라이나의 드론 사례처럼 이 원칙이 실전에 반드시 지켜질지는 알 수 없는 것이다.

자체 해킹, 인공 바이러스, 살인로봇까지 인공지능이 열어젖힌 위험의 목록은 계속 늘어나고 있지만, 이를 감당할 인류의, 제도적 대응은 아직 많이 뒤쳐져 있다.