인공지능에 대한 열풍이 거세다. 알파고 이후 언론에는 자주 인공지능 전망이 나온다. 대체로 장밋빛 낙관론과 어두운 비관론이 팽팽하다. 그런데 주로 비관론은 일자리에 대한 것이 많다. 더 나아가서 인간의 역할에 대한 고민까지 이어진다. 사실 만물이 네트워크로 연결되고 인공지능이 인간 일 대부분을 맡아서 하게 되면 가장 문제가 되는 것은 사이버 보안이다. 사이버 시대에 실현될 수 있는 문제들을 살펴보자.

1. 사이버 범죄는 엄청나게 큰 시장이 되었다.

“봇넷(‘봇허더(bot herder)’에 의해 제어된다)은 간혹 수백만 대의 컴퓨터로 구성된다. 각각의 컴퓨터는 감염된 이메일을 열거나 악성코드에 오염된 웹사이트 방문, 문제가 있는 네트워크나 저장장치에 접속하는 등의 방법으로 악성코드에 감염된다. …. 봇넷은 감염된 컴퓨터들에게 스팸을 보내고 클릭당 단가로 돈을 지불하는 광고비를 훔치기도 하며, 정해진 글자를 타이핑하도록 강요한다. …. 2011년에 봇넷 희생자의 수가 654퍼센트 증가했다. 2007년 봇넷 또는 간단한 악성코드는 컴퓨터에서 수백만 달러를 훔쳤는데, 2010년에는 1조 달러에 달하는 돈을 훔쳤다. 사이버 범죄는 이제 불법 마약 거래보다 돈벌이가 좋은 범죄이다. 악성 인공지능을 직접 만들거나 그런 인공지능이 필요할 때 해커를 고용하는 광기에 사로잡힌 탐욕스러운 어떤 사람이 있다고 생각해보자. …. 사이버 범죄는 가속화 보상의 법칙에 의해 지원받는 정보기술이며, 다른 정보기술과 마찬가지로 시장의 힘과 혁신이 이를 더욱 강력하게 만든다.”(책 ‘파이널 인벤션’, 제임스 배럿 저)

사이버 범죄는 이미 우리에게 익숙하다. 그리고 점점 더 그 규모가 커지고 있다. 큰 돈을 벌기 위해서 어떤 짓이든 서슴지 않고 하는 범죄자들에게 꽤나 매력적인 사업 아이템이기도 하다. 비교적 간단히, 자신의 흔적을 남기지 않고 단시간에 높은 수익을 올릴 수 있기 때문이다.

2. 가장 큰 공격은 국가 인프라를 향할 것이다.

“”가장 심각한 타격은 국가의 인프라와 관련한 것들이 받을 것입니다. 최악의 경우는 특정 국가나 단체가 국가의 핵심 인프라를 공격할 수도 있는데, 전력망, 교통 네트워크, 금융 관련한 분야 등을 타겟으로 합니다. 사람들이 생명을 잃을 수도 있고, 경제도 막대한 타격을 입어요. 사회가 돌아가는 방식에 대해 본질적으로 위협을 가할 수 있습니다.” 도시지역은 국가 인프라 없이 더더욱 살 수 없다. 특히 전력망은 치명적인 요소이다. 그런데 어쩌다가 몇 명의 범죄자들이 무고한 사람들을 죽이고, 경제에 ‘막대한 타격’을 줄 수 있는 비대칭적인 위협이 가능해진 걸까? 린은 내가 과거 오라클의 사이버탐정(cybersleuth)이자 전 해군 스파이였던 조 마자프로(Joe Mazzafro)에게 들었던 것과 같은 답을 했다. 사이버 공격이 넘쳐나고 안보가 불안정해진 것은 ‘인터넷이 보안을 염두에 두고 개발되지 않았기 때문’이라는 것이다.” (책 ‘파이널 인벤션’, 제임스 배럿 저)

국가 인프라는 사이버 공격 대상으로 적당하다. 공격이 성공을 거둘 경우 영향력과 파괴력이 크기 때문이다. 특히 인터넷이 보안에 취약한 것은 저자는 애초에 그것을 염두에 두고 개발하지 않아서라고 지적한다.

3. 인터넷으로 연결된 스마트 그리드가 특히 위험하다.

“다시 인공지능과 악성코드의 연결고리로 돌아가보자. 스마트 악성코드가 만드는 사고에는 어떤 것들이 있을까? 국가의 에너지 전력망은 특히 재미있는 목표이다. …. 현재 개발중인 ‘스마트 그리드(smart grid)’는 곧 모든 지역적인 전력망들과 집안의 에너지 시스템이 인터넷에 연결될 것을 의미한다. 간단히 말해, 스마트 그리드는 전력의 효율을 증진시키는 완전 자동화된 전력시스템을 말한다. …. 미국의 5천만 가정 시스템이 이미 ‘스마트’하다. 문제는 새로운 스마트 그리드가 과거의 전력망보다 블랫아웃(blackouts)에 더 취약하다는 점이다.”(책 ‘파이널 인벤션’, 제임스 배럿 저)

스마트 그리드는 여러 모로 흥미롭다. 특히 전기를 효율적으로 사용할 수 있는 장점이 있으며, 전기자동차라는 시대적 흐름과도 맞아 떨어진다. 그런데 인터넷으로 연결되어 있기 때문에 그만큼 취약하기도 하다. 위험 분산이 전혀 이루어져 있지 않기 때문이다. 악성코드가 스마트 그리드를 통해 퍼질 경우 대혼란이 일어날 수 있다.

4. 인공지능 활용한 범죄의 규모는 어마어마하게 클 수밖에 없다.

“테러리스트 공격의 비용을 금융 스캔들과 비교해보자. 9.11 알 카에다(Al Qaeda)의 공격으로 미국은 약 3.3조 달러의 자본을 소모했다. 만약 아프가니스탄과 이라크의 전쟁의 비용을 계산한다면 물리적인 타격과 경제적인 충격, 강화된 보안을 합쳐 7천 670억 달러가 들 것으로 추정된다. 대공황 이후 가장 커다란 규모의 금융위기를 가져온 서브프라임 모기지(subprime mortgage) 스캔들로 전 세계적으로 10조 달러, 그리고 미국에서만 4조 달러의 비용을 지출했다. 엔론(Enron)의 스캔들은 710억 달러, 버니 매도프(Bernie Madoff)의 사기 행각도 648억 달러의 손해를 끼쳤다. 이들 수치는 각각의 사건들마다 들어간 비용을 나타낸다. 금융사기는 서브프라임 모기지 위기와 상대도 안 되는, 역사적으로 가장 비싼 테러리스트의 행위와 경쟁할 수준의 막대한 자금이 손실을 초래한다. 발전한 인공지능이 사업가들의 손에 쥐어졌을 때 이들은 가장 막강한 기술을 얻게 된다. 일부는 이를 이용해 사기를 칠 것이다.” (책 ‘파이널 인벤션’, 제임스 배럿 저)

금융 사기가 벌어질 가능성이 높다. 인공지능이 사악한 사업가들의 손에 들어가 활용될 경우에 그렇다. 이들 사기 규모는 ‘역대급’ 테러나 금융 사고 이상이다. 빠른 시간 내에 동시다발적으로 일어나서 피해자의 수가 상상을 초월할 수 있다. 인공지능 활용한 범죄에 계속해서 관심을 기울여야 하는 이유다.