IS 프로파간다에 어떻게 맞서 싸워야 할까? IS의 악명 높은 참수, 폭력, 고문 동영상은 급진주의자가 될 수 있는 사람들에겐 위험한 매력이 있다. 그리고 소셜 미디어에 엄청나게 확산되어, 억제가 불가능할 정도로 보인다.

그러나 온라인에서 극단주의 컨텐츠와 싸우는 것은 별로 복잡하지 않다고 다트머스 대학의 컴퓨터 과학자 하니 파리드 박사는 말한다.

“우리는 지하디스트 영상인지 판단하는 소프트웨어를 개발할 필요는 없다. 돌아다니는 ISIS 영상 대부분은 이미 누군가 문제가 있다고 신고한 영상의 리포스트이다.” 파리드가 최근 허핑턴 포스트에 말했다.

“재배포된 컨텐츠는 쉽게 없앨 수 있다. 그러면 그들의 프로파간다의 영향이 크게 축소된다.”

파리드는 거의 10년 전에 자신이 만든 ‘해싱 hashing’이라는 테크닉을 이야기하는 것이다. 해싱은 프로파간다는 아니지만 그에 못지 않게 유해한 온라인의 재앙인 아동 포르노와 맞서 싸우기 위해 개발되었다. 해싱은 영상이나 사진의 독특한 디지털 지문, 즉 ‘해시’를 스캔해서 컨텐츠의 발견과 제거를 용이하게 한다. 지난 달에 페이스북과 유튜브는 해싱을 이용해 극단주의 컨텐츠를 자동으로 제거하는 것을 고려 중이라는 보도가 나왔다. 그렇게 된다면 그들은 파리드에게서 한 수 배우는 셈이다.

2008년과 2009년에 파리드는 인터넷에서 아동 포르노 이미지를 찾아 제거하는 해싱 소프트웨어인 포토DNA를 개발했다. 마이크로소프트가 포토DNA에 자금을 댔으며, 파리드에 의하면 아직도 페이스북과 트위터 같은 기업들이 사용 중이라고 한다.

현재 파리드는 자신이 만든 소프트웨어를 사용해 ISIS 프로파간다에 맞서 싸우고 있다. 그는 극단주의 미디어 데이터베이스를 관리하는 비영리 씽크 탱크인 반 극단주의 프로젝트(CEP)와 손을 잡았다. 페이스북 등의 플랫폼에서 사진이나 영상이 극단주의 프로파간다로 판정 받으면 그 해시가 CEP 데이터베이스에 들어간다.

‘최악 중의 최악’

파리드는 현재 소프트웨어 완성 단계까지 왔다. 그는 극단주의 컨텐츠에 대한 테크 업계의 태도가 바뀌는 것을 주시하고 있다. 그는 지금의 논의가 실리콘 밸리가 공공의 압력 속에서 아동 포르노를 대거 단속했던 10년 전을 떠올리게 한다고 말했다.

“테크 기업들이 지금 하는 말은 10년 전에 했던 말과 무서울 정도로 비슷하다.”

그때도 지금처럼 연방 전부가 테크 분야에 행동을 촉구했다고 한다. 당시에도 수정 헌법 제 1조 때문에 정부가 스스로 더 강한 규제를 하지 못했다. 2006년 당시 법무장관 알베르토 곤잘레스는 아동 포르노에 맞서는 대규모 테크 기업들의 모임인 테크놀로지 연합의 산파가 되었다. (마이크로소프트, 야후, 현재 허핑턴 포스트의 소유주인 AOL 등이 포함된 연합이다.) 이와 비슷하게 2015년 12월에 버락 오바마 대통령은 테크 기업들에게 ISIS 채용 프로파간다에 더 강하게 맞서 싸울 것을 촉구했다.

두 경우 모두 ‘최악 중의 최악’, 즉 가장 자극적이고 문제적인 컨텐츠에 초점이 맞춰져 있었다고 파리드는 말한다. 아동 포르노의 경우는 12세 이하의 아동이 노골적인 성행위를 하는 이미지였다. 반테러리즘의 경우, 참수, 육체적 고문, 자극적 폭력 행위 영상이다.

“이건 가장 쉽게 달성할 수 있는 목표다. 참수 영상은 세계 모든 테크 기업의 이용 약관에 위배된다.”

파리드는 우리가 극단주의 프로파간다의 문제를 완전히 없애는 게 불가능하다 해서 조금씩 제거하는 것도 중단해야 하는 건 아니라고 지적한다. ISIS 프로파간다 영상은 전례없는 위협인 것처럼 보이지만, 이미 존재하는 카테고리에 들어가고, 이에 맞서 싸운 것과 비슷한 전례가 있다고 한다.

“우린 이 일을 해본 적이 있는 거나 마찬가지다. 최악의 컨텐츠를 플래깅하고 제거하는 것은 온건한 조치지만, 그것만으로 상당한 진전이 된다.”

지금과 10년 전의 유사성은 놀랍다고 파리드는 말한다. 포토DNA가 런칭되었을 때 가장 먼저 도입한 기업은 마이크로소프트였다. 2011년에는 페이스북이, 2012년에는 트위터가, 2013년에는 구글이 도입했다. 구글이 프라이버시를 우려하며 컨텐츠 관리에 가장 소극적이었다고 한다. 이번에도 마이크로소프트가 일찌감치 반 프로파간다 후원에 나서, 파리드의 연구소에 10만 달러를 지원했다. 최초로 그와 접촉한 대기업은 페이스북으로, 올해 2월에 만남을 가졌다.

포토DNA를 지금의 극단주의 컨텐츠에 적용하는 데 있어 가장 큰 어려움은 영상이 많아진 데서 온다. 고정된 사진에 비해 영상은 더 복잡하고 다양하게 변형된 형태로 존재한다. 영상 1초에는 24개 정도의 스틸 이미지가 있어서, 파리드의 작업은 그만큼 더 어려워진다.

파멸에 이르는 길?

파리드는 자신의 작업이 ‘아주 온건한 조치’라고 주장하지만, 해싱 소프트웨어는 보통 프라이버시에 대한 우려를 일으켜왔다.

“도를 넘을 수 있다는 우려는 타당하다. 영상이 플래그되었다고 해서 그 영상이 절대 돌아서는 안 된다는 법은 없다. 뉴스의 일부로, 혹은 패러디로 돌 수도 있다.” 하바드 로 스쿨의 사이버 법 클리닉의 비벡 크리시나무르티의 말이다.

“그리고 다른 알고리즘과 마찬가지로, 이 기술이 제대로 작동하고 있는가의 문제가 있다. 우리는 [해싱 등] 이런 기술이 실제로 어떻게 작동하는지 충분히 알지 못한다.”

그러니 크리시나무르티는 정부가 힘든 입장에 처해 있다고 말한다. ISIS 프로파간다는 국가 안보에 실질적인 위협이 되며 무시할 수 없다.

“수정 헌법 제 1조 때문에, 정부가 누군가에게 무엇을 내리라고 말하기는 아주 어렵다. 그러나 유튜브와 페이스북은 정부가 아니다.”

그러나 정부는 현재의 행동 방침에 찬성하는 것으로 보인다.

“우리는 기업들이 자사의 플랫폼에서 테러리스트 활동에 대처할 수 있게 하는 CEP의 극단주의 신고 전국 사무실(NORex)와 같은 활동을 환영한다.” 백악관 국토 안보와 반 테러 자문 리사 모나코가 6월에 워싱턴 포스트에 말했다.

허핑턴포스트US의 How The War On Child Porn Is Helping Us Fight ISIS Propaganda를 번역, 편집한 것입니다.