페이스북(Facebook)이 인공지능(AI)을 활용한 자살방지 프로그램을 전 세계 사용자에게 확대한다.

페이스북은 27일(현지시각) 구이 로젠(Guy Rosen) 제품관리부사장의 이름으로 보도자료를 내고, 자살 충동을 느끼는 이용자들을 돕기 위한 추가적인 작업에 나선다고 밝혔다.

이날 페이스북이 밝힌 자살방지 프로그램의 핵심은 사용자의 글이나 동영상, 페이스북 라이브 스트리밍 등의 모든 콘텐츠의 패턴을 인식해 누군가가 자살에 대한 생각을 표현하고 있는 게시물이나 실시간 동영상을 감지하는 것이다.

인공지능이 사용자가 올린 콘텐츠나 댓글의 내용을 분석해 미리 알아챌 수 있도록 하는 시스템이다.

페이스북의 설명에 따르며, '괜찮습니까', '도와 드릴까요' 등의 표현이 등장할 경우에는 자살이나 자해를 식별하는 강력한 표시 가 될 수도 있다.

페이스북은 단순히 자살 징후만 파악하는 것이 아니라, 이러한 상황에 적절하게 대응할 수 있는 첫 번째 응답자를 식별해 내는 알고리즘도 도입한다.

경우에 따라서는 해당 지역의 자살방지 구조단체에도 위험 징후를 보낼 수 있다.

페이스북은 이 시스템을 도입하게 되면 인간이 판단하는 것보다 훨씬 빠른 속도로 위험 징후를 읽어낼 수 있다고 설명하고 있다.

그밖에 페이스북의 라이브 스트리밍을 시청하는 이용자가 '자살 또는 자해'나 '폭력' 등의 분류 버튼을 눌러 시청 중인 게시물 사용자의 위험 상황을 알릴 수 있는 시스템도 도입했다.

페이스북은 이러한 자살방지 프로그램을 유럽연합(EU)을 제외한 미국 이외의 지역 20억명 규모의 사용자에게 확대하겠다고 밝혔다.

앞서 미국에서는 지난 3월부터 텍스트 게시물에 한정해 시범테스트를 진행한 바 있다.

로젠 부사장은 "지난달 동안에만 인공지능 소프트웨어를 통해 100건 이상의 선제적인 안전 체크를 진행했다"며 "위험 징후를 보인 이용자가 라이브 스트리밍을 하는 동안에 자살 방지 요원이 현장에 도착한 경우도 있었다"며 프로그램의성과를 설명했다.

미국에서는 현재 자살방지생명선 등 80여 개 단체가 페이스북의 자살방지 프로그램에 참여하고 있다.

EU가 대상 국가에서 빠진 이유에 대해 워싱턴포스트(The Washington Post)는 "EU의 경우에는 개인정보 보호법의 체계가 미국과 달라 대상 국가에서 빠진 것으로 보인다"라며 "페이스북이 EU 가입국을 대상에서 제외한 이유에 대해서는 따로 언급하지 않았지만, 자살방지 기능의 구현을 위해 해당 국가들과 대화하고 있다"고 전했다.

페이스북이 자살방지 프로그램을 확대하게 된 계기는 올해 초 페이스북의 라이브 스트리밍 이용자가 방송 도중 스스로 목숨을 끊는 일이 잇따라 발생했기 때문이다.

이 사건이 벌어진 뒤 페이스북은 재발 방지를 위한 노력을 기울이겠다고 밝힌 바 있다.

그러나 자살방지 프로그램을 적용하려면 인공지능이 게시된 글이나 동영상, 페이스북 라이브 스트리밍 등의 모든 콘텐츠를 실시간 검색해야 하는데, 이 문제에 대해서는 논란이 이어질 것으로 보인다.

Tech Crunch는 페이스북의

실시간 콘텐츠 모니터링 정책이 '디스토피아'를 만들 우려가 있다고 지적하면서 "모니터링 도구가 정치적인 반대를 위축시키거나 경미한 범죄까지 드러나게 하는 부작용에 대해 페이스북이 별다른 답변을 내놓지 못했다"고 지적했다.

페이스북의 최고보안책임자인 알렉스 스테모스(Alex Stamos)는 이러한 지적에 대해 "인공지능의 소름 끼치는, 무서운, 악의적인 사용은 아마도 영원한 위험으로 남아 있을 것이다"라며 "시스템에 대응할 수 있는 데이터에 기반한 올바른 규범을 만드는 일이 중요한 이유다"라고 설명했다.

The creepy/scary/malicious use of AI will be a risk forever, which is why it's important to set good norms today around weighing data use versus utility and be thoughtful about bias creeping in. Also, Guy Rosen and team are amazing, great opportunity for ML engs to have impact. https://t.co/N9trF5X9iM

— Alex Stamos (@alexstamos) 2017년 11월 27일

특히 사용자가 이 기술을 원치 않으면 탈퇴할 수 있느냐는 Tech Crunch의 질문에 대해 페이스북 대변인이 "탈퇴는 불가능하다"고 답했다며 "이 기능은 사용자 안전을 높이기 위한 것이다"라고 설명한 사실도 소개했다.