나치 기념품을 팔고 싶은가? 극우 시위 참가자를 모으고 싶은가? 페이스북의 셀프 서비스 광고 구매 플랫폼을 통하면 가능했던 일들이다.

우리가 페이스북에 이에 대해 물어보았던 지난 주까지는 세계 최대 소셜 네트워크인 페이스북은 광고주들이 ‘유대인 혐오자(jew hater)’, ‘유대인 불태우는 법’, ‘유대인들이 세계를 망치는 이유의 역사’ 등의 주제에 관심을 표현한 2,300명 정도의 사람들에게 직접 광고를 할 수 있게 해주었다.

이러한 광고 카테고리가 진짜인지 시험해 보기 위해 우리는 30달러를 주고 이들 집단을 타겟으로 하는 ‘프로모트 포스트(promoted posts)’ 3개를 샀다. 프로퍼블리카(ProPublica) 기사나 포스트가 타겟층의 뉴스 피드에 뜨게 하는 광고다. 페이스북은 세 광고 모두를 15분 안에 승인했다.

우리가 페이스북에 연락하고 난 뒤, 페이스북은 반유대인 카테고리들을 지웠다. 이 카테고리들은 사람이 만들었다기보다 알고리즘이 만든 것이다. 페이스북은 카테고리 개수를 한정한다거나 소비자들에게 보여지기 전에 면밀히 분석하는 등의 문제 해결 방법을 찾겠다고 했다.

“우리 플랫폼에 우리 기준에 어긋나는 컨텐츠가 올라온 사례들이 있다. 이번 경우, 우리는 문제가 된 관련 타게팅 필드들을 삭제했다. 해야 할 일이 더 많다는 건 우리도 알고 있고, 그래서 우리 제품에 새로운 가드레일을 만들고 있으며 앞으로 이런 일이 일어나는 것을 막을 수 있는 절차를 고려하고 있다.” 롭 레던 페이스북 품질관리이사가 밝혔다.

2016년 대선 선거 운동 기간에 러시아와 관련된 것으로 보이는 ‘가짜’ 계정이 10만 달러어치의 광고를 게재했음을 발견했다고 지난 주에 밝힌 이래, 페이스북의 광고는 미국 전체의 관심을 받고 있다.

여러 테크 기업들과 마찬가지로, 페이스북은 오래 전부터 광고업에 대해 불간섭주의 접근을 취해왔다. 광고주들에게 타겟층을 제시하는 전통 매체사들과는 달리, 페이스북은 유저들이 페이스북에 직접 공개한 것, 유저들의 온라인 활동으로 파악한 관심사 두 가지를 바탕으로 하여 광고 카테고리를 자동 생성한다.

오래전부터 테크 기업들은 인터넷을 검열하거나 정당한 정치적 표현을 말리는 것은 자신들의 역할이 아니라고 주장해왔다. 샬럿츠빌에서 자칭 나치들을 포함한 우익 단체들이 폭력 시위를 벌이고 나자, 페이스북 등의 테크 기업들은 증오 발언 모니터링을 강화하겠다고 약속했다.

마크 저커버그 페이스북 CEO는 당시 “우리 커뮤니티에 증오를 위한 자리는 없다”며 페이스북에서의 증오성 포스트와 폭력 위협을 면밀히 감시하겠다고 맹세했다. “네오 나치와 백인 우월주의자들이 잘못되었다는 것은 당연한데도, 그런 말을 아직도 해야 할 필요가 있다는 것은 수치스럽다.”

그러나 페이스북은 광고 구매 플랫폼 감시를 강화하지 않은 것으로 보인다. 우리가 발견한 광고 카테고리는 사용자들이 페이스북 프로필에 반 유대주의 테마를 관심사, 고용주, ‘연구 분야’로 적어놓았기 때문에 자동생성된 것일 가능성이 크다. 페이스북 알고리즘은 사람들이 관심사라고 적어놓은 것을 자동적으로 광고 카테고리로 바꾼다.

페이스북 광고 포털에서 우리가 광고를 사는 과정을 캡처한 스크린샷이다.

페이스북 광고 카테고리에 대한 논란은 이번이 처음이 아니다. 작년에 프로퍼블리카는 우리가 페이스북의 주택 카테고리에서 산 광고가 아프리카계 미국인, 히스패닉, 아시아계 미국인들에게는 보이지 않도록 막을 수 있었다. 이러한 광고 타게팅이 주택 광고 차별 금지법을 어기는 것은 아닌가 하는 의문이 일었다. 프로퍼블리카 기사가 등장하자, 페이스북은 이런 광고의 승인을 예방하는 시스템을 만들었다고 했다.

작년에 프로퍼블리카는 페이스북이 광고주들에게 제공하고 있는 카테고리를 수집해 리스트를 만들었다. 페이스북 광고 시스템에서 29,000개 이상의 광고 카테고리를 다운받았는데, ‘헝가리 소시지’부터 ‘10만~12만5천 달러 가계소득이 있는 것으로 추정되는 가정 구성원들’까지 다양한 카테고리가 있었다.

당시 우리는 반 유대인 카테고리를 찾지 못했으나, 우리가 다운 받은 것이 페이스북 광고 카테고리 전부인지 알지 못한다. 혹은 반 유대인 카테고리는 나중에 추가된 것일 수도 있다. 이 카테고리들이 언제 등장했는지 물었으나 페이스북 대변인은 답변하지 않았다.

우리는 지난 주에 제보를 받고 페이스북 자동 광고 시스템에 들어가 ‘유대인 혐오자’라는 카테고리가 정말 있는지 찾아보았다. 있긴 했지만, 포함된 사용자가 2,274명 뿐이라 이들만을 대상으로 한 광고를 구입할 수는 없었다.

페이스북 자동 시스템은 ‘수정헌법 제2조’를 추가 카테고리로 하면 총 타겟 사용자가 119,000명이 된다며 추천했다. 아마도 페이스북 시스템은 총기의 열렬한 지지자와 반 유대주의자가 상관 관계가 있다고 보는 모양이었다.

우리는 ‘수정헌법 제2조’ 대신 ‘jew h’까지 입력했을 때 나오는 카테고리들을 추가로 골랐다. ‘유대인 불태우는 법’, ‘유대인들이 세계를 망치는 이유의 역사’였다. 그리고 ‘히틀러’를 입력했을 때 페이스북이 추천하는 카테고리, ‘히틀러는 아무 잘못도 없다’를 골랐다. 모두 ‘연구 분야’에 속해 있었다.

이 광고 카테고리들은 아주 작았다. ‘유대인 불태우는 법’에는 고작 두 명, ‘유대인들이 세계를 망치는 이유의 역사’에는 단 한 명만 들어있었다. ‘히틀러는 아무 잘못도 없다’에는 15명이 들어있었다.

페이스북 자동 시스템은 사용자 수가 아직도 광고 구매에 부족하다고 알렸다. 그래서 우리는 흔히 나치 SS로 알려진 ‘독일 슈츠슈타펠’과 ‘나치당’을 추가했다. 이 두 카테고리는 ‘고용주’로 분류되어 있었다. 이쪽은 사용자들이 더 많았다. SS에는 3,194명, 나치당에는 2,449명이 있었다.

그래도 아직도 부족했다. 그래서 극우이자 초민족주의 정당인 ‘독일 국가민주당’을 넣었다. 이쪽은 훨씬 커서 194,600명이 들어있었다.

타겟 사용자 수가 갖춰지자 우리는 나치와 무관한 프로퍼블리카 뉴스 기사를 홍보하는 광고를 제출했다. 15분만에 승인이 났지만, 한 가지가 바뀌었다. 승인 화면에서 페이스북은 ‘유대인 혐오자(Jew hater)’를 반 유대주의(anti-Semitism)를 뜻하는 폴란드어 단어 ‘Antysemityzm’으로 바꾸어 보여주었다. 같은 카테고리인지 확인하기 위해 우리는 ‘유대인 혐오자’와 다른 검색어들을 섞어 광고 두 개를 더 구입했다. 두 번 다 페이스북은 ‘유대인 혐오자’를 ‘Antysemityzm’으로 바꾸어 보여주었다.

우리가 페이스북에서 승인받은 광고 중 하나다.

며칠 뒤 페이스북은 우리 캠페인 결과를 보내왔다. 우리가 산 광고 세 개는 5,897명에게 도달(reach)했으며, 101건의 클릭이 있었으며, ‘좋아요’나 ‘공유’, 또는 댓글을 다는 관여(engagement) 행위는 13번 일어났다.

우리가 페이스북에 연락한 뒤, 반 유대주의 카테고리는 대부분 사라졌다.

익명을 요구한 페이스북 간부는 이 카테고리들이 널리 사용된 것 같지 않다고 말했다. “우리는 이런 사람들과 캠페인들의 사용을 살펴보았다. 흔하거나 널리 퍼지지 않았다.”

다른 종교를 대입한 ‘무슬림 증오자’ 등의 비슷한 검색어로 광고 카테고리를 찾아보았으나 나오지 않았다.

허프포스트US의 Facebook Enabled Advertisers to Reach ‘Jew Haters’를 번역, 편집한 것입니다.