거대 인터넷 기업은 사회에 대한 책임을 회피하고 있다. 불과 얼마 전까지도 불안정한 스타트업이었던 글로벌 테크놀로지 슈퍼 엘리트 기업들은 이제 주요 국가급의 영향력을 가졌지만, 그에 대한 의무와 대중적 영향에 대한 책임, 투명성, 견제와 균형, 자신들이 문제가 될 수 있다는 인식 등은 가지고 있지 않다. 페이스북, 구글, 트위터를 보라. 이들에 대한 규제는 지극히 부족하다. 그들은 우리의 개인적 정보를 소상히 가지고 있다. 그들은 팩트에 기반한 전통적인 저널리즘을 뒤흔들었다. 그들은 시장 가치로 1조 2천억 달러에 달하는 엄청난 돈과 그에 수반되는 권력을 가지고 있다. 미국을 비롯한 여러 나라에서 그들은 자신들의 이익을 위한 로비 활동을 활발히 펼치는데, 우리의 이익과는 상반되는 경우도 많다. 미 국가 안보국까지 해킹되는 지금 이 시대에, 그들은 여러 국가의 민주주의를 근본적으로 위협할 수 있는 데이터를 가지고 있다.

20년 전 웹이 상업화되며 인터넷의 귀족들이 뜨기 시작했다. 정신없이 돌아가는 실리콘 밸리의 리더들에게 있어 20년 전이란 고대처럼 느껴진다. 하지만 인간의 사회 및 정치적 문화 진화에 있어서 20년은 정말 짧은 시간이다. 이들의 테크놀로지는 위험할 수도 있으며, 예전과의 단절을 의도적으로 꾀한다. 우리는 스마트폰에 중독되었다. 우리는 개인 정보 상당 부분의 통제권을 잃었다. 우리의 비밀을 게걸스레 모으는 기업과 정부 기관들은 개인 정보 보호에 별 관심이 없어 보인다. 우리의 지문이나 홍채 등의 생체 정보는 해킹당할 것이다. 근거없이 ‘가짜’라고 비난하면 우리 문명의 기반이 부식된다.

12월 페이스북은 ‘소셜 미디어에서 시간을 보내는 게 우리에게 해로운가?’라는 질문에 대한 답을 올렸다. 미국 역학 저널(American Journal of Epidemiology)에는 “우리의 연구 결과 전반적으로 페이스북 사용은 우리의 행복에 부정적인 연관이 있다는 것이 드러난다… 페이스북 사용의 부정적 연관은 오프라인 교류의 긍정적 영향과 비슷하거나 더 컸다. 즉 오프라인과 온라인의 인간 관계에는 트레이드오프가 있을 수 있다는 것이다”는 연구가 실린 적이 있다. 이는 상업화된 인터넷 테크놀로지가 의도하지 않은 것이다. 그리고 사람들이 잘 이해하지 못하는 결과다.

테크놀로지 자체가 문제는 아니다. 우리의 약점은 상업에서 생겨난다. 특히 테크놀로지로 인해 가능해진, 기업의 개인 정보 착취가 그렇다.

1950년대에 미국 우정국이 모든 편지를 뜯어서 내용을 기록했다고 생각해 보라. 전화 회사가 통화 내용을 전부 녹음했다고 생각해 보라. 지금 일어나는 일이 그것과 비슷하다. 그러나 당시에는 그토록 많은 데이터를 분석할 계산력, 디지털 데이터 저장 공간, 알고리즘을 아무도 갖고 있지 않았지만 지금은 쉽다. 또한 당시 사람들은 우정국이나 전화회사가 프라이버시를 침범했다면 난리를 피웠을 것이다. 지금 우리들은 프라이버시를 떠넘기고 있다. 그래서 소수의 기업들이 우리의 공적인 토론장으로 자리 잡았다. 경쟁이 아닌 데이터 수집과 착취를 통해서다.

주로 물건을 팔아 돈을 버는 기업들과는 달리, 페이스북, 구글, 트위터는 ‘공짜’로 서비스를 제공한다. 비즈니스에서 ‘공짜’라는 말은 거의 언제나 거짓말이다. 옛날에 한 임원은 내게 “당신이 서비스의 비용을 내지 않는다면 팔리고 있는 것은 바로 당신”이라고 가르쳐주었다. 무료 모델 기업들은 서비스를 제공하고 그 대가로 우리를 염탐한다. 우리의 데이터를 기억하고, 우리 관심사를 알아내고, 우리가 키보드에 입력하는 것을 잡아내고, 우리가 온라인에서 어딜 가든 따라다닌다. 그리고 달러든 루블이든, 돈을 내는 누구에게나 개인에게 특화된 광고를 팔아 우리를 착취한다. 최소 20억 명 이상의 사용자에 대한 정보를 지닌 페이스북과 구글은 고래가 크릴 새우를 먹듯 소비자들을 소비한다. 리서치 기업 이마케터에 의하면 이 두 기업은 미국 내  디지털 광고의 60%를 조종한다.

디지털 광고를 판매하는 기업들은 두 가지 가치에 의존한다. 개인에 대한 정보, 그리고 참여다. 우리가 페이스북에서 시간을 많이 쓸수록 우리의 참여도는 깊어지고 광고를 더 많이 보게 된다. 그게 페이스북의 비즈니스의 본질이다. “이런 어플리케이션을 만들게 한 사고의 과정은 ‘우리가 어떻게 하면 당신의 시간과 의식적 관심을 최대한 많이 소비할 수 있을까?’이다.” 페이스북의 초대 사장 숀 파커가 최근 한 말이다. “그러려면 우리는 당신에게 도파민을 계속 조금씩 주어야 한다는 뜻이다… 인간 심리의 취약함을 이용한 것이다. 개발자들은 이것을 의식적으로 이해하고 있었다. 그리고 우린 그렇게 해버렸다.”

엘리베이션 파트너스의 공동 설립자 로저 맥나미는 페이스북 초기에 투자했던 벤처 투자가다. 지금 그는 페이스북을 두려워하고 있으며 실망한 상태다. “그들은 수백 년간 있던 테크닉을 가져다 침입적인 테크닉과 합쳤다. 그 결과 우리의 뇌를 그들이 쥐고 흔들게 되었다. 사람들은 자주성을 잃고 있으면서도 자각하지 못하고 있다. 문명에 영향을 미친다.”

매체가 소비자들의 참여를 유도하는 건 일반적이다. 센세이션을 이용하여 관심을 끌려하는 곳도 많다. 하지만 페이스북과 같은 플랫폼에서는 센세이션에 대한 인간의 편향 때문에 이성적이고 팩트에 기반한 담론이 음모 이론가들, 봇과 트롤들이 마음대로 펼쳐놓는 미친 넌센스에 비해 불리한 입장이 된다. 사회에 대한 파괴적 메시지가 건설적 메시지보다 더 쉽게, 더 널리 퍼진다. 인류 전체의 4분의 1이 접하는 페이스북의 영향력은 위험도를 크게 높인다.

소셜 네트워크 전문가이자 싱크 탱크 ‘데이터 & 소사이어티’의 설립자인 다나 보이드는 “테크 기업들은 사람들의 분산화된 네트워크가 재미, 이윤, 정치, 이념의 체계를 어떻게 조작하는지에 대해 준비가 잘 되어 있지 않다. 그들은 적들이 얼마나 민첩한지 깨닫지 못하고, 자신들이 문제 해결을 위한 더 나은 테크놀로지를 만들 수 있다고 생각하곤 한다.”고 경고한다.

그런 맥락에서 페이스북은 공적 제 1호가 된다. 트위터의 35배에 달하는, 최대 규모의 소셜 네트워크다. 구글은 지메일, 구글 닥스, 구글 홈과 같은 침입성 서비스를 제공한다. 그러나 구글의 핵심 서비스는 검색과 지도 같은 현실에 기반한 것들이다. 그래서 페이스북을 성공하게 만든 알고리즘을 이용하는 악의적 남용에 대한 페이스북의 취약성은 아주 깊은 반면, 구글의 경제적 이익은 객관적 진실에 크게 의존하고 있다. “우리는 보다 순진한 입장이다.” 구글의 모회사 알파벳 전 대표 에릭 슈미트의 말이다. “하지만 이런 데이터, 2016년에 우리가 목격한 러시아와의 일, 전세계 다른 세력들과의 일을 보게 된 지금은 우리는 행동해야 한다.”

이런 생각들이 마크 저커버그를 막지는 않을 것 같다. 페이스북의 CEO인 그는 이런 사실들을 부정하고 있다는 모든 징후를 보이고 있다. 트럼프 당선 이틀 뒤에 열린 테코노미 컨퍼런스에서 저커버그는 페이스북이 대선에 영향을 주었다는 생각은 ‘미친 것’이라고 말했다. 페이스북, 구글, 트위터가 러시아 대선 개입에 대해 증언하기 위해 국회에 소환되었을 때, CEO들은 한 명도 나타나지 않았다. 저커버그는 북경에 가서 시진핑에게 경의를 표했다. 세상에서 다섯 번째로 부자이자 지칠줄 모르고 새로운 기획을 내놓는 저커버그는 대선 출마 야욕도 있다고 전해진다. 그는 자선 활동 명목의 ‘찬 저커버그 이니셔티브’를 로비에 투자할 수 있는 유한책임 영리기업으로 만들기까지 했다. 그가 러시아 개입을 페이스북의 핵심 사업 기능이 아닌 보안 문제로 프레임하는 것은 부정직한 일일 수도 있다. “우리는 우리 플랫폼 오용 방지를 중요하게 생각한다. 우리는 보안에 엄청난 투자를 하고 있어 수익성에 영향이 있을 정도다. 우리 커뮤니티 보호는 이윤 최대화보다 더 중요하다.”

맥나미는 2016년에 저커버그에게 저커버그와 페이스북의 COO 셰릴 샌드버그에게 이메일로 경고를 했다고 한다. 누군가 페이스북을 악용하여 힘없는 사람들에게 피해를 준 사례 7건을 들었다. “짐 크로우 법[주: 미국에 있었던 인종차별법]과 같다. 그들이 한 번 살펴보길 바랐다.” 맥나미는 4개월을 기다렸다. 그동안 트럼프는 당선되었다. 그는 자신의 우려를 대중에게 밝히기 시작했다. “그들은 이걸 PR 문제로 다룬다. 한 번도 심각하게 다룬 적이 없다. 그리고 그들은 스스로를 지키려고 미친듯이 로비를 벌이고 있다.” (페이스북은 맥나미의 제안 중 하나를 도입하겠다고 뒤늦게 밝혔다. 유저들에게 러시아 요원들과의 관계를 알리기로 한 것이다.)

페이스북에서 사용자 성장 담당 부사장을 지냈던 차마스 팔리하피티야는 지난 달에 스탠포드 강연에서 “우리는 ‘정말, 나쁜 의도하지 않은 결과는 아마 없을 거야’라는 척을 해왔지만, 나는 우리 마음속 깊은 곳에서는 나쁜 일이 일어날 수 있다는 걸 알고 있었다고 생각한다. 우리는 사회가 기능하는 구조를 해체하는 도구를 만들었다.” 페이스북의 PR 부서는 반박했다. “차마스가 페이스북을 퇴사한지 6년이 넘었다. 차마스가 있었을 때 우리는 새로운 소셜 미디어 경험을 만들고 페이스북을 전세계로 키우는 일에 집중하고 있었다. 그때의 페이스북은 지금과는 아주 다른 회사였고, 우리는 성장하며 우리의 책임감 역시 커졌음을 깨달았다. 우리는 우리 역할을 아주 진지하게 생각하며, 개선을 위해 열심히 노력하고 있다.”

CEO들, 알고리즘 제작자들, 그외 우리의 미래를 만드는 다른 사람들이 책임을 져야 할 때가 됐다. 이제까지 그들은 자신의 이익에 눈이 멀어 우리에게 회복 불가능한 정도의 해를 끼쳤다. 불길하고 정체를 알 수 없는 AI가 큐브릭의 거대한 돌 기둥처럼 서있다. 여러 복잡한 디지털 제품들과 마찬가지로, AI는 데이터와 알고리즘을 따르는 정체를 알 수 없는 블랙 박스다. 작동시키고 나면 AI는 제작자들조차도 이해할 수 없는 결정을 내린다. 현재 대형 항공사들이 컴퓨터가 좌석마다 값을 어떻게 매기는지 정확히 알지 못하는 것과 비슷하다. AI가 우리 종과 지구의 운명을 좌지우지할 날이 멀지 않았다.

그러나 현명한 CEO들도 이 상황을 바꾸기 힘들지 모른다고 마크 로텐버그는 경고한다. 로텐버그는 디지털 위협에서 민주주의를 보호하는 것을 목표로 하는 단체 전자 프라이버시 정보 센터장이다. “우리는 테크계가 스스로를 규제할 수 없다는 것을 깨달아야 한다. 우리는 테크놀로지가 일으키는 모든 문제에 대한 테크놀로지 해결책이 있다는 잘못된 믿음을 없애야 한다. 사회적, 정치적 해결책이 필요하다.”

우리의 궁극적인 대변자는 우리 자신이어야 한다. 페이스북을 끊는 것부터 시작하자. 당신의 데이터를 다운로드 받은 다음 여기에 가서 파란색 ‘계정 삭제’ 버튼을 눌러라. 나는 방금 계정을 삭제했는데, 벌써 기분이 나아졌다. 이 권고를 널리 퍼뜨려 달라.

이 글을 쓴 스트래트포드 셔먼은 비즈니스와 테크놀로지 분야에 대해 20년 동안 보도를 해왔던 경제전문지 ‘포춘’의 전 에디터다. 그는 또한 ‘당신의 운명을 지배하라(Control Your Own Destiny or Someone Else Will)’의 공동 저자이기도 하다. 최근 그는 실리콘밸리의 CEO를 대상으로 리더십 연구와 코칭을 하고 있다. 그는 또한 구글과 ‘오픈AI(OpenAI)’등에 컨설팅을 해왔다.

허프포스트US의 'Facebook Is The Enemy Now'를 번역, 편집한 것입니다.