인공지능(AI)은 노동자를 반복적 노동에서 해방해 줄 신기술로 주목받아 왔다. 그러나 최근 일부 기업은 이러한 기대와 다른 방향으로 AI를 활용하고 있다.

업무효율을 높이겠다며 도입한 기술이 노동자의 말투와 행동을 평가하는 수단으로도 활용되면서, 인공지능이 노동자를 속속들이 감시하고 자율성을 위협하고 있다. 

19일(현지시각) 영국 가디언을 비롯한 외신과 국제노동기구(ILO)의 연구자료를 종합하면, AI와 알고리즘을 활용한 노동자 감시가 새로운 노동권 문제로 떠오르고 있다. 

◆ 고객과 나눈 대화까지 점수를 매긴다

영국의 소비자협동조합 코옵(Co-op) 산하 법률서비스 부문에서는 직원들이 고객과 나눈 전화 통화를 AI로 분석해 평가하는 시스템을 사용하고 있는 것으로 알려졌다.

가디언의 10월8일 보도를 보면, 이 시스템은 유언장 작성이나 상속 문제를 상담하는 직원들의 통화를 녹음하고, 50개 이상의 평가 항목을 분석해 점수를 매긴다. 평가결과는 관리자가 직원의 업무 성과를 파악하는 데 활용되는 것으로 전해졌다.

문제는 이러한 상담이 단순한 상품판매와 다르다는 점이다. 가족을 잃은 고객과 대화할 때는 정해진 표현을 정확히 사용하는 것뿐만 아니라 상대방의 감정을 이해하고 상황에 맞게 대응하는 능력이 중요하다.

물론 AI를 이용한 업무평가 자체가 잘못됐다고 단정할 수는 없다. 상담 '품질'을 일정하게 유지하고 직원에게 필요한 교육을 제공하는 데 도움이 될 수도 있다. 

그러나 인공지능 평가에만 의존한다면, 수치로 표현하기 어려운 인간적인 배려와 판단이 평가에서 밀려날 위험이 있어 보인다.

AI를 활용한 노동자 감시 문제는 화장실 이용시간과 같은 일상적 활동으로 이어질 우려가 커지고 있다.

영국 가디언은 미국 아마존 물류창고 노동자들이 과거 화장실 이용시간까지 측정당한다며 불만을 제기한 사례를 소개했다. 노동자가 업무 중 자리를 비우는 시간까지 관리 대상이 되면서 감시 기술이 기본적인 생리적 활동까지 통제할 수 있다는 우려가 제기된 것이다.

물론 이러한 감시는 AI가 등장하기 전부터 가능했다. CCTV나 출입기록, 기존 프로그램만으로도 노동자의 이동 경로와 휴식시간을 추적할 수 있었다.

그러나 AI가 결합하면 여러 경로에서 수집한 방대한 데이터를 자동으로 분석하고, 개인별 행동 유형이나 업무 성과를 분류·평가할 수 있다. 감시의 범위와 분석 능력이 확대되면서 노동자의 일상적 행동까지 지속적인 평가 대상이 될 수 있다는 것이다.

이러한 우려에 대응해 미국 캘리포니아주는 노동자 감시를 제한하는 입법에 나섰다. 

10월3일치 가디언 보도에 따르면 캘리포니아주는 직원의 이동경로를 시각화하는 '히트맵(heat map)'이나 화장실에 머무는 시간까지 추적하는 감시 방식에 제동을 거는 법률을 제정했다. 히트맵은 위치와 이동기록 등을 바탕으로 특정 공간에서의 활동이나 체류양상을 시각적으로 보여주는 기술이다.

기업은 고객에게 양질의 서비스를 제공하려 하겠지만, 노동자의 모든 행동을 감시하고 평가하는 것은 결코 정당화될 수 없다. 노동자는 기계가 아니다. 사람이다. 

◆ 업무 효율을 높인다는 명분, 노동자의 자율성은 어디에

기업은 오래전부터 업무 데이터를 수집해 왔다. 업무 데이터 분석을 통해 작업 과정에서 발생하는 비효율을 찾아내고, 서비스 품질을 높일 수 있었다.

그러나 업무를 개선하기 위한 정보 수집과 노동자의 행동을 지속적으로 감시하는 것은 완전히 다르다.

국제노동기구(ILO)는 올해 4월 한 연구 보고서를 통해 "AI 기반 감시와 데이터 중심의 업무 관리가 노동자의 자율성을 약화시키고 심리적 위험을 높일 수 있다"고 지적했다. 특히 감시강화와 업무강도 증가, 개인정보 활용에 대한 우려를 주요 문제로 제시했다.

미국의 기술기업 메타도 논란에서 자유롭지 않았다. 로이터는 올해 4월 메타가 AI 모델 훈련을 위해 직원들의 마우스 움직임과 키보드 입력 등을 수집하는 프로그램을 도입한다고 보도했다.

다만 메타는 해당 정보가 직원의 인사평가에 사용되지 않는다고 설명했다. 하지만 메타의 말이 맞다고 해도 이는 언제든 노동자 감시의 도구가 될 수 있다. 기업 쪽은 마지막 단추 하나만 누르면 되기 때문이다. 

영국 철학자 제레미 벤담은 유명한 원형 감옥 '판옵티콘(Panopticon)'을 고안했다. 이는 수감자가 자신이 감시받는지 알 수 없도록 함으로써 감시를 더욱 효율적으로 만들었다. 오늘날 노동자가 자신의 행동이 언제 기록되고 평가되는지 알기 어려운 감시 환경은 이러한 판옵티콘을 떠올리게 하기에 충분하다. 

사실 인류사에서 새로운 기술은 거개가 양날의 검이었다. 원자력은 무기이자 발전 동력이었고, 1980~90년대 사무자동화 프로그램은 업무 효율을 높였지만 수많은 노동자가 해고됐다. 인공지능이라는 새로운 기술이 인류의 복지와 생산력 확대에 사용될지, 자본의 이득을 위한 노동자 감시와 대체의 수단이 될지, 우리는 갈림길 위에 서 있다.