기업들이 인공지능(AI) 기술을 업무에 도입하면서 AI의 비용과 가치를 측정하는 '토큰 경제학'이 주목받고 있다.

뉴욕타임스는 3일(현지시각) "AI 컴퓨팅 파워를 나타내는 단위인 '토큰' 지출에 관한 혼란이 각 기업의 엔지니어링 팀과 이사회에 충격을 주고 있다"며 "처음에는 경영진이 AI 사용을 최대한 장려했으나, 회사 자금 수백만 달러가 순식간에 소진되는 일이 발생했고 이에 기업들이 AI를 어떻게 구매하고 어떤 가치를 얻는지 연구하는 새로운 경제학 분야가 등장했다"고 보도했다.  

'토큰 경제학'이 맞닥트린 과제는 여러 가지다. 먼저 작업마다 토큰이 얼마나 쓰이는지 등 기본적 단위를 정립하고 통일해야 한다는 문제가 있다. 

토큰의 원료는 전기와 반도체다. 생성된 컴퓨팅 데이터가 모델에 입력되면 일반적으로 영어 텍스트에서 AI가 문장을 쪼개서 이해하고 생성하는 글자·단어의 조각 단위인 토큰으로 사용량이 측정된다. 

그러나 수천 개의 AI 모델이 존재하는 상황에서 각 AI 모델이 토큰 하나마다 사용하는 에너지양을 재는 단위나 특정 작업을 수행하는 데 가장 적합한 모델이 무엇인지, 또한 그런 작업을 수행할 때 필요한 토큰의 양은 얼마가 적절한지에 관한 기준은 존재하지 않는다. 

비영리 단체인 리눅스재단은 지난 6월 토큰노믹스 재단을 설립해 AI 제공업체들이 공개하기로 합의한 공통 매개변수를 만드는 것을 목표로 삼았다. 

J.R. 스토먼트 리눅스재단 이사는 뉴욕타임스에 "전 세계 모든 조직이 AI를 이용해 내리는 일련의 결정을 표준화해 더 나은 출발점을 제공하려 한다"라고 말했다. 

토큰에 지출하는 비용과 그로 인한 생산성을 비교하는 것도 토큰 경제학이 마주한 문제다. 여러 기업들은 수익 마진을 잃지 않으면서 AI의 이점을 활용하기 위한 새로운 도구와 서비스 제공업체를 도입하고 있다. 

AI 비용 지출 관리 시스템 기업인 레베니움의 제이슨 컴벌랜드 최고운영책임자(COO)는 뉴욕타임스에 "고객들 가운데 토큰 지출이 폭발적으로 증가하는 경우가 있다"며 "고객들은 토큰 지출을 정당화할 만한 가치가 있는지, 또 업무를 중단하지 않고 어떻게 지출을 줄일 수 있는지 알고 싶어한다"고 설명했다. 

기업이 토큰 지출을 감당할 자금을 어디에서 끌어올 것인지도 문제다. 컴벌랜드 COO는 "처음에는 기업들이 클로드나 챗GPT 구독료를 마련하기 위해 온갖 수단을 동원했다"며 "이런 서비스에 의존하면서 소프트웨어 라이선스 비용, 웹 개발, 카피라이팅 등 외부 서비스 비용을 줄이기 시작했다"고 짚었다. 

토큰 지출을 예산 어디에 어떻게 포함할지도 중요한 문제다. 뉴욕타임스에 따르면 기업들은 토큰 지출을 기업의 인건비 예산에 포함해야 할지 검토하고 있다. 

네트워크 보안 프로그램 기업인 엘리시티의 찰리 트레드웰 최고 마케팅 책임자(CMO)는 뉴욕타임스에 "AI 에이전트 비용을 추가하는 것은 가상 인력을 추가하는 것과 같다"며 "매출 증대로 이어질지, 마진을 깎는 결과로 이어질지에 관해 고민해야 한다"고 말했다. 

토큰 가격이 크게 오르면 당연히 비용이 급증하겠지만, 클라우드 제공업체마다 토큰 가격이 다를 수 있다. 또한 가격 상승 또는 하락 요인이 명확하지 않다는 점도 변수가 된다.

또 AI를 생산적으로 활용하는 방법을 아는 인력이 부족한 점, 기업 내 AI 지출 현황을 추적하는 포괄적 데이터가 부족하다는 점도 토큰 경제학을 연구하는 사람들에게 장애물로 작용하고 있다.