허프포스트코리아

KT가 국내외 인공지능(AI) 모델 500개 이상을 한곳에 모은 플랫폼 '토큰 팩토리'를 내놨다. 기업 고객이 업무에 맞는 모델을 골라 쓰고 사용량 확인부터 결제까지 한 번에 처리할 수 있는 기능을 제공한다.

토큰 팩토리는 박윤영 KT 대표이사 사장이 내건 비전 'AX(인공지능 전환) 플랫폼 컴퍼니'가 구체적 서비스로 구체화되는 첫 단계로 보인다.

KT '토큰 팩토리' 출시해 AI 모델 500개 한데 모은다 : 박윤영 'AX 플랫폼 컴퍼니' 구상 본격화 — KT는 10월27일 서울 종로구 KT빌딩에서 AI 모델 선택과 비용 관리, 보안 기능을 하나로 묶은 AI 플랫폼 'KT 토큰팩토리'를 공개했다. 사진은 (왼쪽부터) 김준석 KT Agentic AI Lab장 상무, 이진형 AX사업본부장 상무, 원만호 AX플랫폼본부장 상무가 질의응답하는 모습. ⓒKT

KT는 10월27일 서울 종로구 KT빌딩에서 AI 모델 선택과 비용 관리, 보안 기능을 하나로 묶은 AI 플랫폼 'KT 토큰팩토리'를 공개했다. 출시는 30일이며, 초기에는 기업 고객을 대상으로 서비스한다.

토큰은 AI가 질문이나 문서를 읽고 답을 만들 때 처리하는 기본 단위다. 통신 사용량을 통화 시간과 데이터량으로 재듯 AI는 토큰으로 이용량을 재고 비용을 매긴다.

KT는 번역·요약·코딩·추론 등 분야마다 강한 모델이 다르고 비용도 제각각인 만큼 업무에 맞는 모델을 골라 쓰는 일이 기업 AX의 관건이 됐다고 설명했다.

모델 선택은 KT가 자체 개발한 '오토 모델 라우터'가 돕는다. 질문의 유형과 난이도, 비용, 고객이 미리 허용한 모델 범위 등을 따져 간단한 업무는 가벼운 모델에, 복잡한 분석은 고성능 모델에 자동으로 넘기는 방식이다.

여기에 한국어 특성을 반영한 프롬프트 압축 기술을 더해 토큰 사용량을 최대 25%까지 줄일 수 있다는 게 KT의 설명이다.

박상원 KT AX사업부문장 전무는 "AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다"며 "KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다"고 말했다.