허프포스트코리아

카카오가 아시아 기업 최초로 구글딥마인드의 AI 워터마크 기술을 도입한다.

사람의 눈과 귀로는 식별할 수 없는 워터마크를 심어, AI가 만든 이미지와 영상이 재가공되더라도 AI 생성 여부를 식별할 수 있는 안전망을 구축한다.

카카오의 '책임감 있는 AI' : 재가공해도 식별 가능한 워터마크 도입한다 — 카나나 템플릿에 신스ID를 적용한다 ⓒ 카카오

카카오는 AI 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 구글딥마인드와 체결했다고 20일 밝혔다.

카카오는 이번 파트너십을 통해 자체 AI 모델 '카나나'에 '신스ID(SynthID)'를 적용해 AI 생성 콘텐츠에 워터마크를 삽입하고 추적할 수 있는 기반을 마련했다.

신스ID는 구글딥마인드가 개발한 디지털 워터마킹 및 탐지 기술이다. 눈과 귀로는 감지할 수 없는 디지털 워터마크가 이미지·텍스트·오디오·영상에 삽입돼 콘텐츠의 AI 생성 여부를 검증할 수 있다. 품질 저하 없이 AI 생성 여부를 추적할 수 있어 딥페이크나 허위 정보 등 AI 생성물 악용 대응 기술로 주목받고 있다.

카카오는 세계적으로 신스ID 워터마킹을 초기 도입한 기업 중 하나다. 아시아 기업 중에서는 최초로 AI 생성 콘텐츠에 해당 기술을 적용한다.

카카오는 우선 카카오톡 '카나나 템플릿'에 신스ID 워터마크를 적용할 계획을 갖고 있다. 카나나 템플릿은 카카오톡에서 주고받은 이미지를 활용해 AI로 짧은 영상을 손쉽게 만들 수 있는 기능이다. 카나나 템플릿으로 생성된 영상에는 기본적으로 카나나 로고가 표시되지만, 신스ID가 적용되면 영상이 재가공되더라도 AI 생성 여부를 판별할 수 있게 된다.

올해 1월 AI 기본법 시행과 함께 AI 생성물 표시제가 도입됐다. 카카오는 법적 의무를 넘어 신스ID 기반의 보이지 않는 워터마킹 기술까지 적용하며 AI 생성 콘텐츠의 투명성과 신뢰성 강화에 나섰다.

김경훈 카카오AI세이프티 리더는 "신스ID 적용을 시작으로 구글과 '책임감 있는 AI' 영역에서의 기술 협력을 지속하며, 이용자가 안심하고 사용할 수 있는 안전한 AI 서비스를 제공해 나갈 계획"이라고 말했다.

푸시미트 콜리(Pushmeet Kohli) 구글딥마인드 과학·전략 이니셔티브 부문 부사장은 "AI 생성 콘텐츠를 식별하기 위해서는 효과적인 협력이 필수적"이라며 "업계 선도 기업들과의 파트너십을 통해 신스ID 기술을 더 많은 플랫폼에 확대 적용함으로써, 보다 투명한 디지털 생태계 구축을 향한 중요한 발걸음을 내딛고 있다"고 밝혔다.