허프포스트코리아

한국산업기술진흥원(KIAT)이 인공지능(AI)을 업무에 활용하면서 발생할 수 있는 개인정보 유출과 부정확한 정보 생성 등의 위험을 관리하기 위해 자체 윤리 기준과 내부 관리체계를 마련했다.

공공기관의 AI 활용이 확대되면서 업무 효율성을 높이는 것만큼 안전성과 책임성을 확보하는 일도 중요해지고 있다.

KIAT는 AI가 생성한 결과물의 검증과 데이터 관리, 활용 책임 등을 내부 기준에 명시하고 이를 업무 전반에 적용할 계획을 세웠다.

KIAT는 'AI 윤리 준수기관 확인마크'를 획득했다고 23일 밝혔다.

AI 윤리 준수기관 확인마크는 한국지능정보사회진흥원(NIA)이 AI의 윤리적 개발·활용과 책임성 강화를 위해 일정 요건을 갖춘 기관에 부여하는 인증 제도다.

NIA는 2024년부터 AI 윤리 준수기관 확인마크 제도를 운영하고 있으며, 올해부터 공공기관까지 발급 대상을 확대했다.

KIAT는 9월 AI 윤리 기준을 마련하고 인간중심, 데이터 관리, 공정과 포용, 안전한 활용, 책임과 투명 등 5대 원칙을 중심으로 기반을 다져왔다.

KIAT는 지난 9월 인간중심, 데이터 관리, 공정과 포용, 안전한 활용, 책임과 투명 등 5대 AI 윤리 원칙을 마련했다.

내부 관리 기준에는 직원들이 업무에 AI를 활용할 때 개인정보와 민감정보를 관리하고, AI가 생성한 결과물을 검증하며, 활용 결과에 대한 책임을 지도록 하는 내용도 담았다. 모든 임직원을 대상으로 AI 윤리 교육도 실시했다.

KIAT는 이번 확인마크 획득을 계기로 AI 활용 전 과정에 책임성·공정성·투명성 등 윤리적 가치를 지켜 나가고 모든 직원이 안전하고 편리하게 AI를 활용할 수 있는 환경을 조성할 계획을 세웠다.

전윤종 KIAT 원장은 "AI 활용이 확대될수록 기술 활용의 효율성뿐 아니라 안전성과 책임성을 확보하는 것이 중요하다"며 "앞으로도 AI 윤리 기준과 관리체계를 지속적으로 고도화하겠다"고 말했다.

회사 이익과 주주 이익은 같은 방향 향하는가

미국과 '헤어질 결심'