카카오의 인공지능(AI) 모델 ‘카나나’가 메타의 ‘라마3.1’ 등 글로벌 경쟁 모델들과 비교해 높은 안전성을 가졌다는 정부 평가 결과가 나왔다.
과학기술정보통신부는 AI안전연구소, 한국정보통신기술협회(TTA)와 함께 ‘카카나 에센스 1.5’를 대상으로 국내 첫 AI 안전성 평가를 실시했다고 29일 밝혔다. 과기정통부는 다음달 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’ 시행을 앞두고 국내 연구진이 개발한 전용 데이터셋을 활용해 카나나를 시작으로 AI 모델의 안전성 평가를 통해 기업을 지원할 방침이다.
폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용한 점검 결과 카나나는 라마3.1, 마스트랄0.3 등 비슷한 규모의 글로벌 모델보다 높은 안전성을 가진 것으로 나타났다. 한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋은 해외 연구기관과 공동 검증·활용을 위해 지난달 18일 공개한 바 있다.
과기정통부는 AI안전연구소가 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크, 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다. 국가 대표 AI 모델인 ‘독자 AI 파운데이션 모델’ 등으로 평가 대상도 확대할 계획이다.
김경만 과기정통부 AI정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며 “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다”고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
sookim@sedaily.com
