AI 데이터 전문기업 셀렉트스타가 국내 최초로 생성형 AI 서비스의 신뢰성 검증 자동화 솔루션 ‘DATUMO Eval(다투모 이밸)’을 출시했다고 20일 밝혔다. 이 솔루션은 신뢰성 검증 프로세스를 자동화해, AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전에 식별하고 대응할 수 있도록 지원한다.
셀렉트스타는 신한은행 등 다수의 기업을 대상으로 진행한 신뢰성 검증 컨설팅 경험과 국내 최초∙최대 규모의 '생성형 AI 레드팀 챌린지' 운영 경험을 보유하고 있다. 관련 노하우를 활용해 다투모 이밸을 개발했다.
다투모 이밸은 출시와 동시에 금융권을 포함한 여러 기업에서의 도입이 확정된 상태다. 주요 기능은 △기업의 AI 서비스 유형과 사용 목적에 따른 평가 기준 설정 △도메인 및 서비스에 부합한 맞춤형 평가용 질문 자동 생성 △AI 서비스의 답변 자동 평가 및 결과 분석 △AI 서비스의 취약점을 이끌어내는 레드티밍 기능 등이 있다.
특히 다투모 이밸은 100만 개 이상의 평가용 질문을 자동 생성해 AI 모델이 처리해야 할 다양한 사용자 발화 패턴을 포괄적으로 평가할 수 있도록 지원한다. 이를 통해 기존에 도메인 전문가가 손수 평가용 질문을 설계하며 발생했던 높은 비용과 기간을 획기적으로 절감했다. 자동 생성된 평가용 질문은 셀렉트스타의 자체 AI 에이전트 기술을 기반으로 생성되며 기업의 평가 목적, 요구사항, 난이도, 실제 고객 데이터와의 유사성 등 다양한 요소를 반영해 현실적인 평가가 가능하다.
김세엽 대표는 “AI의 상용화에서 가장 중요한 것은 신뢰성’이다. 다투모 이밸을 통해 기업들이 AI 서비스를 더욱 정확하고 안전하게 운영할 수 있도록 돕겠다”라며 “셀렉트스타는 국내 AI 신뢰성 검증 시장을 선도하는 것은 물론 글로벌 시장에서도 영향력을 확대해 나갈 것”이라고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
ryupro@sedaily.com
