인공지능(AI) 스타트업 트릴리온랩스가 고차원적 언어 이해와 복잡한 문제 해결을 동시에 수행할 수 있도록 설계된 AI 모델 Tri-21B를 오픈소스로 공개했다. 이번 AI 모델은 불과 십여 명의 임직원들이 개발했지만 성능 면에서 구글과 알리바바의 모델에 필적하는 수준으로 나타났다. 트릴리온랩스는 기술력을 고도화하며 아시아 지역에서 ‘소버린(주권) AI’ 구현에 나선다는 전략이다.
24일 트릴리온랩스에 따르면 Tri-21B는 전작 Tri-7B보다 파라미터 수를 3배 이상 확장한 210억 개 규모다. 그래픽처리장치(GPU) 1개 단위에서도 원활하게 작동할 수 있는 경량성과 효율성을 갖췄다.
Tri-21B는 종합지식(MMLU)에서 77.62점을 기록했는데 구글 젬마3-IT-27B 모델(77.42점)과 알리바바 큐원3-32B(81.86점)과 필적했다. 한국어 언어 이해(KMMLU), 수학(MATH), 코딩(MBPP Plus) 등 고난도 추론 중심 평가 지표에서도 큐원3, 메타 라마3, 젬마3 등 글로벌 테크 기업의 중형 모델과 견줄만한 성능을 나타냈다.
트릴리온랩스는 ‘언어 간 상호학습 시스템’(XLDA)을 통해 모델 개발·학습 비용을 12분의 1로 절감했다. 언어 간 상호학습 시스템이란 AI 학습량이 많은 영어 기반 지식을 한국어 같은 상대적으로 학습량이 적은 언어로 효과적으로 전이하는 데이터 학습 방법론을 말한다. 트릴리온랩스는 이 시스템을 한국어처럼 데이터가 적은 일본어 등의 동북아 언어권 AI 모델 개발에서도 활용할 수 있다고 설명했다. 신재민 트릴리온랩스 대표는 “트리(Tri)-21B는 플라이휠 구조를 통해 70B급 대형 모델의 성능을 21B에 효과적으로 전이해 모델 사이즈와 비용, 성능 간 균형에서 현존하는 가장 이상적인 구조를 구현했다”며 “이번 모델처럼 바닥부터 사전학습으로 개발한 고성능 LLM을 통해 비용 효율성과 성능 개선을 빠르게 달성하겠다”고 강조했다. 신 대표는 “한국 AI 기술력의 완성도를 높이고 향후 공개될 트리(Tri)-70B와 함께 풀사이즈 LLM 포트폴리오를 완성해 나가겠다”고 전했다.
트릴리온랩스는 네이버의 초거대 AI '하이퍼클로버X' 개발에 참여했던 신 대표가 설립한 기업이다. 신 대표는 올해 엔비디아 기술 콘퍼런스 GTC 2025에서 ‘소버린 AI’에 대해 발표한 바 있다. 트릴리온 랩스는 지난해 9월 57억 원 규모의 프리시드 투자를 유치했다. 스트롱벤처스와 카카오벤처스, 베이스인베스트먼트 등이 참여했다. 김영무 카카오벤처스 심사역은 지난 투자에서 “이전엔 누구도 쉽게 도전할 수 없었던 사전 훈련부터 다시 개발해 완전히 독자적인 한국어 기반 LLM을 만들겠다는 트릴리온랩스의 공격적인 비전에 큰 감명을 받았다”며 “트릴리온랩스가 만들어 낼 한국어 기반 LLM이 AI 주도권 확보에 기여하길 바란다”고 말했다.
트릴리온랩스는 의료 AI 기업 루닛(328130)과 국민건강보험 일산병원, 카카오헬스케어 등과 컨소시엄을 구성해 독자적 AI 파운데이션 모델 개발 지원 사업을 신청했다. 대표 AI 모델로 선정되면 'K-AI 모델', 개발사는 'K-AI 기업' 등 명칭을 쓸 수 있다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
kim@sedaily.com
