“기존 엔비디아의 서버 구조와 같은 데이터센터 설계 방식으로는 인공지능(AI) 자원 활용에 한계가 있습니다. 이제 고성능 연산을 위해서는 그래픽처리장치(GPU)와 메모리반도체 등을 효율적으로 연결하고 활용하는 ‘반도체 연결’이 중요해졌죠.”
과학기술정보통신부가 주최하고 한국연구재단과 서울경제신문이 공동 주관하는 ‘대한민국 과학기술인상’ 1월 수상자로 선정된 정명수 파네시아 대표 겸 한국과학기술원(KAIST) 전기및전자공학부 교수는 7일 독자 기술 ‘컴퓨트익스프레스링크(CXL) 기반 모듈형 AI 데이터센터 아키텍처’를 앞세워 전 세계적인 AI 수요 급증에 대응한 데이터센터 성능 경쟁에서 주도권을 확보하겠다는 포부를 밝혔다. 정 대표가 창업한 파네시아는 해당 기술로 세계 최대 전자·정보기술(IT) 전시회 CES에서 지난해 혁신상을 받은 데 이어 6일(현지 시간) 개막한 올해 행사에도 참가해 최신 기술 ‘CXL 3.2 패브릭 스위치’를 선보이고 상용화를 추진 중이다.
GPU는 AI 모델을 구동하기 위한 핵심 연산 기능을 수행하지만 이를 위해서는 방대한 데이터를 보관하고 필요할 때 가져다 쓸 수 있는 메모리도 필수적이다. 작업자(GPU)가 아무리 똑똑해도 서류를 잘 쌓아둘 책상(메모리)이 없다면 제대로 일할 수 없는 것과 비슷한 이치다. 이에 GPU 스스로도 자체 메모리를 갖췄지만 그 용량이 통상 수십 GB(기가바이트)인 반면 최신 대규모언어모델(LLM)을 돌리는 데 필요한 메모리 용량은 TB(테라바이트·1000GB) 수준이라 GPU만으로 AI 데이터센터를 구성하는 데 한계가 있는 실정이다. 엔비디아가 자사 GPU를 SK하이닉스·삼성전자의 고대역폭메모리(HBM)와 결합한 AI 가속기, 여러 GPU를 연결하는 ‘NV링크’ 등 신기술로 대응하는 가운데 CXL이 또 다른 대안으로 떠올랐다.
CXL은 GPU와 메모리가 빠르게 데이터를 주고받을 수 있는 연결 장치, 즉 일종의 ‘데이터 고속도로’다. 이를 통해 GPU에 필요한 만큼 추가 메모리를 붙여 용량 부족을 해결할 수 있다. 기존에도 GPU에 메모리를 추가하자는 아이디어가 있었지만 GPU와 추가 메모리 간 통신 속도가 제한돼 필요한 데이터를 제때 주고받지 못하는 병목현상이 발목을 잡았다. GPU와 메모리 간 통신 속도를 높여 병목을 잡을 CXL 개발 경쟁이 시작된 가운데 파네시아는 2024년 통신 지연시간을 수십 나노초(10억 분의 1초)로 단축하며 경쟁 기술 대비 3배 이상 빠른 속도를 달성했다. 이를 HBM과 NV링크까지 통합해 GPU, 메모리, 중앙처리장치(CPU)를 필요에 따라 자유롭게 조합해서 데이터센터를 만들 수 있는 모듈형 AI 데이터센터 솔루션을 발전시켰다. 최신 기술인 CXL 3.2 패브릭 스위치는 CES 2026에서 전시되고 협력사 대상 샘플 칩 배포를 통해 양산 가능성을 검증받고 있다.
이 같은 기술로 데이터센터 운영비를 크게 줄일 수 있다는 게 정 대표의 설명이다. 그는 “기존 엔비디아 서버 구조와 같은 형태는 (GPU와 메모리 등) 장치 비율이 고정돼 있다”며 “이에 GPU 메모리가 부족하면 값비싼 GPU를 추가로 구매해야 했지만 (우리 기술로는) 필요한 메모리만 추가로 연결함으로써 비용을 절감할 수 있다”고 설명했다. 파네시아는 앞서 CXL을 통해 GPU의 가용 메모리 용량을 TB급으로 늘리고 AI 서비스 제공 업체의 설비투자(CAPEX)를 34배 절감할 수 있다고 소개했다.
정 대표의 CXL 연구는 2022년 말 챗GPT는 물론 2016년 알파고도 등장하기 전인 2015년부터 이뤄진 ‘선견지명’이었다. 그는 “AI가 본격적으로 주목받기 이전부터 연산 자원과 메모리의 분산된 구조로 인한 통신 지연과 병목 문제가 반복적으로 나타났다”며 “이에 개별 장치 성능을 향상시키는 것만으로는 전체 시스템 효율을 높이기 어렵다고 생각했고 이는 최근 대규모 AI 확산과 함께 분명해졌다”고 했다. 그는 미국 펜실베이니아주립대에서 전기공학 박사 학위를 받고 삼성전자와 로런스버클리국립연구소 등을 거쳐 2019년 KAIST 교수로 부임했다. 이어 2022년 파네시아를 창업하고 2년 만에 누적 1000억 원대 투자 유치에 성공했다.
정 대표는 새해 상용화 확대에 집중할 방침이다. 그는 “지난해 하반기부터 관련 기술을 적용한 초기 실리콘이 산업계 협력 파트너들을 중심으로 공유되며 많은 관심을 받고 있다”며 “관련 생태계를 확장하고 연구를 실용적 방향으로 발전시키는 데 집중할 계획”이라고 말했다. 이어 “반도체 연결 기술은 상대적으로 주목받지 않았지만 지속적 연구가 이어진다면 국가 경쟁력 확보에 도움이 될 수 있다”며 정부 지원의 필요성도 강조했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
sookim@sedaily.com
