SK하이닉스가 고대역폭메모리(HBM) 기술 고도화를 위한 핵심 요소로 전력·대역폭·용량 개선을 꼽았다.
이규제 SK하이닉스 부사장은 2일 인천 송도 컨벤시아에서 열린 'KMEPS 2025 정기학술대회'에서 HBM 기술 현황에 대해 발표했다. 이 부사장은 현재 SK하이닉스가 AI의 발전과 HBM 고객사들의 요구사항에 대응하기 위해 △전력(Power) △대역폭(Bandwidth) △용량(Capacity) 개선에 집중하고 있다고 밝혔다.
HBM은 AI 시대에 각광받는 메모리다. 여러 개의 D램을 쌓아올려서 데이터 이동 속도를 극대화한 칩이다. GPU 등 AI 연산장치 바로 옆에서 데이터 처리를 보조할 수 있는 '니어(near) 메모리'이기도 하다.
SK하이닉스는 회사 고유의 HBM 공정인 'MR-MUF'를 기반으로 이 시장에서 독보적인 선두를 달리고 있다. 하지만 기술 발전에 대한 회사의 고민은 여전하다. 삼성전자, 마이크론 등 기존 강자들의 거센 추격에 이어 '다크호스'로 떠오른 중국 CXMT까지 HBM 시장에 가세하며 경쟁이 뜨거워지고 있기 때문이다. 또한 2022년 챗GPT 출현 이후 AI 시장이 폭발적으로 성장하면서 HBM 개발 속도가 더 빨라져야 하는 상황까지 맞닥뜨렸다.
이 부사장은 이러한 상황에서 시장 리더십을 이어가기 위해 대역폭 개선이 최우선이라고 설명했다. 그는 "대역폭을 1.5배 올릴 때마다 2년 정도가 걸렸는데 그 주기가 더 짧아지고 있다"면서 "고객사들이 현재 업계에서 만들 수 있는 대역폭보다 더욱 큰 폭의 개선을 원하고 있다"고 설명했다.
대역폭은 한 개 칩에서 1초동안 이동할 수 있는 정보양이다. 5세대 HBM(HBM3E)까지는 1024개의 수직 통로를 뚫었지만 6세대(HBM4) 제품부터는 2배인 2048개를 뚫어 정보가 원활하게 빠르게 이동할 수 있도록 돕는다. 마치 2차선 도로가 4차선 고속도로가 되면 자동차들이 원활하게 움직일 수 있는 것처럼, 정보 이동 통로가 늘어날 수록 속도가 크게 개선될 수 있다. SK하이닉스의 HBM4 대역폭은 HBM3E 대비 60%가 늘어난 2TB/s다.
이 부사장은 "2048개 이상의 이동 통로를 구현해야 한다는 사람들이 있지만 열(Thermal) 문제가 심화해서 쉽지 않다"며 "아직까지는 2048개의 통로가 주요하게 쓰일 것으로 예상된다"고 부연했다.
칩 당 용량 역시 중요하다. HBM은 4단→8단→12단→16단으로 D램의 적층 수가 점차 늘어나고 있다. AI의 발전으로 HBM이 기억해야 할 정보의 양이 많아지면서다.
다만 제한된 높이에서 쌓아야 하는 것이 문제다. 현재 업계에서 정한 높이인 775마이크로미터(㎛) 안에 고적층 HBM을 구현하려면 단일 D램의 용량을 극대화하거나 칩을 더 얇게 갈아서 높은 층으로 쌓아야 한다.
이때 고적층을 하면서 심화하는 '발열(heat)' 문제, 전력 전달(Power Delivery Network·PDN)의 한계를 극복해야 하는 문제, 그로 인한 단가 상승 문제까지 있다. 특히 발열 문제의 경우 그동안 회사는 HBM 안에 금속 범프의 수를 늘리거나 열을 잘 빼내는 소재를 활용하면서 16단 개발(HBM3E)까지 성공했다.
이제 최후의 솔루션으로 열이 이동하는 경로를 짧게 만드는 방법이 있다. 수직 적층한 D램 사이의 간격을 최소화하는 것이다. 이 부사장은 "궁극적인 해결 방법은 '갭 하이트(Gap Height)'다. 엔지니어링 하는 사람들이 제일 어려워하는 방법이지만 뚫고 가야 한다"고 설명했다. 간격을 줄이기 위한 최선의 공정으로는 ‘하이브리드 본딩’ 등이 거론된다.
마지막으로 전력 효율성 개선은 HBM의 영원한 과제다. AI 칩의 활용성이 늘어나고 있지만 고용량·고성능 메모리인 HBM의 전력 소모는 일반적인 메모리에 비해 많은 편이다. 'GPU를 녹이는 느낌'으로 AI 인프라에 투자하고 있는 미국 빅테크들은 1와트(W)라도 낮은 반도체를 원하고 있다.
SK하이닉스는 이 요구사항을 '베이스 다이' 개선으로 극복할 예정이다. 베이스 다이는 HBM4의 가장 밑단에서 데이터 이동을 제어하는 칩이다.
기존에는 이를 SK하이닉스가 자체 생산했으나, HBM4부터는 세계 1위 파운드리 회사인 TSMC에서 생산하면서 미세회로를 구현한다. 칩 속에서 미세한 회로가 늘어날 수록 전력 소모량은 줄어들 수 있다.
이 부사장은 "HBM의 로직 공정은 주요 파운드리 협력사와의 협업이 굉장히 중요하다"면서 "이 부분에서 긴밀한 설계적인 협업이 이뤄지고 있다"고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
hr@sedaily.com
