고대역폭메모리

HBM은 표준 D램의 성능 한계와 전력 소모 문제를 해결하기 위해 고안되었다. 여러 개의 D램 다이(Die)를 수직으로 쌓고, 이를 기둥 형태의 통로인 TSV(Through-Silicon Via, 실리콘 관통 전극) 기술로 연결하여 데이터 전송 통로를 획기적으로 늘린 것이 특징이다.

일반적인 D램이 마더보드의 슬롯에 장착되는 것과 달리, HBM은 중앙처리장치(CPU)나 그래픽처리장치(GPU)와 같은 프로세서 바로 옆에 실리콘 인터포저를 통해 배치되는 '온패키지(On-package)' 형태를 취한다. 이러한 구조는 물리적 거리를 단축시켜 데이터 전송 효율을 극대화하고 시스템 전체의 크기를 줄이는 데 기여한다.

HBM은 반도체 표준 기구인 JEDEC의 규격에 따라 지속적으로 발전해 왔다.

• HBM (1세대): 2013년 SK하이닉스가 세계 최초로 개발하였으며, 2015년 AMD의 GPU에 처음 탑재되었다.
• HBM2 (2세대): 2016년 표준이 승인되었으며, 데이터 전송 속도와 용량이 향상되었다.
• HBM3 (4세대): 2022년 공식 발표되었으며, 인공지능 서비스의 확대로 인해 수요가 급증하였다.
• HBM3E: HBM3의 확장판으로, 동일한 인터페이스 폭을 유지하면서 핀당 데이터 전송 속도를 더욱 높인 규격이다.
• HBM4 (6세대): 2025년 표준이 발표되었으며, 채널 구성과 버스 폭 등에서 큰 변화가 도입되었다.

장점

1. 높은 대역폭: 수천 개의 데이터 통로를 통해 대용량 데이터를 동시에 빠르게 처리할 수 있다.
2. 저전력 및 공간 효율: 기존 D램 대비 전력 소비가 적고, 수직 적층 구조 덕분에 인쇄 회로 기판(PCB)에서 차지하는 면적이 작다.

한계

1. 높은 비용: 생산 공정이 복잡하고 고난도 기술이 요구되어 평균 판매 단가(ASP)가 일반 D램의 최소 3배 이상으로 형성된다.
2. 열 관리 문제: 칩을 수직으로 밀집시켜 쌓는 구조적 특성상 열 배출이 어려워 정교한 냉각 설계가 필수적이다.

전 세계 HBM 시장은 한국의 SK하이닉스와 삼성전자, 미국의 마이크론 테크놀로지가 주도하고 있다. 특히 SK하이닉스는 초기 개발 단계부터 시장을 선점하여 높은 점유율을 확보하고 있다.

대만의 파운드리 기업인 TSMC는 HBM의 베이스 다이 생산 및 패키징 분야에서 주요 메모리 제조사들과 협력 관계를 구축하고 있다. 인공지능(AI) 산업의 급격한 성장으로 인해 고성능 컴퓨팅 자원의 수요가 늘어남에 따라 HBM 시장 규모는 지속적으로 확대되는 추세이다.