고대역폭 메모리(High Bandwidth Memory, HBM)는 여러 개의 D램(DRAM) 다이를 수직으로 적층하여 데이터 전송 대역폭을 획기적으로 높인 고성능 메모리 인터페이스이다. 실리콘 관통 전극(TSV) 기술을 활용해 칩을 수직으로 연결함으로써 기존 D램 대비 데이터 통로를 대폭 늘린 것이 특징이다. 주로 인공지능(AI) 가속기, 고성능 그래픽 카드, 슈퍼컴퓨터 등 대규모 데이터를 빠르게 처리해야 하는 분야에서 핵심 부품으로 사용된다.

배너 광고

개요

고대역폭 메모리는 데이터가 이동하는 통로인 대역폭을 극대화한 메모리이다. 일반적인 D램이 평면에 나열되어 프로세서와 연결되는 것과 달리, HBM은 여러 개의 D램 다이를 수직으로 쌓아 올려 공간 효율성을 높이고 데이터 처리량을 늘린다. HBM3 기준 버스 폭은 1,024비트로, 이는 기존 DDR5 메모리의 약 16배에 달하는 수준이다. 이를 통해 초당 수백 기가바이트(GB) 이상의 데이터를 전송할 수 있어 메모리 병목 현상을 해결하는 핵심 솔루션으로 꼽힌다.

기술적 구조

HBM의 핵심 기술은 **실리콘 관통 전극(Through-Silicon Via, TSV)**이다. 이는 칩에 수천 개의 미세한 구멍을 뚫어 상하층 칩을 전극으로 직접 연결하는 방식이다. 적층된 메모리 칩은 실리콘 인터포저라는 중간 기판을 통해 그래픽 처리 장치(GPU)나 중앙 처리 장치(CPU)와 물리적으로 매우 가깝게 연결된다. 이러한 구조는 데이터 전송 지연을 최소화하고 전력 효율성을 높이는 데 기여한다.

HBM과 로직 칩이 인터포저 위에 배치된 구조도
HBM과 로직 칩이 실리콘 인터포저를 통해 연결된 구조고대역폭 메모리(HBM) [IT조선 백과사전] < IT조선 백과사전 < 일반 < 컴퓨팅·AI < 기사본문 - IT조선

세대별 발전 현황

HBM은 기술 발전에 따라 여러 세대로 구분되며 JEDEC에 의해 표준화되었다.

세대주요 특징 및 시기
HBM12013년 SK하이닉스 최초 생산. 1.0 Gb/s 핀당 속도 제공.
HBM22016년 승인. 데이터 전송 속도와 용량 개선.
HBM32022년 공식 표준 발표. 스택당 최대 819 GB/s 대역폭 지원.
HBM3EHBM3의 확장판. 12단 적층을 통해 최대 36GB 용량과 1TB/s 이상의 대역폭 제공 가능.
HBM42025년 표준 발표. I/O 인터페이스를 2048비트로 확장하고 베이스 다이에 첨단 로직 공정 도입.
SK하이닉스의 HBM3 제품 사진
SK하이닉스가 공개한 고대역폭 메모리 HBM3고대역폭 메모리(HBM) [IT조선 백과사전] < IT조선 백과사전 < 일반 < 컴퓨팅·AI < 기사본문 - IT조선

주요 제조 기술

HBM 시장의 경쟁력은 D램 제조 기술뿐만 아니라 어드밴스드 패키징 기술에 의해 결정된다. 주요 기술로는 다음과 같은 방식이 있다.

  • MR-MUF (Mass Reflow Molded Underfill): SK하이닉스가 주도하는 기술로, 칩 사이에 보호재를 채워 넣고 한꺼번에 굳히는 방식이다. 방열 성능과 공정 효율이 우수한 것으로 평가받는다.
  • 하이브리드 본딩 (Hybrid Bonding): 삼성전자가 차세대 공정으로 추진 중인 기술로, 칩 사이에 범프(Bump) 없이 구리와 구리를 직접 연결하여 적층 높이를 줄이고 전송 효율을 극대화한다.

응용 분야 및 시장

인공지능 산업의 급성장으로 인해 HBM의 수요가 폭증하고 있다. AI 연산은 방대한 데이터를 빠르게 처리해야 하므로 메모리 병목 현상을 해결할 수 있는 HBM이 필수적이다.

  1. AI 가속기: 엔비디아(NVIDIA) 등의 GPU 기반 AI 연산 장치
  2. 고성능 컴퓨팅(HPC): 슈퍼컴퓨터 및 대규모 데이터 센터
  3. 네트워크 장치: 초고속 데이터 전송이 필요한 네트워크 스위치 및 라우터

현재 전 세계 HBM 시장은 SK하이닉스, 삼성전자, 마이크론 테크놀로지가 주도하고 있으며, 시장 규모는 2030년까지 약 50조 원 규모로 확대될 것으로 예측된다.

참고 자료

5
HBM 완전 정복 - AI 시대의 핵심 메모리, 고대역폭 메모리란 무엇인가HBM 완전 정복 - AI 시대의 핵심 메모리, 고대역폭 메모리란 무엇인가 📚 반도체 용어 사전 시리즈 #5 🔥 HBM # 🧠 HBM 완전 정복AI 시대의 핵심 메모리, 고대역폭 메모리란 무엇인가? #### 📚 반도체 용어 사전 시리즈 - 시리즈 #1 - 반도체 핵심 용어 10가지 (기초) - 시리즈 #2 - 반…https://semi-insight.tistory.com/18[Report]HBM, HBF 그리고 AI 및 고성능 컴퓨팅의 아키텍처 전환에 대한 심층 분석[Report]HBM, HBF 그리고 AI 및 고성능 컴퓨팅의 아키텍처 전환에 대한 심층 분석 본문 바로가기 보고서/시리즈 # [Report]HBM, HBF 그리고 AI 및 고성능 컴퓨팅의 아키텍처 전환에 대한 심층 분석 728x90 ## Executive Summary 본 보고서는 인공지능(AI) 및 고성능 컴퓨팅(H…https://research4lab.tistory.com/entry/HBM-HBF-%EA%B7%B8%EB%A6%AC%EA%B3%A0-AI-%EB%B0%8F-%EA%B3%A0%EC%84%B1%EB%8A%A5-%EC%BB%B4%ED%93%A8%ED%8C%85%EC%9D%98-%EC%95%84%ED%82%A4%ED%85%8D%EC%B2%98-%EC%A0%84%ED%99%98%EC%97%90-%EB%8C%80%ED%95%9C-%EC%8B%AC%EC%B8%B5-%EB%B6%84%EC%84%9D고대역폭 메모리(HBM) [IT조선 백과사전] < IT조선 백과사전 < 일반 < 컴퓨팅·AI < 기사본문 - IT조선고대역폭 메모리(HBM) [IT조선 백과사전] < IT조선 백과사전 < 일반 < 컴퓨팅·AI < 기사본문 - IT조선 전체메뉴 기사검색 기사검색 검색 닫기 기사검색 기사검색 검색 닫기 UPDATED. 2026-04-28 07:00 (화) 기사검색 HBM은 인공지능(AI) 산업에서 필수적이다. AI 연산은 높은 용량과 데…http://it.chosun.com/news/articleView.html?idxno=2023092117406고대역 메모리고대역 메모리 고대역폭 메모리(高帶域幅 - ,영어: High Bandwidth Memory, HBM) 또는 광대역폭 메모리(廣帶域幅 - )는 원래삼성전자, AMD, SK하이닉스가 시작한 3D 적층동기식 동적 랜덤 액세스 메모리(SDRAM)를 위한컴퓨터 메모리인터페이스다. 이는 고성능그래픽 가속기, 네트워크 장치, 고성능…https://ko.wikipedia.org/wiki/%EA%B3%A0%EB%8C%80%EC%97%AD_%EB%A9%94%EB%AA%A8%EB%A6%ACHBM(High Bandwidth Memory) 시리즈HBM(High Bandwidth Memory) 시리즈 728x90 ### 개요 HBM(High Bandwidth Memory) 시리즈는 TSV(Through-Silicon Via) 기반 3D 스택 DRAM 기술로, 고대역폭과 낮은 지연 시간, 높은 전력 효율을 특징으로 합니다. HBM1부터 최신 HBM3E까지, 세대별…https://itpe.jackerlab.com/entry/HBMHigh-Bandwidth-Memory-%EC%8B%9C%EB%A6%AC%EC%A6%88

관련 문서