HBM과 하이브리드 본딩
AI 가속기는 연산기보다 메모리가 먼저 막힌다. 수백 GB의 가중치를 매 순간 읽어 와야 하는데, 보드 위 DIMM까지 가는 수십 개의 신호선으로는 대역폭이 모자란다. 고대역폭 메모리(HBM, High Bandwidth Memory)는 이 문제를 패키징으로 풀었다. DRAM 다이를 얇게 갈아 TSV로 수직 연결해 쌓고, 천 개가 넘는 데이터 선을 프로세서 바로 옆에 댄다. 적층 수가 8단, 12단, 16단으로 늘면서 접합 간극과 방열이 한계에 가까워졌고, 그 다음 수단으로 범프를 아예 없애는 하이브리드 본딩(Hybrid bonding)이 준비되고 있다. 이 장은 HBM의 구조와 두 가지 적층 공정, 높이와 열의 계산, 그리고 구리와 유전체를 직접 붙이는 원리를 다룬다.
- HBM의 구조(베이스 다이, 코어 다이, TSV, 마이크로 범프)와 세대별 대역폭이 어떻게 정해지는지 설명한다.
- 적층 높이 예산을 계산하고, 적층 수가 늘 때 다이 두께와 접합 간극이 받는 제약을 안다.
- TC-NCF와 MR-MUF 공정의 흐름과 장단점을 비교한다.
- 1차원 직렬 열저항 모델로 적층 안의 온도 분포를 계산한다.
- 하이브리드 본딩의 단계와 조건(리세스, 거칠기, 파티클, 어닐)을 설명하고 구리 팽창량을 계산한다.
HBM이란 무엇인가
메모리의 대역폭은 (데이터 선의 수) × (선 하나의 전송 속도)다. 일반 DRAM 모듈은 선 하나의 속도를 높이는 길을 걸어 왔지만, 보드와 소켓을 지나는 긴 선로에서는 속도를 올릴수록 신호 무결성과 전력이 나빠진다. HBM은 반대로 선의 수를 늘린다. 스택 하나에 데이터 I/O가 1024개(HBM4에서는 2048개)이고, 이 많은 선을 11장의 인터포저 위 수 mm 길이의 미세 배선으로 프로세서에 연결한다. 선이 짧으니 선 하나를 무리하게 빠르게 몰지 않아도 되고, 비트당 에너지도 낮다.
천 개가 넘는 신호를 다이 가장자리의 와이어 본딩(6장)으로 뽑아낼 수는 없다. 그래서 HBM은 다이 면적 안쪽에 수천 개의 TSV(Through-Silicon Via)를 뚫어 신호와 전원을 수직으로 통과시킨다. 맨 아래에는 인터포저와 통신하는 PHY, TSV 구동 회로, 테스트·수리 회로를 담은 베이스 다이(Base die, 로직·버퍼 다이)가 있고, 그 위에 DRAM 셀 배열을 담은 코어 다이(Core die)가 4·8·12·16장 올라간다.
HBM은 JEDEC 표준으로 인터페이스와 범프 배치, 패키지 치수가 정해져 있어 여러 메모리 회사의 제품이 같은 자리에 들어간다. 첫 표준(JESD235)은 2013년에 나왔고, 세대가 바뀔 때마다 핀당 속도와 적층 수가 올랐다. HBM4에서는 데이터 I/O 수 자체를 두 배로 늘렸다.
| 세대 | JEDEC 표준 (연도) | 데이터 I/O | 핀당 속도 (약) | 스택당 대역폭 (약) |
|---|---|---|---|---|
| HBM | JESD235 (2013) | 1024 | 1 Gb/s | 128 GB/s |
| HBM2 | JESD235A (2016) | 1024 | 2 Gb/s | 256 GB/s |
| HBM2E | JESD235 개정판 (2018~2021) | 1024 | 2.4~3.6 Gb/s | 300~460 GB/s |
| HBM3 | JESD238 (2022) | 1024 | 6.4 Gb/s | 819 GB/s |
| HBM3E | HBM3의 확장 (제품 2023~2024) | 1024 | 8~9 Gb/s대 | 1.0~1.2 TB/s |
| HBM4 | JESD270-4 (2025) | 2048 | 최대 8 Gb/s | 2 TB/s |
적층 구조와 높이 예산
코어 다이 한 장에는 수천 개의 TSV가 있고, 다이 앞면과 뒷면에는 같은 수의 마이크로 범프(Microbump)와 패드가 수십 µm 피치로 놓인다(범프 구조는 3장). 신호·전원용 범프 외에, 전기적으로는 쓰지 않으면서 열을 전달하고 다이를 기계적으로 받치는 더미 범프도 다수 배치한다. 웨이퍼는 TSV를 드러내기 위해 뒷면을 갈아 내므로(2장, 12장) 코어 다이의 두께는 약 30~50 µm 수준이다. 머리카락 굵기의 절반 정도이고, 이 두께에서는 다이가 종이처럼 휜다.
적층의 전체 높이는 표준이 제한한다. 옆에 놓이는 프로세서 다이와 윗면 높이가 맞아야 히트 스프레더가 두 다이에 함께 닿기 때문이다. HBM3 계열까지는 약 720 µm였고, HBM4에서는 775 µm로 완화된 것으로 공개되어 있다. 높이를 식으로 쓰면 다음과 같다.
예를 들어 베이스 60 µm, 코어 35 µm, 간극 15 µm이면 12단은 60 + 12 × 50 = 660 µm로 720 µm 안에 들어가지만, 16단은 860 µm로 넘친다. 16단을 720 µm에 넣으려면 층당 (다이 + 간극)이 약 41 µm 이하여야 한다. 다이를 더 얇게 하면 휨과 취급이 어려워지고, 간극을 줄이면 범프 사이를 채우기가 어려워진다. 간극을 0으로 만드는 하이브리드 본딩이 거론되는 직접적인 이유가 이 높이 예산이다.
HBM 적층 빌더: 적층 수·다이 두께·접합 방식과 전체 높이
TC-NCF와 MR-MUF
얇은 다이를 범프로 쌓을 때 풀어야 할 문제는 둘이다. 수천 개의 솔더 접합을 빠짐없이 만드는 것, 그리고 범프 사이의 좁은 틈을 빈 곳 없이 채우는 것이다. 틈을 채우는 재료는 접합부를 기계적으로 보호하고 열을 전달한다(언더필의 역할은 7장). 현재 양산에 쓰이는 방식은 이 두 가지를 하는 순서가 다르다.
TC-NCF(Thermo-Compression bonding with Non-Conductive Film)는 범프가 있는 면에 비전도성 필름을 웨이퍼 단계에서 미리 붙여 둔다. 다이를 한 장씩 집어 올려 정렬한 뒤 본딩 헤드로 열과 힘을 가하면, 필름이 녹아 흐르면서 범프가 필름을 뚫고 아래 패드에 닿고 솔더가 녹아 접합된다. 필름은 범프 사이를 채운 채 굳는다. 다이를 헤드가 누른 상태에서 접합하므로 얇은 다이의 휨을 눌러 펴기 좋고 간극을 일정하게 만들 수 있다. 대신 한 장마다 가열·가압·냉각을 반복하므로 처리량이 낮고, 필름이 범프와 패드 사이에 끼거나 가장자리로 밀려 나오는 양(필렛)을 관리해야 한다.
MR-MUF(Mass Reflow with Molded Underfill)는 접합과 충전을 분리한다. 먼저 다이를 낮은 온도와 힘으로 임시 접합해 쌓아 둔 뒤, 적층 전체를 리플로 오븐에 넣어 모든 솔더를 한꺼번에 녹인다. 그 다음 액상 몰딩 컴파운드를 주입해 다이 사이의 틈과 측면을 한 번에 채운다(몰드 언더필은 8장). 솔더 접합을 한 번에 끝내므로 생산성이 높고, 충전재에 열전도가 좋은 필러를 많이 넣기 쉬워 방열에 유리하다. 반면 리플로 중에는 다이를 누르는 것이 없으므로 얇은 다이의 휨을 다른 방법으로 잡아야 하고, 좁은 간극으로 몰드가 고르게 흘러 들어가게 해야 한다. 적층 수가 늘면서 임시 접합 단계에 열압착을 일부 결합하는 변형도 쓰인다.
| 항목 | TC-NCF | MR-MUF | 하이브리드 본딩 |
|---|---|---|---|
| 접합 재료 | Cu 필러 + 솔더 | Cu 필러 + 솔더 | Cu–Cu, 유전체–유전체 |
| 틈 충전 | 비전도성 필름 (접합 전 부착) | 액상 몰드 컴파운드 (접합 후 주입) | 없음 (간극 0) |
| 접합 단위 | 다이마다 열압착 | 적층 전체를 한 번에 리플로 | 다이마다 상온 접합 후 일괄 어닐 |
| 강점 | 휨을 눌러 가며 접합, 간극 균일 | 처리량, 충전재 열전도, 낮은 접합 하중 | 높이·열저항·피치 |
| 과제 | 처리량, 필름 끼임·필렛, 필름의 열전도 | 얇은 다이 휨, 좁은 간극의 충전성 | CMP 평탄도, 파티클, 정렬, 원가 |
| 적용 | HBM 양산 | HBM 양산 | CIS·3D NAND·로직 3D 적층 양산, HBM은 개발·도입 단계 |
적층의 방열
HBM의 열은 주로 위쪽의 히트 스프레더와 냉각 장치로 빠진다. 맨 아래 다이에서 난 열은 그 위의 모든 다이와 접합층을 지나야 하므로, 적층 수가 늘수록 경로가 길어진다. DRAM은 온도가 오르면 셀의 누설 전류가 커져 데이터를 더 자주 다시 써야(리프레시) 하고, 그만큼 성능과 전력이 나빠진다. 그래서 가장 뜨거운 아래쪽 다이의 온도가 설계 한계를 정한다.
열이 수직으로만 흐른다고 보면 층 하나의 열저항은 실리콘과 접합층의 직렬 합이다(열저항의 기초는 5장, 패키지 전체의 열 설계는 14장).
다이마다 같은 전력 \(q\)를 내면 \(j\)번째 층을 지나는 열량은 그 아래 모든 다이의 합이므로 위로 갈수록 커진다. 아래쪽 다이의 온도 상승은 이것을 층마다 더한 값이다.
식에서 손댈 수 있는 것은 \(g\), \(f\), \(k_{\text{fill}}\)이다. 신호와 무관한 더미 범프를 촘촘히 넣어 \(f\)를 올리는 것, 충전재의 필러 함량을 높여 \(k_{\text{fill}}\)을 올리는 것, 간극을 줄이는 것이 각각 실제로 쓰이는 수단이다. 하이브리드 본딩은 간극을 없애고 접합층을 얇은 유전체와 구리로 바꾸므로 이 항을 거의 지운다.
적층 방열: 층별 온도 프로파일 (1차원 직렬 열저항)
하이브리드 본딩의 원리
하이브리드 본딩은 솔더를 쓰지 않는다. 두 다이의 접합면을 각각 유전체(SiO₂ 또는 SiCN) 속에 구리 패드가 박힌 평평한 면으로 만들고, 이 두 면을 그대로 맞붙인다. 유전체와 금속이라는 두 종류의 접합이 한 면에서 동시에 일어나므로 “하이브리드”라고 부른다. 접합은 두 단계로 일어난다.
첫 단계는 상온에서의 유전체 접합이다. 다마신 공정으로 만든 면을 CMP로 평탄화하되, 구리 패드가 유전체 면보다 수 nm 낮게(리세스) 되도록 끝낸다. 플라즈마로 표면을 활성화하고 물로 헹구면 유전체 표면에 수산기(–OH)가 붙는다. 이 두 면을 정렬해 가볍게 맞대면 수소 결합으로 달라붙고, 접합 영역이 한 점에서 시작해 파도처럼 번져 나간다(본딩 웨이브). 이때 구리는 리세스 때문에 서로 닿지 않는다. 구리가 먼저 닿으면 유전체가 붙지 못하기 때문에 일부러 낮춘 것이다.
둘째 단계는 어닐이다. 약 200~400 °C로 가열하면 유전체 계면의 수소 결합이 공유 결합(Si–O–Si)으로 바뀌어 접합 강도가 올라가고, 동시에 구리가 유전체보다 훨씬 많이 팽창해 리세스를 메우고 맞닿는다. 맞닿은 구리는 압축 응력을 받으며 계면을 넘어 확산하고 결정립이 자라 하나의 금속으로 이어진다.
이 방식이 요구하는 조건은 범프 접합과 차원이 다르다.
- 표면 거칠기: 상온 접합은 원자 수준의 근접이 필요하므로 유전체 면의 거칠기가 RMS 0.5 nm 이하 수준이어야 한다.
- 리세스와 디싱: 구리의 리세스가 nm 단위로 균일해야 한다. 패드가 크거나 밀도가 다르면 CMP의 디싱이 달라지므로 패드 크기와 배치 규칙을 설계 단계에서 맞춘다.
- 정렬: 피치가 작아질수록 정렬 오차 허용치가 준다. 패드가 어긋나면 접촉 면적이 줄고, 구리가 맞은편 유전체에 닿는다.
- 파티클: 솔더 접합은 수 µm의 입자를 간극이 흡수하지만, 간극이 0인 직접 접합에서는 입자 하나가 주변을 들어 올려 넓은 미접합 영역(보이드)을 만든다.
접합 단위에 따라 두 가지 방식이 있다. W2W(Wafer-to-Wafer)는 웨이퍼 전체를 한 번에 붙인다. 깨끗한 웨이퍼 면끼리 접합하므로 정렬과 청정도가 가장 좋고, 이미지 센서(화소 웨이퍼와 로직 웨이퍼)와 3D NAND(셀 웨이퍼와 주변 회로 웨이퍼)에서 양산되고 있다. 그러나 두 웨이퍼의 다이 크기가 같아야 하고, 불량 다이 위에 양품 다이가 붙는 것을 피할 수 없어 수율이 곱해진다(15장). D2W(Die-to-Wafer)는 검사를 통과한 다이만 골라 붙이므로 수율과 다이 크기 면에서 자유롭지만, 다이싱에서 나오는 파티클을 접합면에서 없애야 하고(4장의 플라즈마 다이싱이 거론되는 이유), 다이를 하나씩 놓는 처리량과 정렬 정밀도가 과제다. 여러 장을 쌓는 HBM은 D2W를 반복하는 형태가 된다.
| 항목 | 마이크로 범프 | 하이브리드 본딩 |
|---|---|---|
| 접합 피치 | 수십 µm (약 20 µm 아래로는 솔더 브리지·IMC 문제) | 양산 10 µm 이하, 1 µm 이하를 목표로 개발 |
| 다이 사이 간극 | 10~20 µm 수준 | 0 |
| 접합 온도 | 솔더 융점 이상 (약 250 °C) | 상온 접합 + 어닐 약 200~400 °C |
| 파티클 허용 | 간극이 흡수 | 서브 µm 입자도 보이드 유발 |
| 재작업 | 제한적으로 가능 | 어닐 뒤에는 사실상 불가 |
구리 팽창과 공정 창
어닐에서 구리가 리세스를 메우려면 팽창량이 리세스보다 커야 한다. 구리의 열팽창 계수는 약 16.5 ppm/K이고 SiO₂는 약 0.5 ppm/K이므로, 유전체에 박힌 두께 \(h_{\text{Cu}}\)의 구리 패드가 유전체 면에 대해 솟아오르는 높이는 다음과 같다.
두께 1 µm 패드를 300 °C에서 어닐하면 자유 팽창은 16 × 10⁻⁶ × 1000 nm × 275 ≈ 4.4 nm, 구속을 고려하면 약 9 nm다. 리세스가 수 nm여야 하는 이유가 여기에 있다. 리세스가 이보다 깊으면 구리가 닿지 않아 접점이 열리고, 반대로 리세스가 너무 얕거나 구리가 처음부터 튀어나와 있으면 팽창한 구리가 주변 유전체 계면을 밀어 벌린다. 패드가 얇아지거나(미세 피치) 어닐 온도를 낮춰야 하면(메모리는 열 예산이 작다) 허용 리세스는 더 작아진다. 그래서 낮은 온도에서도 잘 확산·성장하는 구리 미세 조직을 쓰는 연구가 함께 진행된다.
하이브리드 본딩 공정 창: 리세스와 어닐 온도
남은 과제
HBM의 원가에서 패키징과 테스트가 차지하는 몫은 일반 DRAM보다 훨씬 크다. 다이 한 장이라도 불량이면 적층 전체를 버려야 하므로, 쌓기 전의 양품 선별(KGD)과 TSV 불량을 우회하는 여분 TSV·수리 회로가 수율을 좌우한다(15장). 베이스 다이는 세대가 올라가며 역할이 커지고 있다. HBM4부터는 베이스 다이를 메모리 공정이 아닌 파운드리의 로직 공정으로 만드는 방향이 공개되어 있고, 고객별 회로를 넣는 맞춤형 HBM도 논의된다.
하이브리드 본딩이 HBM에 언제, 어느 세대부터 쓰일지는 2026년 현재 확정적으로 말하기 어렵다. 높이 한도가 775 µm로 완화되면서 범프 접합으로도 16단을 만들 수 있게 되었고, 하이브리드 본딩은 다이마다 CMP·세정·정밀 정렬이 필요해 원가와 처리량의 부담이 크다. 반면 적층 수가 더 늘거나 방열·피치 요구가 높아지면 간극이 없는 접합의 이점이 커진다. 기술의 선택은 성능만이 아니라 수율과 원가의 계산으로 정해진다는 점은 이 책의 다른 장과 같다.
핵심 정리
- HBM은 TSV로 연결한 DRAM 코어 다이를 베이스 다이 위에 쌓은 메모리다. 1024개(HBM4는 2048개)의 데이터 I/O를 인터포저의 짧은 배선으로 프로세서에 연결해 대역폭을 얻는다.
- 전체 높이 \(H = t_{\text{base}} + N(t_{\text{core}} + g) + t_{\text{extra}}\)는 표준이 제한한다(약 720 µm, HBM4에서 775 µm). 적층 수가 늘면 다이 두께나 간극을 줄여야 한다.
- TC-NCF는 필름을 미리 붙이고 다이마다 열압착한다. MR-MUF는 한꺼번에 리플로한 뒤 액상 몰드로 틈을 채운다. 휨 제어, 처리량, 방열에서 절충이 다르다.
- 적층의 열저항은 얇은 접합층이 지배하고, 맨 아래 다이의 온도 상승은 적층 수의 제곱에 비례한다. 더미 범프와 고열전도 충전재, 간극 축소가 대책이다.
- 하이브리드 본딩은 상온에서 유전체끼리 먼저 붙이고, 어닐에서 구리가 팽창해 리세스를 메우며 접합한다. 조건은 \(\Delta h \approx c(\alpha_{\text{Cu}}-\alpha_{\text{ox}})h_{\text{Cu}}\Delta T \ge \delta\)이며 리세스는 수 nm다.
- 간극이 없으므로 서브 nm 거칠기, nm 단위 리세스 균일도, 파티클 제어가 필요하다. W2W는 CIS와 3D NAND에서 양산 중이고, 다이를 골라 붙이는 D2W는 수율에 유리하지만 파티클과 처리량이 과제다.
확인 퀴즈
베이스 다이 60 µm, 코어 다이 30 µm, 접합 간극 15 µm일 때 16단 적층에 필요한 최소 높이는?
MR-MUF 공정의 순서로 맞는 것은?
다른 조건이 같을 때 코어 다이 적층 수를 8단에서 16단으로 늘리면, 1차원 직렬 열저항 모델에서 맨 아래 다이의 온도 상승은 대략 몇 배가 되는가?
하이브리드 본딩에서 CMP 뒤 구리 패드를 유전체 면보다 수 nm 낮게 만드는 이유는?