AI 사이클이 촉발하는 GPU와 HBM

HBM이 핫해서 늦었지만 지금부터라도 관심을 가지고 ..

HBM 이란

HBM은 DRAM의 일종으로 High Bandwidth Memory이다. 여러개의 D램 칩을 TSV(Through Silicon Via)를 통해 수직 연결함으로써 데이터 처리 속도를 혁신적으로 끌어올렸다.

HBM 중요한 이유

최근 AI 가 촉발한 시대에서는 방대한 양의 데이터를 처리하는 것이 필요하다. GPU, CPU의 연산속도가 빠르게 증가하면서 이 연산을 받쳐주는 메모리에서 병목현상이 발생. 병목현상을 해결하기 위해서는 HBM이 필요하다. 엔비디아의 AI 서버 제품에 GPU와 함께 HBM이 기본적으로 탑재가 된다.

1. AI시대에 GPU의 연산속도가 빨라지면서 메모리에서 병목현상 발생

2. 흔히 비유하는 교통상황과 똑같음

3. '더 많은'도로와 '더 짧은'도로를 만들면 병목현상 해결 가능

4. 기존에는 회로, 와이어, 솔더볼로 연결하던 통로를 '많은 숫자의 구멍을 뚫어서 직접연결'하여 해결함

5. 이렇게 구멍을 뚫어 연결하는 방식을 ①TSV(through silicon via)라고 부름

6. TSV에는 구멍을 뚫는 공정에 후속공정이 있는데

7. ②백그라인딩 : 더 짧은 통로를 위해 웨이퍼 뒷면을 갈아버림

8. ③본딩 : 구멍을 뚫은 칩을 정렬해서 칩끼리 붙임

9. 위 세가지 공정이 TSV의 주요 공정

10. ④검사 : 여러개의 칩을 적층하다보니 한개의 칩만 불량이 나도 적층한 모든 칩을 버려야하는 상황이 발생. 칩 적층 전에 불량을 최대한 솎아내는 것이 중요해짐

11. ⑤2.5D 패키징 : 이렇게 만든 HBM과 GPU도 최대한 빠른 속도를 위해 함께 패키징하는 과정을 거침. 각 업체들에서 2.5D 패키징을 EMIB, CoWoS 등으로 부름

HBM 관련주

① TSV

- 제우스 : Via홀 공정 Cleaning 장비 제조

- 테스 : 공정사이 Dummy Layer 적층에 CVD 장비 사용

② 백그라인딩

- Disco(日) : 백그라인딩, 다이싱, 드릴링 등 후공정 핵심장비업체, 20조가 넘는 높은 시총에도 최근 주가 2배상승

- 케이씨텍 : CMP장비

③ 본딩

- 한미반도체 : TSV 핵심공정인 본딩작업에 사용되는 TC Bonder 장비

④ 검사

- 인텍플러스 : 검사장비 근본업체

- 펨트론 : 신규상장 검사장비업체

⑤ 2.5D 패키징

- 이오테크닉스 : 웨이퍼가 얇아지면서 다이싱 기술이 발전중, 스텔스다이싱/레이저그루빙 장비

- 대덕전자, 심텍 : 칩이 미세화되면서 당연히 기판도 미세화 진행중, FC-BGA 생산

- 덕산하이메탈 : I/O(칩-기판 연결부위)가 많아지면서 이를 연결하는 솔더볼 사용량 증가

- 프로텍, 레이저쎌 : 칩-솔더볼-기판을 연결하는 작업을 리플로우라고 함, 이 작업을 레이저로 진행하는 장비(선단기술)

- 피에스케이홀딩스 : 리플로우장비, Descum 장비 업체

- 에스티아이 : 리플로우장비, FC-BGA현상기, 엣지트리밍 등 후공정 관련 장비 업체

HBM 시장 점유율

2022년 말 기준 SK 하이닉스 50%, 삼성전자 40%, 마이크론 10%

HBM 전망

HBM의 시장이 제대로 형성되지 않았다. D램 시장의 1%안팎이었지만 최근 챗GPT 효과로 인공지능(AI) 서버 수요가 늘면서 해당 서버에 탑재되어 HBM 시장도 확대될 전망

AI 서버 수요 연평균 10.8% 증가 전망

HBM 2025년까지 40~45% 성장

결론은 '좋다.'

(1) SK하이닉스

내년 상반기(HBM3 -> HBM3E 개발 진행)

엔비디아도 HBM3E 샘플 러브콜

기존 H100 + HBM3 폭발적 수요 증가, HBM3E 수요 기대

(2) 삼성전자

올해 4분기부터 HBM3 본격화

전체 D램 매출에서 HBM3 비중확대

(2023년 6% -> 2024년 18%)

HBM3보다 더 높은 HBM3P 준비 - 메모리 + 대역폭 UP