인프라 관련 분석 →
HBM (고대역폭 메모리)
AI 칩 바로 옆에 쌓아 올려, 칩의 연산 속도를 따라갈 만큼 빠르게 데이터를 공급하는 메모리 — AI 인프라 구축의 핵심 병목 지점.
GPU 같은 AI 가속기는 초당 처리할 수 있는 연산량이 일반 메모리가 데이터를 공급할 수 있는 속도보다 훨씬 앞서 있는데, 이 간극을 “메모리 벽(memory wall)”이라 부릅니다. HBM은 메모리 칩을 여러 층으로 수직으로 쌓고 프로세서와 매우 넓고 짧은 인터커넥트로 연결해, 일반 D램 대비 대역폭을 크게 끌어올림으로써 이 간극의 일부를 메웁니다.
HBM 공급은 SK하이닉스, 삼성, 마이크론 등 소수 업체가 사실상 독점하고 있습니다. AI 학습과 추론 수요가 몰리면서 HBM은 전체 AI 스택 안에서 공급이 가장 빠듯하고 전략적으로도 가장 중요한 부품 중 하나가 됐습니다.