基础设施 相关分析 →
HBM(高带宽内存)
一种直接堆叠在 AI 芯片旁边的内存，用于以足够快的速度为芯片供应数据、跟上其算力——是 AI 基础设施建设中的关键瓶颈。
GPU 等 AI 加速器每秒能完成的运算量，远超普通内存所能提供数据的速度，这一差距被称为"内存墙(memory wall)"。HBM 通过将多层内存芯片垂直堆叠、并用极宽极短的互联线路与处理器相连，大幅提升了相对于标准 DRAM 的带宽，从而弥补了这一差距的一部分。
HBM 的供应被少数几家厂商主导——主要是 SK 海力士、三星和美光。来自 AI 训练与推理的需求，已经让它成为整个 AI 产业链中供应最紧张、也在战略上最重要的组件之一。