インフラ 関連分析 →
HBM(高帯域幅メモリ)
AIチップのすぐそばに積み重ねて配置し、チップの演算速度に追いつけるだけの速さでデータを供給するメモリ — AIインフラ構築における主要なボトルネック。
GPUなどのAIアクセラレータは、1秒あたりに実行できる演算量が、一般的なメモリがデータを供給できる速度をはるかに上回っており、この差は“メモリウォール(memory wall)”と呼ばれます。HBMはメモリチップを複数層垂直に積み重ね、プロセッサと非常に幅広く短い配線でつなぐことで、通常のDRAMに比べて帯域幅を大幅に引き上げ、このギャップの一部を埋めています。
HBMの供給はSKハイニックス、サムスン、マイクロンなどごく少数のメーカーに集中しています。AIの学習と推論からの需要が集中した結果、HBMはAIスタック全体の中でも供給が最も逼迫し、戦略的にも最も重要な部品の一つとなっています。