HBM (Memoria de Ancho de Banda Alto)
Un tipo de memoria apilada justo junto a un chip de IA para alimentarlo con datos lo bastante rápido como para seguir el ritmo de su cómputo — un cuello de botella clave en la expansión de la IA.
Los aceleradores de IA como las GPU pueden realizar muchísimos más cálculos por segundo de los que la memoria convencional puede suministrarles datos — una brecha conocida como el “muro de memoria”. HBM cierra parte de esa brecha apilando verticalmente varias capas de chips de memoria y conectándolas al procesador con una interconexión muy ancha y muy corta, aumentando drásticamente el ancho de banda frente a la DRAM estándar.
El suministro de HBM está dominado por un puñado de fabricantes — principalmente SK hynix, Samsung y Micron — y la demanda del entrenamiento e inferencia de IA la ha convertido en uno de los componentes con suministro más ajustado y más importantes estratégicamente en toda la pila de IA.