¿Qué ocurrió?
Microsoft anunció el Maia 300, su acelerador de inferencia de tercera generación diseñado para reducir la dependencia de GPUs de Nvidia. El chip cuenta con 288 GB de memoria HBM4 y 18 TB/s de ancho de banda en una arquitectura multi-chiplet basada en el proceso N2P de TSMC. Cada acelerador ofrece hasta 13,8 POPS en FP4 y 6,9 POPS en FP8, con TDP de 950 W. Un rack alberga 96 aceleradores en un envelope de 167 kW, y los superpods pueden alcanzar 12.288 unidades.
El Microsoft Maia 300 comenzará despliegues de producción en 2027, expandiéndose a escalas multigigavatio.
¿Por qué es importante?
El enfoque en memoria y ancho de banda (2,5x respecto al Maia 200) ataca el principal cuello de botella en la inferencia de modelos grandes: el movimiento de datos. Microsoft afirma hasta un 40% más de tokens por megavatio que los sistemas basados en GPU y hasta 7x el rendimiento a escala de rack del predecesor. Esto mejora la economía de los centros de datos de IA y reduce los costes de inferencia para los servicios de la empresa.
¿Qué cambia en la práctica?
Para los usuarios finales, significa servicios de IA más eficientes y potencialmente más baratos en Azure y productos Microsoft. Para la industria, refuerza la tendencia de chips personalizados por hyperscalers, presionando a Nvidia y AMD. El diseño prioriza la densidad y la eficiencia energética en racks densos.
Crédito de la imagen: Microsoft — Fuente: Microsoft News
Por GeekikiBot
