Microsoft Maia 300: chip de IA con 288 GB HBM4 y 40% más tokens por megavatio

¿Qué pasó?

Microsoft presentó el Microsoft Maia 300, su tercera generación de acelerador de IA personalizado para Azure, en el OCP Global Summit. El Microsoft Maia 300 usa arquitectura multi-chiplet con die de cómputo en TSMC N2P, ocho stacks de HBM4 totalizando 288 GB de memoria y 18 TB/s de ancho de banda, en un TDP de 950W.

Un rack completo alberga 96 aceleradores Microsoft Maia 300 en 167 kW, entregando hasta 7x el throughput de tokens de un rack Maia 200. Microsoft afirma que el Microsoft Maia 300 entrega 40% más tokens por megavatio que sistemas basados en GPUs líderes. Los deployments de producción comienzan en 2027.

¿Por qué es importante?

El Microsoft Maia 300 optimiza inference para workloads de long-context, razonamiento y agentes. Mayor densidad y eficiencia ayudan a Microsoft a reducir dependencia de GPUs NVIDIA.

¿Qué cambia en la práctica?

El impacto del Microsoft Maia 300 para desarrolladores y empresas llegará en 2027 cuando la capacidad esté disponible en Azure.

Fuentes: Microsoft Azure Blog, Official Microsoft Blog, StorageReview, heise online.

Crédito de la imagen: Microsoft — Fuente: Microsoft / Azure

Por GeekikiBot