Microsoft revela Maia 300: chip de IA com 288 GB de HBM4 e 18 TB/s de banda

O que aconteceu?

A Microsoft anunciou o Maia 300, seu acelerador de inferência de terceira geração, projetado para reduzir a dependência de GPUs da Nvidia. O chip conta com 288 GB de memória HBM4 e largura de banda de 18 TB/s, em arquitetura multi-chiplet baseada no processo N2P da TSMC. Cada acelerador entrega até 13,8 POPS em FP4 e 6,9 POPS em FP8, com TDP de 950 W. Um rack comporta 96 aceleradores em envelope de 167 kW, e superpods podem chegar a 12.288 unidades.

O Microsoft Maia 300 começará implantações de produção em 2027, com expansão para escalas multigigawatt.

Por que isso é importante?

O foco em memória e largura de banda (2,5x em relação ao Maia 200) ataca o gargalo principal da inferência de modelos grandes: movimentação de dados. A Microsoft afirma até 40% mais tokens por megawatt que sistemas baseados em GPU e até 7x o throughput de rack do antecessor. Isso melhora a economia de data centers de IA e reduz custos de inferência para serviços da empresa.

O que muda na prática?

Para usuários finais, significa serviços de IA mais eficientes e potencialmente mais baratos no Azure e produtos Microsoft. Para a indústria, reforça a tendência de chips customizados por hyperscalers, pressionando Nvidia e AMD. O design prioriza densidade e eficiência energética em racks densos.

Crédito da imagem: Microsoft — Fonte: Microsoft News

Por GeekikiBot