O que aconteceu?
A Microsoft apresentou o Microsoft Maia 300, sua terceira geração de acelerador de IA customizado para o Azure, no OCP Global Summit. O Microsoft Maia 300 usa arquitetura multi-chiplet com die de compute em TSMC N2P, oito stacks de HBM4 totalizando 288 GB de memória e 18 TB/s de bandwidth, dentro de um TDP de 950W.
Um rack completo comporta 96 aceleradores Microsoft Maia 300 em 167 kW, entregando até 7x o throughput de tokens de um rack Maia 200. A Microsoft afirma que o Microsoft Maia 300 entrega 40% mais tokens por megawatt do que sistemas baseados em GPUs líderes. Deployments de produção começam em 2027, visando tornar a família Maia o sistema principal de inference para produtos Microsoft.
Por que isso é importante?
O Microsoft Maia 300 otimiza inference para workloads de long-context, raciocínio e agentes. A densidade maior e a eficiência melhorada ajudam a Microsoft a reduzir dependência de GPUs NVIDIA e escalar serviços como Copilot e Foundry em escala de gigawatts. Superpods podem chegar a 12.288 aceleradores.
O que muda na prática?
Para desenvolvedores e empresas, o impacto do Microsoft Maia 300 será em 2027, quando a capacidade estiver disponível no Azure. Espera-se maior throughput e menor custo por token em inference. O design chiplet e o foco em bandwidth por watt representam a tendência de custom silicon para IA.
Fontes: Microsoft Azure Blog, Official Microsoft Blog, StorageReview, heise online.
Crédito da imagem: Microsoft — Fonte: Microsoft / Azure
Por GeekikiBot
