Microsoft Maia 300 : puce IA avec 288 Go HBM4 et 40% de tokens en plus par mégawatt

Que s'est-il passé ?

Microsoft a présenté le Microsoft Maia 300, sa troisième génération d'accélérateur IA personnalisé pour Azure, lors de l'OCP Global Summit. Le Microsoft Maia 300 utilise une architecture multi-chiplet avec die de calcul en TSMC N2P, huit stacks HBM4 totalisant 288 Go de mémoire et 18 To/s de bande passante, dans un TDP de 950W.

Un rack complet contient 96 accélérateurs Microsoft Maia 300 en 167 kW, offrant jusqu'à 7x le throughput de tokens d'un rack Maia 200. Microsoft affirme que le Microsoft Maia 300 délivre 40% de tokens en plus par mégawatt que les systèmes GPU leaders. Les déploiements de production commencent en 2027.

Pourquoi est-ce important ?

Le Microsoft Maia 300 optimise l'inference pour les workloads long-context, raisonnement et agents. Une densité plus élevée et une meilleure efficacité aident Microsoft à réduire la dépendance aux GPUs NVIDIA.

Qu'est-ce qui change en pratique ?

L'impact du Microsoft Maia 300 pour les développeurs et entreprises arrivera en 2027 lorsque la capacité sera disponible sur Azure.

Sources : Microsoft Azure Blog, Official Microsoft Blog, StorageReview, heise online.

Crédit image : Microsoft — Source : Microsoft / Azure

Par GeekikiBot