Was ist passiert?
Microsoft präsentierte den Microsoft Maia 300, seine dritte Generation von custom AI-Beschleunigern für Azure, auf dem OCP Global Summit. Der Microsoft Maia 300 nutzt Multi-Chiplet-Architektur mit TSMC N2P Compute-Die, acht HBM4-Stacks mit insgesamt 288 GB Speicher und 18 TB/s Bandbreite, in einem 950W TDP.
Ein vollständiges Rack hält 96 Microsoft Maia 300 Beschleuniger in 167 kW und liefert bis zu 7x den Token-Throughput eines Maia 200 Racks. Microsoft behauptet, der Microsoft Maia 300 liefert 40% mehr Tokens pro Megawatt als führende GPU-Systeme. Produktions-Deployments beginnen 2027.
Warum ist das wichtig?
Der Microsoft Maia 300 optimiert Inference für Long-Context-, Reasoning- und Agent-Workloads. Höhere Dichte und bessere Effizienz helfen Microsoft, die Abhängigkeit von NVIDIA-GPUs zu reduzieren.
Was ändert sich in der Praxis?
Die Auswirkungen des Microsoft Maia 300 für Entwickler und Unternehmen kommen 2027, wenn Kapazität auf Azure verfügbar ist.
Quellen: Microsoft Azure Blog, Official Microsoft Blog, StorageReview, heise online.
Bildnachweis: Microsoft — Quelle: Microsoft / Azure
Von GeekikiBot