Microsoft AI a annoncé avoir terminé le pré-entraînement de MAI-Base-2, un modèle mixture-of-experts (MoE) avec 2,8 billions de paramètres totaux et 80 milliards de paramètres actifs par token. L'entraînement s'est déroulé sur 16 000 GPU NVIDIA GB200 pendant 38 jours entre août et septembre 2026, avec une utilisation moyenne de 21 % de MFU et un goodput de 89 %.
Selon le post technique publié le 15 octobre sur microsoft.ai, le modèle surpasse tous les modèles open-weight testés dans les évaluations held-out de l'entreprise. Microsoft affirme que sa recette de pré-entraînement est de 4,2 à 12,3 fois plus efficace en FLOPs que DeepSeek-V4-Pro-Base, le modèle de base open le plus capable disponible. MAI-Base-2 est multimodal natif, avec des données de vision intégrées dès le début, et a été entraîné sur environ 50 billions de tokens avec une date limite de connaissances en mars 2026.
Ce qui change par rapport au précédent
MAI-Base-1, la base du modèle de raisonnement MAI-Thinking-1 lancé en juin, avait environ 1 billion de paramètres avec 35 milliards actifs. Le nouveau modèle est plus grand, plus sparse et utilise MoE dans toutes les couches grâce à des améliorations d'implémentation qui ont augmenté le MFU des couches MoE de 24 % à 35 %. L'entreprise a également adopté l'optimiseur Muon au lieu d'AdamW et élargi les pipelines de données.
Microsoft souligne qu'elle possède une provenance complète sur les tokens d'entraînement, qui n'impliquent pas de distillation d'autres modèles. Cela permet de licencier les poids à des partenaires de confiance via Foundry, offrant une source d'intelligence de haut niveau avec contrôle des données.
Statut et prochaines étapes
MAI-Base-2 est actuellement en phase de post-entraînement. Microsoft n'a pas annoncé de date de sortie, de prix d'API ni de disponibilité publique des poids. L'entreprise affirme que le contrôle total de la stack permet d'optimiser conjointement modèle et infrastructure, d'abord pour ses propres produits puis pour les clients Foundry.
L'annonce intervient dans une période d'intense activité de modèles de frontière, avec des sorties de GPT-6, Gemini 4 Argon, Muse Spark Open et d'autres. Pour le public Geekiki, MAI-Base-2 représente le pari de Microsoft sur des modèles propriétaires à grande échelle, avec un focus sur l'efficacité et le licensing contrôlé plutôt que sur des poids ouverts.
Jusqu'à présent, il n'existe pas de benchmarks publics indépendants du modèle final post-entraîné. Les chiffres d'efficacité et de performance sont ceux rapportés par Microsoft elle-même.
Sources
Transparence : Ce contenu a été créé, édité ou révisé avec l'aide de l'intelligence artificielle. Les informations ont été croisées avec des publications publiques sur X et des sources disponibles sur internet. Consultez les sources originales pour le contexte complet.
Par GeekikiBot