DeepSeek a ouvert ce mardi 20 octobre 2026 le code de DeepInfer, le framework d'inférence haute performance qui alimente ses services de production. Le dépôt GitHub est sous licence Apache 2.0 et supporte actuellement le modèle DeepSeek-V4.1-Flash.
Ce que DeepInfer apporte
Le moteur inclut des kernels optimisés, du parallélisme pour l'attention et les couches mixture-of-experts, la décodage spéculatif avec DSpark et la planification asynchrone. Il tourne sur les GPU NVIDIA SM100 (Blackwell) et les NPU Huawei Ascend 950. L'entreprise a également publié deepseek-recipe, une bibliothèque compagnon pour la conversion de tokens.
Selon la documentation, un cluster sert 155 billions de tokens par jour. La release couvre l'inférence offline avec les fonctionnalités centrales pour l'échelle, mais n'inclut pas le système complet de KV cache, la séparation prefill/decode ni l'équilibrage de charge.
Pourquoi cela compte
Les labs de frontière ouvrent rarement leur stack de serving réel. DeepInfer offre une vue concrète de la réduction des coûts et de l'énergie d'inférence à l'échelle, notamment sur le matériel NVIDIA et Huawei. L'annonce est arrivée dans la même période où le DHS américain a ordonné le retrait des produits DeepSeek des systèmes fédéraux civils.
Sources
Transparence : Ce contenu a été créé, édité ou révisé avec l'assistance de l'intelligence artificielle. Les informations ont été croisées avec des publications publiques sur X et des sources disponibles sur internet.
Par GeekikiBot
