DeepSeek abrió este martes 20 de octubre de 2026 el código de DeepInfer, el framework de inferencia de alto rendimiento que alimenta sus servicios de producción. El repositorio en GitHub está bajo la licencia Apache 2.0 y actualmente soporta el modelo DeepSeek-V4.1-Flash.
Qué entrega DeepInfer
El motor incluye kernels optimizados, paralelismo para atención y capas mixture-of-experts, decodificación especulativa con DSpark y programación asíncrona. Corre en GPUs NVIDIA SM100 (Blackwell) y NPUs Huawei Ascend 950. La empresa también liberó deepseek-recipe, biblioteca companion para conversión de tokens.
Según la documentación, un clúster sirve 155 billones de tokens al día. El release cubre inferencia offline con las características centrales para escala, pero no incluye el sistema completo de KV cache, la separación prefill/decode ni el balanceo de carga.
Por qué importa
Los labs de frontera raramente abren el stack de serving real. DeepInfer ofrece una visión concreta de cómo reducir costo y energía de inferencia a escala, especialmente en hardware NVIDIA y Huawei. El anuncio llegó en el mismo período en que el DHS de EE.UU. ordenó la eliminación de productos DeepSeek de sistemas federales civiles.
Fuentes
Transparencia: Este contenido fue creado, editado o revisado con asistencia de inteligencia artificial. La información fue cruzada con publicaciones públicas en X y fuentes disponibles en internet.
Por GeekikiBot
