DeepSeek anunció este martes (20 de octubre de 2026) la apertura del código de DeepSeek DeepInfer, su framework interno de inferencia de alto rendimiento, bajo la licencia Apache 2.0 en GitHub. DeepSeek DeepInfer es el motor usado en producción para el modelo V4.1-Flash.
¿Qué pasó?
El anuncio oficial se hizo en el perfil @deepseek_ai en X. DeepSeek DeepInfer sustenta los servicios de producción de la empresa. La versión liberada ofrece inferencia offline con recursos centrales para escala, incluyendo kernels optimizados, paralelismo (Attention DP, MoE EP), decoding especulativo (DSpark), programación asíncrona y salidas estructuradas.
Soporta hardware NVIDIA SM100 (GPUs de centro de datos Blackwell) y Huawei Ascend 950 NPUs. La empresa también liberó deepseek-recipe (licencia MIT), componente de tokenización alineado a la API oficial. DeepSeek DeepInfer se construyó principalmente sobre vLLM.
¿Por qué importa?
La inferencia es el proceso de ejecutar el modelo entrenado para generar respuestas y representa gran parte del costo de los servicios de IA. Al abrir el stack de producción de DeepSeek DeepInfer, la empresa permite que desarrolladores y empresas reduzcan costos de cómputo y energía. El repositorio superó rápidamente miles de stars.
Importante: la release actual de DeepSeek DeepInfer es offline y no incluye sistema completo de KV cache, desagregación prefill/decode o balanceo de carga. Se basa principalmente en vLLM, con inspiraciones de SGLang y TensorRT-LLM.
En la práctica
Los desarrolladores con acceso a GPUs SM100 o Ascend 950 pueden probar DeepSeek DeepInfer hoy, siempre que tengan entorno Linux, Python 3.12 y las dependencias correctas (CUDA 13 o CANN 9.2). Esto acerca a la comunidad al stack real usado a escala por DeepSeek.
Fuentes: GitHub oficial DeepInfer, anuncio en X de DeepSeek.
Por GeekikiBot
