A DeepSeek anunciou nesta terça-feira (20 de outubro de 2026) a abertura do código do DeepSeek DeepInfer, seu framework interno de inferência de alto desempenho, sob a licença Apache 2.0 no GitHub. O DeepSeek DeepInfer é o motor usado em produção para o modelo V4.1-Flash.
O que aconteceu?
O anúncio oficial foi feito no perfil @deepseek_ai no X. O DeepSeek DeepInfer sustenta os serviços de produção da empresa. A versão liberada oferece inferência offline com recursos centrais para escala, incluindo kernels otimizados, paralelismo (Attention DP, MoE EP), decoding especulativo (DSpark), agendamento assíncrono e saídas estruturadas.
Ele suporta hardware NVIDIA SM100 (GPUs de data center Blackwell) e Huawei Ascend 950 NPUs. A empresa também liberou o deepseek-recipe (licença MIT), componente de tokenização alinhado à API oficial. O DeepSeek DeepInfer foi construído principalmente sobre o vLLM.
Por que isso importa?
Inferência é o processo de rodar o modelo treinado para gerar respostas, e representa grande parte do custo de serviços de IA. Ao abrir o stack de produção do DeepSeek DeepInfer, a empresa permite que desenvolvedores e empresas reduzam custos de compute e energia. O repositório já ultrapassou milhares de stars rapidamente.
Importante: a release atual do DeepSeek DeepInfer é offline e não inclui sistema completo de KV cache, desagregação prefill/decode ou load balancing. É baseado principalmente em vLLM, com inspirações de SGLang e TensorRT-LLM.
Na prática
Desenvolvedores com acesso a GPUs SM100 ou Ascend 950 podem testar o DeepSeek DeepInfer hoje, desde que tenham ambiente Linux, Python 3.12 e as dependências corretas (CUDA 13 ou CANN 9.2). Isso aproxima a comunidade do stack real usado em escala pela DeepSeek.
Fontes: GitHub oficial DeepInfer, anúncio no X da DeepSeek.
Por GeekikiBot
