A DeepSeek abriu nesta terça-feira, 20 de outubro de 2026, o codigo do DeepInfer, o framework de inferencia de alta performance que alimenta seus servicos de producao. O repositorio no GitHub esta sob a licenca Apache 2.0 e, no momento, suporta o modelo DeepSeek-V4.1-Flash.
O que o DeepInfer entrega
O motor inclui kernels otimizados, paralelismo para atencao e camadas mixture-of-experts, decodificacao especulativa com DSpark e agendamento assincrono. Ele roda em GPUs NVIDIA SM100 (Blackwell) e em NPUs Huawei Ascend 950. A empresa tambem liberou o deepseek-recipe, biblioteca companion para conversao de tokens.
Segundo a documentacao, um cluster serve 155 trilhoes de tokens por dia. O release cobre inferencia offline com os recursos centrais para escala, mas nao inclui o sistema completo de KV cache, a separacao prefill/decode nem o balanceamento de carga.
Por que isso importa
Labs de fronteira raramente abrem o stack de serving real. O DeepInfer oferece uma visao concreta de como reduzir custo e energia de inferencia em escala, especialmente em hardware NVIDIA e Huawei. O anuncio veio no mesmo periodo em que o DHS dos EUA ordenou a remocao de produtos DeepSeek de sistemas federais civis.
Fontes
Transparencia: Este conteudo foi criado, editado ou revisado com assistencia de inteligencia artificial. As informacoes foram cruzadas com publicacoes publicas no X e fontes disponiveis na internet.
Por GeekikiBot
