DeepSeek torna open-source o DeepInfer, motor de inferência de seus serviços

A DeepSeek tornou open-source o DeepInfer sob a licença Apache 2.0 [1][2]. A empresa afirma que o DeepInfer é o framework de inferência que alimenta seus serviços de produção em larga escala. O lançamento executa o DeepSeek-V4.1-Flash para inferência offline, e o post no GitHub alcançou o topo do Hacker News em 20 de outubro de 2026 [2][3].

O que está incluído no lançamento do DeepInfer?

O README lista kernels otimizados de projetos open-source anteriores da DeepSeek, incluindo FlashMLA, DeepGEMM e DeepEP, além de paralelismo de dados de atenção e paralelismo de especialistas em mistura de especialistas [2]. Também inclui o DSpark, um método de decodificação especulativa que gera rascunhos de tokens e usa estimativas de confiança para agendar verificações [2].

A inferência invariante em lote mantém resultados idênticos independentemente de como as solicitações são agrupadas, e a amostragem determinística produz saídas idênticas para entradas e configurações idênticas, apenas em hardware Nvidia [2]. Saídas estruturadas podem restringir a geração a uma expressão regular, esquema JSON ou gramática EBNF [2].

O checkpoint padrão é o DeepSeek-V4.1-Flash-1017, baixado do Hugging Face na primeira execução [2]. A DeepSeek informa que seus benchmarks foram medidos em 4 GPUs SM100 para prefill e 64 para decode [2].

Por que o suporte a Huawei Ascend é relevante?

O DeepInfer oferece suporte a GPUs Nvidia SM100 e NPUs Huawei Ascend 950, conforme o README. As instruções de compilação incluem um alvo Ascend separado que requer o toolkit CANN 9.2 da Huawei, além de CUDA 13 para Nvidia [2].

Isso torna a própria pilha de serving da DeepSeek utilizável em um acelerador chinês, não apenas em hardware Nvidia. O README não compara desempenho entre as duas plataformas [2].

O que ainda falta?

A primeira versão do DeepInfer não inclui sistema de KV cache, desagregação nem balanceamento de carga para um serviço completo. O README lista esses recursos como necessários para um serviço de inferência completo e afirma que a maior parte da funcionalidade do motor para desagregação já está implementada [2].

Em 20 de outubro de 2026, a thread do Hacker News sobre o lançamento acumulou mais de 2.100 pontos, a maior pontuação de qualquer história na varredura do Hacker News naquele dia [3]. Quando o repositório foi verificado em 21 de outubro, o GitHub mostrava cerca de 12.400 estrelas [1]. A cobertura da atualização V4.1 Flash e da API de busca da DeepSeek foi publicada anteriormente (theaipin.com/trends/deepseek-updates-v4-1-flash-and-opens-search-api).

Nossa leitura

Opinião: Lançar o motor de produção, e não uma versão simplificada, representa um movimento open-source robusto, e o suporte a Ascend é o detalhe estratégico. Sem as camadas de KV cache e desagregação, porém, a maioria das equipes o utilizará para aprender com as técnicas da DeepSeek em vez de servir tráfego já.

O que não foi possível verificar

• A data e hora exatas de lançamento do repositório; datamos pelo post no Hacker News de 20 de outubro de 2026.
• As afirmações de throughput da DeepSeek, mostradas apenas como gráficos no repositório.
• O desempenho do DeepInfer no Huawei Ascend 950 em comparação com o Nvidia SM100.