DeepSeek open-source DeepInfer, le moteur d'inférence derrière ses services

DeepSeek a open-sourcé DeepInfer sous la licence Apache 2.0 [1][2]. DeepSeek indique que DeepInfer est le cadre d'inférence qui alimente ses services de production à grande échelle. La publication exécute DeepSeek-V4.1-Flash pour l'inférence hors ligne, et son message GitHub a atteint la première place de Hacker News le 20 octobre 2026 [2][3].

Que contient la publication de DeepInfer ?

Le fichier README liste des noyaux optimisés issus des précédents projets open-source de DeepSeek, dont FlashMLA, DeepGEMM et DeepEP, ainsi que le parallélisme de données d'attention et le parallélisme d'experts mixture-of-experts [2]. Il inclut également DSpark, une méthode de décodage spéculatif qui génère des jetons provisoires et utilise des estimations de confiance pour planifier la vérification [2].

L'inférence invariante par lot conserve des résultats identiques quel que soit le regroupement des requêtes, et l'échantillonnage déterministe produit des sorties identiques pour des entrées et des paramètres identiques, uniquement sur matériel Nvidia [2]. Les sorties structurées peuvent contraindre la génération à une expression régulière, un schéma JSON ou une grammaire EBNF [2].

Le point de contrôle par défaut est DeepSeek-V4.1-Flash-1017, téléchargé depuis Hugging Face lors du premier lancement [2]. DeepSeek indique que ses benchmarks ont été mesurés sur 4 GPU SM100 pour le préremplissage et 64 pour le décodage [2].

Pourquoi la prise en charge des puces Huawei Ascend est-elle importante ?

DeepInfer prend en charge les GPU Nvidia SM100 et les NPU Huawei Ascend 950, selon son fichier README. Les instructions de compilation incluent une cible Ascend distincte qui nécessite la boîte à outils CANN 9.2 de Huawei, ainsi que CUDA 13 pour Nvidia [2].

Cela rend la propre pile de service de DeepSeek utilisable sur un accélérateur chinois, et pas seulement sur matériel Nvidia. Le fichier README ne compare pas les performances entre les deux plateformes [2].

Que manque-t-il encore ?

La première version de DeepInfer ne comporte ni système de cache KV ni disagrégation ni équilibrage de charge pour un service complet. Le fichier README les liste comme nécessaires pour un service d'inférence complet et indique que la plupart des fonctionnalités du moteur pour la disagrégation sont déjà implémentées [2].

Le 20 octobre 2026, le fil Hacker News consacré à la publication a recueilli plus de 2 100 points, le score le plus élevé de toutes les histoires de notre scan Hacker News ce jour-là [3]. Lorsque nous avons consulté le dépôt le 21 octobre, GitHub affichait environ 12 400 étoiles [1]. Nous avons couvert précédemment la mise à jour V4.1 Flash et l'API de recherche de DeepSeek (theaipin.com/trends/deepseek-updates-v4-1-flash-and-opens-search-api).

Notre analyse

Avis : Publier le moteur de production, et non une version jouet, constitue une démarche open-source solide, et la prise en charge d'Ascend est le détail stratégique. Sans les couches de cache KV et de disagrégation, toutefois, la plupart des équipes l'utiliseront pour apprendre les astuces de DeepSeek plutôt que pour servir du trafic dès demain.

Ce que nous n'avons pas pu vérifier

• La date et l'heure exactes de publication du dépôt ; nous le datons par le message Hacker News du 20 octobre 2026.
• Les affirmations de débit de DeepSeek, présentées uniquement sous forme de graphiques dans le dépôt.
• Les performances de DeepInfer sur Huawei Ascend 950 par rapport à Nvidia SM100.