DeepSeek、独自サービスの推論エンジンDeepInferをオープンソース化

DeepSeekはDeepInferをApache License 2.0でオープンソース化した[1][2]。DeepSeekによるとDeepInferは大規模本番サービスを支える推論フレームワークである。今回のリリースはオフライン推論向けにDeepSeek-V4.1-Flashを実行し、GitHub投稿は2026年10月20日にHacker Newsのトップに到達した[2][3]。

DeepInferリリースの内容は何か

READMEにはFlashMLA、DeepGEMM、DeepEPなどDeepSeekの過去のオープンソースプロジェクト由来の最適化カーネルに加え、アテンションデータ並列とMixture-of-Expertsエキスパート並列が記載されている[2]。また投機的デコーディング手法DSparkも含まれており、トークンをドラフトし信頼度推定で検証をスケジュールする[2]。

バッチ不変推論はリクエストのバッチ方法に関わらず結果を同一に保ち、決定論的サンプリングは同一入力と設定で同一出力をNvidiaハードウェア上でのみ保証する[2]。構造化出力は正規表現、JSONスキーマ、EBNF文法で生成を制約できる[2]。

既定のチェックポイントはDeepSeek-V4.1-Flash-1017で、初回実行時にHugging Faceからダウンロードされる[2]。DeepSeekによるとベンチマークはプリフィルに4基のSM100 GPU、デコードに64基を用いて計測した[2]。

Huawei Ascend対応が重要な理由

DeepInferはNvidia SM100 GPUとHuawei Ascend 950 NPUに対応するとREADMEに記載されている。ビルド手順にはNvidia向けCUDA 13に加え、HuaweiのCANN 9.2ツールキットを必要とする別ターゲットが用意されている[2]。

これによりDeepSeekのサービングスタックがNvidiaハードウェアだけでなく中国製アクセラレータ上でも利用可能になる。READMEは両プラットフォーム間の性能比較を示していない[2]。

依然として欠けている点

DeepInferの初回リリースには完全なサービスに必要なKVキャッシュシステム、ディスアグリゲーション、負荷分散が欠けている。READMEはこれらを完全な推論サービスに必須と位置づけ、ディスアグリゲーション向けエンジン機能の大部分は既に実装済みと述べている[2]。

2026年10月20日のHacker Newsスレッドは2,100ポイント超を獲得し、当日のスキャンで最高スコアを記録した[3]。21日にリポジトリを確認した時点でGitHub上のスター数は約12,400だった[1]。DeepSeekのV4.1 Flash更新と検索APIについては以前に報じた(theaipin.com/trends/deepseek-updates-v4-1-flash-and-opens-search-api)。

Our read

意見: 本番用エンジンを玩具版ではなく公開したことは強いオープンソースの動きであり、Ascend対応が戦略的な要点である。ただしKVキャッシュとディスアグリゲーション層が欠如しているため、ほとんどのチームは明日トラフィックを処理するのではなくDeepSeekの手法を学ぶために利用するだろう。

確認できなかった点

• リポジトリの正確なリリース日時。Hacker News投稿日である2026年10月20日を基準に日付を付けた。
• リポジトリにグラフのみで示されたDeepSeekのスループット主張。
• Huawei Ascend 950上でのDeepInfer性能とNvidia SM100との比較。