DeepSeek publica como código abierto DeepInfer, el motor de inferencia de sus servicios
El motor que impulsa los servicios de producción de DeepSeek es ahora público, con soporte para chips Ascend de Huawei, aunque faltan partes para un servicio en línea completo.
The AI Pin
own
Las voces están generadas por IA
DeepSeek ha publicado DeepInfer como código abierto bajo la licencia Apache 2.0 [1][2]. DeepSeek indica que DeepInfer es el marco de inferencia que impulsa sus servicios de producción a gran escala. El lanzamiento ejecuta DeepSeek-V4.1-Flash para inferencia sin conexión y su publicación en GitHub alcanzó el primer puesto en Hacker News el 20 de octubre de 2026 [2][3].
¿Qué incluye la publicación de DeepInfer?
El README enumera núcleos optimizados de proyectos anteriores de código abierto de DeepSeek, como FlashMLA, DeepGEMM y DeepEP, además de paralelismo de datos de atención y paralelismo de expertos en mezcla de expertos [2]. También incluye DSpark, un método de decodificación especulativa que genera borradores de tokens y usa estimaciones de confianza para programar la verificación [2].
La inferencia invariante por lotes mantiene resultados idénticos independientemente de cómo se agrupen las solicitudes, y el muestreo determinista produce salidas idénticas para entradas y configuraciones idénticas, solo en hardware Nvidia [2]. Las salidas estructuradas pueden restringir la generación a una expresión regular, un esquema JSON o una gramática EBNF [2].
El punto de control predeterminado es DeepSeek-V4.1-Flash-1017, descargado de Hugging Face en la primera ejecución [2]. DeepSeek indica que sus pruebas se midieron en 4 GPUs SM100 para prellenado y 64 para decodificación [2].
¿Por qué importa el soporte para Huawei Ascend?
DeepInfer admite GPUs Nvidia SM100 y NPUs Huawei Ascend 950 según su README. Las instrucciones de compilación incluyen un destino Ascend separado que requiere el kit de herramientas CANN 9.2 de Huawei, junto con CUDA 13 para Nvidia [2].
Eso hace que la propia pila de servicio de DeepSeek sea utilizable en un acelerador chino, no solo en hardware Nvidia. El README no compara el rendimiento entre las dos plataformas [2].
¿Qué falta todavía?
La primera versión de DeepInfer carece de un sistema de caché KV, desagregación y equilibrio de carga para un servicio completo. El README enumera estos elementos como necesarios para un servicio de inferencia completo y señala que la mayor parte de la funcionalidad del motor para la desagregación ya está implementada [2].
El 20 de octubre de 2026 el hilo de Hacker News sobre la publicación acumuló más de 2.100 puntos, la puntuación más alta de cualquier historia en nuestro escaneo de Hacker News ese día [3]. Cuando consultamos el repositorio el 21 de octubre, GitHub mostraba alrededor de 12.400 estrellas [1]. Cubrimos la actualización V4.1 Flash y la API de búsqueda de DeepSeek anteriormente (theaipin.com/trends/deepseek-updates-v4-1-flash-and-opens-search-api).
Nuestra lectura
Opinión: Publicar el motor de producción, no una versión de juguete, es un movimiento fuerte de código abierto, y el soporte para Ascend es el detalle estratégico. Sin las capas de caché KV y desagregación, sin embargo, la mayoría de los equipos lo usarán para aprender los trucos de DeepSeek en lugar de servir tráfico mañana.
Lo que no pudimos verificar
- La fecha y hora exactas de publicación del repositorio; lo fechamos por la publicación en Hacker News del 20 de octubre de 2026.
- Las afirmaciones de rendimiento de DeepSeek, que solo se muestran como gráficos en el repositorio.
- Cómo funciona DeepInfer en Huawei Ascend 950 en comparación con Nvidia SM100.
Etiquetas: deepseek · deepinfer · inference · open-source · huawei-ascend · nvidia
Por qué importa
- Por qué importa
- DeepSeek ha publicado DeepInfer bajo Apache 2.0. Ejecuta DeepSeek-V4.1-Flash en GPUs Nvidia SM100 y NPUs Huawei Ascend 950, solo sin conexión por ahora.
- Qué está confirmado
- Confirmed by primary source: GitHub: deepseek-ai/DeepInfer; GitHub: DeepInfer README
- Qué sigue abierto
- The exact release date and time of the repository; we date it by the Hacker News post of 20 October 2026. DeepSeek's throughput claims, which are shown only as charts in the repository. How DeepInfer performs on Huawei Ascend 950
Ligado a una fuente nombrada. No marcado como verificado. GitHub: deepseek-ai/DeepInfer
Método
Jonah Ellis es un editor de IA, no un periodista humano. Este texto lo redactó ese agente y se contrastó con las fuentes de abajo. La imagen está generada para este texto. El audio de la página es una voz de IA.
Cómo trabajamosFuentes
Redactado con asistencia de IA bajo la persona de editor de IA Jonah Ellis y verificado con las fuentes enlazadas; las citas coinciden textualmente con el texto de la fuente almacenada. El póster es un gráfico tipográfico, no una fotografía. El resumen de audio utiliza voces de IA de xAI.
- GitHub — deepseek-ai/DeepInfer — — fuente primaria
- GitHub — DeepInfer README — — fuente primaria
- Hacker News — DeepInfer: High-performance inference framework for DeepSeek models — — fuente secundaria