Nvidia livre des modèles d'agents ouverts pour ses propres ordinateurs portables RTX Spark
Le fabricant de puces vend désormais la plateforme PC, la puce et le modèle ouvert qui tourne dessus. Le Surface Laptop Ultra de Microsoft mène la première vague.
Par La rédaction, Actualités · · 1 min de lecture
Tags: nvidia · poids ouverts · ordinateurs portables · agents
- L'essentiel
- Le fabricant de puces vend désormais la plateforme PC, la puce et le modèle ouvert qui tourne dessus.
- Pourquoi cela compte
- Le Surface Laptop Ultra de Microsoft mène la première vague.
- Ce qui est établi
- La photographie a été générée pour cet article.
Lié à une source nommée. Non marqué comme vérifié. NVIDIA Newsroom
L'actualité
Nvidia a publié Nemotron 3.5 Super VL, un modèle de vision et de langage à mélange d'experts, avec 120 milliards de paramètres au total et 12 milliards actifs, ainsi que les poids, les jeux de données et les recettes d'entraînement, en ouvert. À côté sont arrivés deux modèles Bolt plus petits, destinés aux ordinateurs portables RTX Spark de Microsoft, Asus, Dell, HP, Lenovo et MSI.
Pourquoi c'est important
Nvidia couple des modèles ouverts à sa propre plateforme Windows sur architecture Arm, dès la semaine de lancement. Les agents d'IA locaux, sur le bureau, sont désormais une course entre les Mac d'Apple et les PC de Nvidia.
Les détails
Nvidia dit que Super VL égale son plus grand modèle de raisonnement sur les tâches d'agent, pour environ un cinquième de la taille. Ce sont des affirmations de la société. L'indice indépendant Artificial Analysis note le modèle 26, au-dessus de la médiane des modèles ouverts de taille comparable.
Le modèle Bolt 74B-A9B est quantifié pour tenir dans 24 Go de mémoire, et il est disponible maintenant ; une version de 4 Go est prévue le 23 octobre. Le Surface Laptop Ultra commence à 2 599 dollars, avec jusqu'à 128 Go de mémoire unifiée, a rapporté Tom's Hardware. vLLM a ajouté, le jour même, la prise en charge de Super VL.
Ce que nous n'avons pas pu vérifier
- Nous n'avons pas fait tourner les modèles nous-mêmes.
- Les comparaisons de vitesse citent une sélection, faite par Nvidia, de données tierces.
Sources
La photographie a été générée pour cet article. Elle ne montre pas les personnes qui y sont nommées.