Nvidia lance Nemotron 3.5 : un modèle de 74 milliards de paramètres qui tient dans 24 Go, et un rival ouvert à Claude et GPT
Nvidia a publié trois nouveaux modèles Nemotron à poids ouverts, pensés pour faire tourner des agents IA en entreprise comme sur un PC. Le plus surprenant n’est pas le plus gros : c’est Bolt, un modèle de 74 milliards de paramètres compressé pour tenir dans 24 Go de mémoire.
L’essentiel
- Nemotron 3.5 Super VL (120 milliards de paramètres, 12 milliards actifs) vise les agents d’entreprise et lit texte, images, pages web et PDF.
- Nemotron 3.5 Bolt 74B-A9B tient dans 24 Go grâce à une quantification en 2 bits, pour tourner en local.
- Bolt E4B, un modèle de 4 Go pour les assistants conversationnels, est attendu le 23 octobre 2026.
- Les modèles sont sous licence OpenMDW-1.1, qui autorise l’usage commercial, et le français fait partie des langues prises en charge.
- Nvidia revendique des performances face à Claude Opus 5 et GPT-6.1 sur certaines tâches, mais après un entraînement ciblé et sans vérification indépendante.
Trois modèles, trois usages
Nvidia a présenté la gamme le 15 octobre dans un billet signé Kari Briski, vice-présidente chargée des modèles ouverts. Les trois modèles visent des machines très différentes, du serveur au PC portable.
| Modèle | Taille | Matériel visé | Usage | Disponibilité |
|---|---|---|---|---|
| Nemotron 3.5 Super VL | 120 Md de paramètres, 12 Md actifs | Serveurs, cloud | Agents d’entreprise, documents, images | Disponible |
| Nemotron 3.5 Bolt 74B-A9B | 74 Md, 9 Md actifs, 24 Go | PC RTX, DGX Spark, stations RTX PRO | Agents locaux, outils, navigation web | Disponible |
| Bolt E4B | 4 Go | GeForce RTX, Jetson, RTX et DGX Spark | Assistants conversationnels, robotique | 23 octobre 2026 |
Les trois reposent sur une architecture Mixture-of-Experts hybride, qui mélange des couches Mamba et Transformer. Le principe : sur les 120 milliards de paramètres de Super VL, seuls 12 milliards travaillent à chaque token. C’est ce qui explique sa vitesse. Artificial Analysis le chronomètre à 436 tokens par seconde, contre une médiane de 128 pour les modèles ouverts de sa taille.
Bolt, l’astuce qui fait tenir 74 milliards de paramètres dans 24 Go
Bolt n’a pas été entraîné de zéro. Nvidia l’a obtenu en compressant Super VL, puis en quantifiant ses poids à environ 2 bits par paramètre pour les experts, la partie la plus volumineuse du modèle. Les couches les plus sensibles (attention, embeddings) gardent une précision de 8 bits. Une phase de distillation récupère une partie de la précision perdue.
Résultat : le modèle complet pèse 24 Go, avec une fenêtre de contexte de 256 000 tokens. Il se lance sur un PC équipé d’une carte RTX ou d’une machine DGX Spark, et Nvidia annonce la compatibilité avec llama.cpp, Ollama, LM Studio, Unsloth et vLLM. La fiche Hugging Face documente aussi une commande Docker :
bash
docker model run hf.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GBUne version GGUF existe pour llama.cpp et les outils qui s’appuient dessus. Le déploiement avec vLLM, lui, demande Linux, un GPU de génération Ampere ou plus récente et une version nightly de vLLM.
Sur les classements publics, Nvidia place Bolt premier sur PinchBench et deuxième sur BrowseComp parmi les modèles ouverts de sa catégorie de mémoire. Ses propres tableaux sont plus nuancés : en vitesse de génération de code, Bolt sort environ 84 tokens par seconde, moins que Qwen3.6 35B (97) et Gemma 4 26B (101) dans les mêmes conditions. Le pari de Nvidia est la précision sur les tâches d’agent, pas la vitesse brute.
Super VL face à Claude et GPT : des chiffres à prendre avec recul
Selon TechCrunch, Nvidia affirme que Super VL accomplit certaines tâches plus vite que Claude Opus 5 et GPT-6.1 Sol. Ces comparaisons portent sur des versions du modèle post-entraînées sur des tâches précises : analyse de documents, comptabilité, expériences scientifiques, cybersécurité. Elles ne disent rien de ses performances générales, et aucun test indépendant ne les confirme pour l’instant. Le billet de Nvidia, lui, ne cite ni Claude ni GPT.
L’argument de fond est ailleurs. « Contrairement aux modèles fermés, les organisations peuvent post-entraîner Super VL sur leurs propres données », a déclaré Kari Briski. Une entreprise peut adapter le modèle à ses documents et l’héberger sur son infrastructure, ce qu’elle ne peut pas faire avec Claude ou Gemini.
Côté prix, la différence est nette. Sur OpenRouter, Super VL est facturé 0,10 dollar par million de tokens en entrée et 0,40 dollar en sortie, avec une fenêtre d’un million de tokens. Nvidia cite déjà Salesforce, CrowdStrike, Perplexity, Atlassian et Dassault Systèmes parmi les éditeurs qui l’intègrent.
Ce que ça change pour un développeur
Pour tester un agent en local sans envoyer de données à un fournisseur, Bolt devient une option sérieuse dès qu’on dispose de 24 Go de mémoire graphique ou unifiée. La licence OpenMDW-1.1 couvre l’usage commercial, et le support du français évite de passer par l’anglais pour les tests.
Pour un projet en production, Super VL se joue sur deux terrains : le coût au token face aux modèles fermés, et la possibilité de l’adapter à un métier. Avant de basculer, mieux vaut comparer sur vos propres tâches. Les benchmarks mis en avant par un éditeur reflètent les tâches qu’il a choisies, pas forcément les vôtres.
Le prochain test sera celui des développeurs
Nvidia vend surtout des puces, et des modèles ouverts performants donnent une raison supplémentaire d’acheter ses cartes et ses stations Spark. La question est de savoir si Bolt tiendra ses promesses une fois entre les mains de la communauté, sur des tâches que Nvidia n’a pas sélectionnées. Les premiers retours sur Ollama et LM Studio, et l’arrivée de Bolt E4B le 23 octobre, donneront la réponse.
