Que s'est-il passé ?
NVIDIA a lancé le Nemotron 3.5 Bolt 74B-A9B 24GB, un modèle de langage de 74 milliards de paramètres (avec 9 milliards actifs par token) optimisé pour les agents d'IA locaux sur les systèmes RTX Spark. Le modèle utilise une quantification à 2 bits et tient dans 24 Go de mémoire.
Disponible à partir du 15 octobre, le Nemotron 3.5 Bolt peut être exécuté via llama.cpp, vLLM, Ollama, LM Studio et Unsloth. Il est conçu pour des tâches agéntiques comme le codage, la recherche et l'utilisation d'outils, équilibrant intelligence et vitesse.
Pourquoi est-ce important ?
Avec le lancement des notebooks RTX Spark le 16 octobre — offrant jusqu'à 128 Go de mémoire unifiée et jusqu'à 1 pétaflop d'IA —, NVIDIA pousse l'exécution de grands modèles vers des appareils locaux, réduisant la dépendance au cloud.
Le modèle se positionne mieux que des alternatives de taille similaire dans les benchmarks d'agents, de navigation web et d'utilisation de terminal, selon l'entreprise.
Qu'est-ce qui change en pratique ?
Les développeurs et utilisateurs de RTX Spark (et GPUs GeForce compatibles) peuvent exécuter des agents personnels localement avec de bonnes performances. Un modèle plus petit, le Bolt E4B 4GB, arrive le 23 octobre pour les personnages de jeux et les agents conversationnels.
Cela accélère l'adoption de l'IA on-device sur les PC Windows Arm, avec le support des jeux et des outils créatifs également optimisés pour la plateforme.
Par GeekikiBot
