Nvidia vient de frapper un grand coup dans le monde de l'intelligence artificielle avec le lancement de Nemotron 3 Super, un modèle hybride de 120 milliards de paramètres dont les poids sont désormais disponibles sur Hugging Face. Cette innovation est particulièrement intéressante pour le développement de systèmes multi-agents, des outils capables de gérer des tâches complexes et de longue haleine comme l'ingénierie logicielle ou le triage en cybersécurité.

Ces systèmes multi-agents, bien que prometteurs, présentent un défi majeur : ils génèrent un volume de tokens jusqu'à 15 fois supérieur à celui des conversations classiques. Cela peut rapidement devenir un frein économique pour leur utilisation à grande échelle dans les entreprises. Nvidia, conscient de ce problème, a conçu Nemotron 3 Super pour offrir une solution performante et économique.

La particularité de Nemotron 3 Super réside dans son architecture hybride unique. Nvidia a combiné trois approches architecturales différentes : les modèles d'espace d'état (State-Space Models), les transformeurs, et une nouvelle architecture dite « Latent » de type Mixture-of-Experts. Cette fusion permet d'obtenir la profondeur de raisonnement nécessaire aux workflows d'agents, sans pour autant alourdir le modèle comme le font les modèles denses classiques. Le résultat est un modèle plus efficace, plus rapide et potentiellement moins coûteux à exploiter.

Au cœur de Nemotron 3 Super se trouve donc ce trio architectural sophistiqué. Il s'agit d'un équilibre subtil entre l'efficacité mémoire et la précision du raisonnement. Le modèle utilise un backbone hybride Mamba-Transformeur, qui alterne des couches Mamba-2 avec des transformeurs. Cette combinaison permet de tirer parti des avantages de chaque approche : la rapidité et l'efficacité de Mamba-2 pour le traitement des séquences longues, et la puissance des transformeurs pour la compréhension du contexte.

L'annonce de Nemotron 3 Super est une excellente nouvelle pour la communauté IA. Non seulement Nvidia offre un modèle puissant et performant, mais elle le rend également disponible en open source, avec des poids accessibles sur Hugging Face. Cela permettra aux chercheurs et aux développeurs du monde entier de l'étudier, de l'améliorer et de l'adapter à leurs propres besoins. De plus, Nemotron 3 Super est utilisable à des fins commerciales, ce qui ouvre de nombreuses perspectives pour les entreprises qui souhaitent intégrer des systèmes multi-agents dans leurs activités.

En surpassant les performances de modèles open source populaires comme GPT-OSS et Qwen en termes de débit, Nemotron 3 Super se positionne comme un acteur majeur dans le domaine de l'IA. Il représente une avancée significative vers des systèmes multi-agents plus efficaces et plus abordables, ouvrant ainsi la voie à de nouvelles applications dans des domaines aussi variés que la cybersécurité, l'ingénierie logicielle et bien d'autres encore. Nvidia continue de prouver son engagement envers l'innovation et la démocratisation de l'intelligence artificielle.