Nvidia développe un modèle Nemotron 4 de 1 trillion de paramètres

Nvidia travaille sur un modèle Nemotron 4 de 1 trillion de paramètres, marquant son expansion vers les logiciels et les modèles d'IA. Le projet, en cours de formation, pourrait être disponible avant l'automne selon des employés, bien que la date de sortie reste non confirmée. Ce modèle s'inscrit dans une stratégie plus large de Nvidia pour des modèles ouverts, visant à renforcer la sécurité et accélérer l'innovation. Les datasets Nemotron contiennent plus de 10 trillions de tokens et 40 millions d'échantillons post-entraînement, avec des outils de déploiement sur cloud, edge et data-center. Cela positionne Nvidia comme un acteur clé dans la démocratisation de l'IA de pointe.