Qualcomm dévoile son nouveau NPU Hexagon pour l'IA agentique embarquée

Le 10 octobre, Qualcomm a présenté son nouveau NPU (unité de traitement neuronal) Hexagon, conçu pour le calcul mobile et optimisé pour l'exécution permanente d'IA agentique. Cette nouvelle génération intègre un accélérateur élémentaire dédié aux modèles transformers, une mémoire partagée étendue de 50 %, ainsi qu'une architecture MoE (Mixture-of-Experts) pour la première fois dans un NPU mobile. Grâce à ces innovations, le Hexagon peut faire fonctionner des modèles de 30 milliards de paramètres tout en n'activant que 3 milliards lors de la génération de tokens, réduisant ainsi la consommation d'énergie et la dépendance à la mémoire externe. En outre, le support élargi des précisions numériques (FP16, INT2, INT4, INT8, FP8) accélère les vitesses de pré-remplissage et de décodage, avec un délai de première réponse inférieur à 1,5 seconde. Ces améliorations visent à permettre aux futurs smartphones haut de gamme équipés de Snapdragon d'exécuter des IA agentiques localement, sans dépendre du cloud, ce qui renforcera la confidentialité des données et la réactivité des assistants. Qualcomm prévoit de dévoiler plus de détails lors du Snapdragon Summit aux États-Unis, du 22 au 24 octobre. Cette avancée marque une étape clé dans la course à l'IA sur appareil, où la performance et l'efficacité énergétique sont cruciales.