1. Résumé et critères de sélection

Dans l'écosystème technologique de septembre 2026, la distinction entre un ordinateur portable grand public et une station de travail mobile dédiée à l'IA ne réside pas dans les TFLOPS théoriques de l'accélérateur, mais dans trois grandeurs souvent confondues et qu'il convient de distinguer dès le départ : la capacité de mémoire (le nombre de gigaoctets que le système peut adresser), le bande passante (à quelle vitesse il peut transférer ces données) et le taille du contexte (le nombre de tokens pouvant être traités simultanément par le moteur d'inférence). Un ordinateur portable peut disposer de 128 Go de mémoire unifiée et, malgré cela, voir ses performances diminuer si son bus n'est pas à la hauteur ; de la même manière, un contexte d'un million de tokens est inutile si la machine ne dispose pas de suffisamment de mémoire pour stocker le cache KV associé.

La généralisation de modèles tels que Llama 4 dans sa variante Scout, avec une fenêtre de contexte déclarée de 10 millions de tokens, et DeepSeek-V4.1-Flash pour les charges de travail axées sur l'efficacité et le codage, a déplacé le goulot d'étranglement du calcul vers la hiérarchie de la mémoire. L'architecture de mémoire unifiée (UMA) permet au CPU, au GPU et au NPU d'accéder au même espace d'adressage sans copies intermédiaires via le bus PCIe, ce qui réduit la latence d'accès et évite la duplication des tenseurs entre la VRAM et la RAM du système.

Il convient par ailleurs de préciser une distinction qui détermine la viabilité réelle de chaque charge de travail : l'exécution d'un modèle dense n'est pas la même chose que celle d'un modèle à architecture MoE (Mixture of Experts). Un modèle MoE présentant un nombre total élevé de paramètres ne maintient active, pour chaque token, qu’une fraction de ses paramètres, de sorte que ses besoins en calcul par jeton sont nettement inférieures à celles d'un modèle dense de même taille nominale. Cependant, leurs exigences en matière de capacité de mémoire Ils continuent d'être déterminés par l'ensemble des paramètres, car tous les experts doivent être stockés en mémoire pour pouvoir être sélectionnés. C'est cette asymétrie qui explique pourquoi certains modèles de grande taille peuvent s'exécuter localement à des vitesses acceptables, mais exigent en revanche une capacité de mémoire que peu d'appareils mobiles sont en mesure d'atteindre.

2. Architectures informatiques : CPU, GPU et NPU

L'architecture moderne a dépassé le stade du calcul reposant exclusivement sur des GPU discrets. Les SoC actuels intègrent des NPU spécialement conçues pour les opérations d'inférence en précision réduite (INT8, INT4) ainsi que des moteurs de calcul qui accélèrent des formats tels que le FP8 natif. Pour les charges de travail soutenues, le choix du matériel doit privilégier la bande passante mémoire plutôt que la fréquence d'horloge des cœurs, car l'inférence des modèles linguistiques est une charge de travail qui sollicite davantage les transferts de données que les opérations arithmétiques pures.

2.1. Mémoire unifiée : capacité, bande passante et contexte

L'accès direct à la mémoire est le critère qui permet le mieux de distinguer les équipements les uns des autres. Les architectures qui séparent la VRAM de la mémoire vive du système subissent des pénalités de latence chaque fois qu’un tenseur doit traverser le bus PCIe, pénalité qui s’aggrave dans les pipelines de décodage autorégressifs, où le modèle parcourt ses poids une fois par jeton généré.

La mémoire LPDDR5X s'est imposée en 2026 comme la base des plateformes mobiles haut de gamme, avec des bus qui, sur les appareils les plus puissants, atteignent des configurations de 512 bits afin d'augmenter la bande passante disponible. La recommandation pratique n’est pas de fixer un nombre absolu de bits de bus comme « norme minimale », mais de calculer la bande passante requise en fonction du modèle que l’on souhaite exécuter : en règle générale, la bande passante mémoire en Go/s conditionne directement la vitesse de génération de jetons par seconde, et une machine dont la bande passante est insuffisante par rapport à la taille du modèle actif subira une dégradation perceptible.

En ce qui concerne le contexte, un modèle dont la fenêtre déclarée atteint un million de tokens nécessite de réserver de la mémoire pour le cache clés-valeurs (KV cache), dont la taille croît de manière approximativement linéaire avec la longueur du contexte et dépend du nombre de couches et de têtes d’attention du modèle. C’est une erreur courante d’attribuer la capacité à gérer des contextes étendus exclusivement à la vitesse du bus : sans mémoire physique suffisante, la fenêtre déclarée du modèle s’avère inatteignable dans la pratique.

Le tableau ci-dessus ne reprend que les chiffres publiés par les fabricants et vérifiables dans leurs spécifications officielles. Il doit être considéré à titre indicatif : la bande passante effective lors d’une inférence en continu dépend également de la gestion thermique de l’équipement et de la répartition de la puissance entre le CPU, le GPU et le NPU ; elle ne se traduit donc pas automatiquement par un nombre de tokens par seconde sans une mesure directe sur le modèle concret et sa quantification.

3. Analyse de la charge de travail

Pour un développeur en IA en 2026, le flux de travail repose sur trois piliers aux exigences très différentes :

• Inférence de modèles lourds : La capacité de mémoire requise est déterminée par les paramètres totaux du modèle, et non en fonction des actifs. Dans les architectures MoE telles que Qwen3.8-Max, classée comme un MoE comptant 2,4 billions de paramètres au total, le modèle active un sous-ensemble d'experts par token, ce qui réduit la charge de calcul nécessaire, mais l'ensemble des experts doit rester en mémoire. En quantification INT4, la règle de calcul est d’environ un octet pour deux paramètres ; ainsi, 64 Go de mémoire unifiée permettent d’héberger des modèles de l’ordre de 100 à 130 milliards de paramètres au total, et non un modèle comportant un nombre de paramètres bien supérieur. Dimensionner le matériel en fonction du nombre de paramètres actifs C'est l'erreur la plus courante, qui conduit à acheter des machines incapables de charger le modèle souhaité.
• Réglage fin (LoRA/QLoRA) : La NPU joue ici un rôle secondaire, car l'entraînement et le réglage nécessitent le moteur de calcul général. La prise en charge native de FP8 est déterminante pour réduire le temps de calcul effectif, et les techniques LoRA et QLoRA permettent d'ajuster les couches d'adaptation sans réentraîner l'ensemble du modèle. Il convient de dimensionner la mémoire en tenant compte non seulement du poids du modèle de base quantifié, mais aussi des états de l'optimiseur et des activations, qui, lors du réglage fin, dépassent largement les exigences de la simple inférence.
• Agents informatiques : Les modèles propriétaires tels que GPT-6 Astra, dans leur variante destinée à une utilisation sur ordinateur, exigent une latence d'interruption minimale et une intégration profonde entre la NPU et le système d'exploitation. La faisabilité de ces charges de travail en local dépend à la fois de la mémoire et de la capacité du SoC à maintenir des inférences concurrentes à faible latence tandis que le reste du système reste actif.

« La puissance d'une station de travail dédiée à l'IA en 2026 ne se mesure pas à sa capacité de charge maximale, mais à son efficacité énergétique lors de l'inférence en continu de modèles agentiels à long contexte. » Remarque récurrente chez les fabricants de semi-conducteurs en 2026.

4. Recommandations stratégiques par profil

4.1. Développeurs de modèles ouverts

Si votre workflow implique le déploiement et les tests de Llama 4 Scout, avec une fenêtre de contexte déclarée de 10 millions de tokens, ou de Gemma 4 dans sa variante à 12 milliards de paramètres, il est conseillé de privilégier des systèmes dotés d’au moins 128 Go de mémoire unifiée. En effet, bien que Gemma 4 12B s'exécute sans difficulté sur des machines dotées de 32 Go de mémoire, la marge de mémoire détermine la taille effective de la fenêtre de contexte que le système pourra prendre en charge et le nombre de modèles pouvant rester chargés simultanément pendant les tests comparatifs. La bande passante s’avère plus déterminante que le nombre de cœurs de processeur : privilégiez les architectures dotées de contrôleurs de mémoire à large bus et vérifiez la bande passante annoncée plutôt que le nombre de cœurs.

4.2. Conception des invites et intégration des agents

Pour ceux qui travaillent avec des modèles multimodaux tels que Qwen3.8-Omni-Flash, la NPU joue un rôle important. Le transfert des tâches de vision et d'audio vers la NPU libère le moteur de calcul principal pour la génération de jetons, ce qui, dans certains pipelines multimodaux, se traduit par une amélioration notable des performances globales de l'application. Toutefois, cette amélioration dépend de la prise en charge par la pile logicielle : il n’existe pas de facteur multiplicateur universel applicable à n’importe quelle combinaison de matériel et de modèle, mais le gain doit être évalué au cas par cas, en fonction du pipeline concerné.

5. Conclusion : le retour sur investissement de l'architecture matérielle

Investir dans du matériel dédié à l’IA en 2026 nécessite une vision à 24 mois. Le principal risque d’obsolescence ne provient pas d’un manque de puissance brute, mais de l’incapacité de l’architecture mémoire à prendre en charge des contextes longs et des modèles comportant un nombre élevé de paramètres. C’est pourquoi trois éléments déterminent la longévité d’un environnement de développement mobile : la capacité de mémoire unifiée, la bande passante effective et la prise en charge native du FP8 par le moteur de calcul.

La recommandation pratique consiste à dimensionner le matériel en fonction de la charge de travail prévue et non en fonction de la fiche technique du processeur. Pour l’inférence de modèles ouverts de taille moyenne, 64 Go de mémoire unifiée constituent un point de départ raisonnable ; pour le réglage fin ou le déploiement de modèles MoE comportant un nombre élevé de paramètres, les 128 Go ne sont plus un luxe mais deviennent une nécessité. Vérifier la bande passante annoncée par le fabricant, s’assurer de la prise en charge effective de FP8 dans la pile logicielle et mesurer la vitesse de génération sur le modèle concret qui sera utilisé fournit davantage d’informations que n’importe quel chiffre théorique en TFLOPS.