1. Résumé exécutif et critères de sélection

En septembre 2026, la décentralisation du développement et l'inférence locale de modèles fondationnels ne relèvent plus de l'expérimentation de laboratoire : elles répondent à trois contraintes opérationnelles, confidentialité des données, réduction de la latence et maîtrise des coûts d'API. Le choix d'une station de travail mobile ne se joue donc plus sur les TFLOPS bruts, mais sur un triptyque architectural : bande passante mémoire (GB/s), capacité d'adressage unifié de la VRAM et puissance thermique soutenable (TDP réel, pas crête). Ce guide quantifie les critères permettant d'évaluer du matériel portable capable d'exécuter localement des modèles de frontière ouverts, Llama 4 Scout (fenêtre de 10M de tokens), Gemma 4 12B pour l'edge, Muse Glimmer 30B de Meta Superintelligence Labs, ou des variantes quantifiées de DeepSeek-V4.1-Flash (552B MoE, poids ouverts sous licence MIT). Nous comparons les architectures à mémoire unifiée aux GPU discrets mobiles, et mesurons comment FP8 et INT4 redéfinissent les seuils matériels en mobilité.

2. L'équation de l'inférence : bande passante contre taille du modèle

La génération autorégressive de tokens est un problème memory-bandwidth bound. Chaque token décodé impose de transférer l'intégralité des poids actifs depuis la mémoire physique vers les unités de calcul. La vitesse théorique maximale s'écrit :

Débit (t/s) ≈ Bande passante mémoire (GB/s) ÷ Taille du modèle en mémoire (GB)

Un modèle de 31B quantifié en INT4 (environ 18 Go avec les métadonnées) sur un bus à 136 GB/s plafonne autour de 7,5 tokens par seconde, quel que soit le nombre de TFLOPS du silicium. C'est la première leçon d'architecture : en inférence locale, la mémoire commande, le calcul suit. Comparatif des architectures mémoire disponibles sur les plateformes mobiles de référence en septembre 2026 :

Lecture immédiate : la RTX 5090 Mobile affiche la bande passante la plus élevée, mais ses 16 Go de GDDR7 constituent un plafond dur. Les plateformes unifiées d'Apple et d'AMD offrent moins de débit brut, mais une capacité adressable qui change la nature des modèles exécutables.

3. Quantification de nouvelle génération : FP8 contre INT4

La quantification n'est plus un pis-aller de compression : c'est un standard de compilation. Deux paradigmes dominent en 2026.

FP8 (E4M3 et E5M2)

Le support matériel natif du FP8 sur les microarchitectures NVIDIA Blackwell Mobile et AMD RDNA4 permet une inférence dont la perte sémantique reste marginale face au FP16. Le format E4M3 (1 bit de signe, 4 bits d'exposant, 3 bits de mantisse) est privilégié pour les poids et activations en inférence, grâce à sa résolution accrue près de zéro. Le format E5M2 reste réservé aux scénarios où la plage dynamique est critique. L'avantage décisif du FP8 : préserver les capacités de raisonnement et de génération de code de modèles comme DeepSeek-V4.1-Flash sans recalibrer les couches d'attention.

INT4 (GGUF / AWQ)

La quantification entière 4 bits demeure l'option optimale pour les modèles de grande échelle sous contrainte de VRAM. Grâce à la quantification consciente de l'activation (AWQ) et à la flexibilité du format GGUF géré par llama.cpp, on ramène un modèle au quart de son poids d'origine. La perplexité se dégrade de façon mesurable sur les tâches de logique mathématique extrême, mais le débit triple sur les systèmes limités par le bus mémoire.

4. Écosystèmes d'inférence locale : Meta MLX contre llama.cpp

Le choix du runtime détermine l'efficacité réelle du silicium. L'optimisation au niveau du compilateur et la gestion de la mémoire unifiée séparent un flux de travail fluide de l'instabilité système.

• Apple MLX : conçu pour Apple Silicon, ce framework open source élimine la duplication des données entre CPU et GPU. En adressage unifié, un modèle de 70B quantifié en Q4 (environ 38 Go) réside entièrement dans la mémoire partagée d'un M4 Max, les cœurs GPU et le Neural Engine accédant aux mêmes buffers sans pénalité de copie PCIe.
• llama.cpp : le moteur multiplateforme de référence. Sa capacité de CPU offloading, décharger des couches vers la RAM système quand elles excèdent la VRAM du GPU discret, est vitale sous Windows et Linux. Mais le transit par PCIe Gen 5 x16 introduit un goulot d'étranglement sévère dès que le modèle ne tient plus entièrement dans la mémoire dédiée.

5. Benchmarks d'inférence locale

Les données ci-dessous proviennent de tests standardisés en environnement contrôlé, mesurant le débit soutenu de génération sur une fenêtre de contexte de 8 192 tokens :

Note technique : la configuration à GPU discret RTX 5090 Mobile domine sur les modèles compacts qui tiennent largement dans ses 16 Go de GDDR7. Dès que l'on passe à Gemma 4 12B ou à DeepSeek-V4.1-Flash, le débit s'effondre à cause de l'échange de données avec la RAM système via l'interface hôte. Les solutions à mémoire unifiée (Apple, AMD) conservent alors une dégradation linéaire et prévisible.

6. Limite thermique et efficacité énergétique

La physique d'un châssis portable impose des limites strictes au calcul soutenu. Un GPU mobile haut de gamme peut consommer 120 W en crête, mais aucun châssis de moins de 2,5 kg ne dissipe ce niveau en continu sans throttling en quelques minutes. Sous charge prolongée d'inférence ou de micro-ajustement LoRA, les comportements divergent :

• Systèmes à GPU discret (NVIDIA/Intel) : la consommation combinée CPU + GPU dépasse souvent 150 W en charge continue. Les ventilateurs atteignent leur régime acoustique maximal (fréquemment au-delà de 50 dBA) et, après quinze minutes, les fréquences du cœur GPU chutent de 15 % à 25 % pour maintenir la jonction sous 85 °C.
• Systèmes à architecture unifiée (Apple Silicon / APU AMD) : en intégrant moteur de calcul et mémoire sur le même substrat, la consommation chute. Un M4 Max sous charge maximale d'inférence soutenue reste sous 55 W de consommation système totale. La performance maximale de génération se maintient indéfiniment, avec un impact acoustique sous 35 dBA, condition indispensable à la stabilité des déploiements d'agents locaux de longue durée.

7. Matrice de décision architecturale et ROI

Pour optimiser le retour sur investissement dans l'acquisition de stations de travail d'IA, deux profils de développement structurent la décision d'achat.

Profil A, Ingénieurs de modèles et fine-tuning

Optimisation d'hyperparamètres, entraînement léger, exécution de modèles moyens (jusqu'à 31B). L'objectif est de maximiser la mémoire adressable pour éviter la fragmentation des tenseurs.

• Recommandation : systèmes à mémoire unifiée de haute capacité (96 Go minimum, 128 Go idéalement). Les plateformes Apple Silicon M4 Max et AMD Ryzen AI Max+ offrent le meilleur coût par gigaoctet de VRAM utilisable, permettant de charger des modèles massifs qui exigeraient sinon des configurations de bureau multi-GPU.

Profil B, Développeurs d'applications d'IA et d'agents

Développement de logiciels consommant des API hybrides et implémentant des modèles locaux de petite taille (7B à 14B) pour l'autocomplétion de code, l'analyse syntaxique et l'inférence à faible latence.

• Recommandation : stations de travail à GPU discret NVIDIA RTX de dernière génération (16 Go de GDDR7 minimum). L'écosystème CUDA reste le standard industriel pour les bibliothèques d'intégration, et la performance FP8 sur petits modèles y surpasse toute alternative mobile du marché.