NPU des PC portables : à quoi sert vraiment cette puce IA avec ses TOPS, et comment s’en servir ?

NPU, mode d’emploi

 
Vendu comme le moteur indispensable des Copilot+ PC, le NPU s’est surtout contenté jusqu’ici de flouter les arrière-plans en visioconférence. AMD et Unsloth lui confient enfin de véritables modèles de langage locaux, mais les premières mesures indépendantes obligent à tempérer les promesses sur la vitesse et l’autonomie.
Crédits : Frandroid

Qui a vraiment pris le temps de déchiffrer la ligne « NPU 50 TOPS » sur la fiche technique de son ordinateur portable avant de passer en caisse ? Parmi les acheteurs d’un Copilot+ PC, bien peu savaient ce que recouvrait réellement l’autocollant, au-delà de la promesse floue d’une « IA intégrée » censée préserver la batterie.

Dans les faits, cette puce dédiée a passé deux ans à attendre du travail, pendant que quelques fonctions annexes de Windows lui abandonnaient des miettes. Ouvrez le Gestionnaire des tâches de Windows 11 : sur la majorité des machines, la courbe réservée au NPU reste désespérément plate à 0 % toute la journée.

Le NPU (pour Neural Processing Unit, ou unité de traitement neuronal) est pourtant une troisième zone de calcul gravée directement dans le processeur, aux côtés des cœurs classiques (CPU) et de la puce graphique (GPU). Spécialisée dans les multiplications de matrices au cœur des réseaux de neurones, elle brille par sa sobriété énergétique, idéale pour laisser tourner une tâche en continu sans vider l’accumulateur.

Microsoft en a fait dès 2024 le ticket d’entrée obligatoire de ses Copilot+ PC, en imposant un seuil de 40 TOPS minimum. Mais sans logiciel compilé sur mesure, ce silicium reste lettre morte, et les poids lourds de l’IA locale comme Ollama ou LM Studio l’ignorent toujours.

La donne évolue enfin depuis ce jeudi 19 novembre : AMD et Unsloth ont annoncé qu’Unsloth Desktop, une application libre permettant d’exécuter des modèles d’IA chez soi, prend désormais en charge le NPU des processeurs Ryzen AI récents sous Windows comme sous Linux. AMD salue « une nouvelle façon de mettre le NPU au travail », et pour une fois la formule n’a rien d’usurpé.

Pour aller plus loin
Pourquoi Microsoft ne parle presque plus des Copilot+ PC alors que 40 % des PC portables professionnels en portent désormais l’étiquette

Le TOPS, un chiffre de vitrine

L’acronyme TOPS (trillions of operations per second) comptabilise les milliers de milliards d’opérations qu’une puce peut exécuter chaque seconde. Un NPU crédité de 50 TOPS promet donc 50 000 milliards de calculs par seconde, à condition de lire deux précisions essentielles en bas de page.

D’une part, ce score mesure des opérations sur des nombres entiers de 8 bits (INT8), un format volontairement simplifié utilisé par les modèles compressés. Intel le précise d’ailleurs sur ses fiches avec la mention « NPU Peak TOPS (Int8) ». D’autre part, il s’agit d’un plafond théorique atteint uniquement si les données arrivent sans la moindre micro-pause, une condition rarement réunie avec un modèle de langage.

Pour générer chaque fragment de mot (un « jeton »), un modèle de langage doit en effet relire l’intégralité de ses paramètres actifs en mémoire. Sa cadence dépend alors surtout de la bande passante de la mémoire vive. Or le NPU n’a pas de mémoire dédiée : il puise dans la même RAM que le processeur et le GPU.

Pour aller plus loin
C’est quoi un token (ou jeton) dans l’IA ? Tout comprendre à une notion primordiale

Les créateurs de FastFlowLM, le moteur sur lequel s’appuie Unsloth, le reconnaissent volontiers sur leur propre site : sur leur puce de référence, la partie graphique profite d’un débit mémoire de 125 Go/s, contre seulement 60 Go/s pour le NPU. Une puce graphique intégrée dépourvue du moindre label « IA » peut donc générer du texte plus vite qu’un NPU de 50 TOPS, simplement parce que ce dernier chiffre ne dit rien de la vitesse à laquelle la mémoire l’alimente.

AMD, Intel, Qualcomm : un NPU presque partout

Le NPU n’est plus réservé aux machines vitrines : depuis 2023, les trois grands fournisseurs de processeurs pour PC Windows l’intègrent dans la plupart de leurs gammes portables. Les écarts de puissance restent toutefois décisifs, puisque seule la barre des 40 TOPS ouvre l’accès au label Copilot+ :

  • AMD Ryzen 7040 et 8040 (XDNA 1) : 10 et 16 TOPS, non éligibles Copilot+.
  • AMD Ryzen AI 300, AI 400 et AI Max (XDNA 2) : 50 TOPS, et jusqu’à 55 ou 60 TOPS sur les Ryzen AI 400.
  • Intel Core Ultra série 1 et Core Ultra 200H, HX et S (Meteor Lake, Arrow Lake) : 11 à 13 TOPS, non éligibles Copilot+.
  • Intel Core Ultra 200V et série 3 (Lunar Lake, Panther Lake) : jusqu’à 48 TOPS sur Lunar Lake, 50 TOPS sur Panther Lake.
  • Qualcomm Snapdragon X et X2 : 45 TOPS sur le X Elite, et jusqu’à 80 TOPS sur le X2 Elite.

Sous Windows, ce sont d’abord les outils maison de Microsoft qui exploitent ce silicium, pour la plupart réservés aux machines certifiées Copilot+ : Recall (qui indexe l’activité à l’écran), Click to Do, la recherche sémantique, les sous-titres traduits en direct ou encore Cocreator dans Paint. Les Effets Studio de la webcam (flou d’arrière-plan, correction du regard, cadrage automatique) font exception : les NPU de moins de 40 TOPS ont droit au flou d’arrière-plan.

Pour aller plus loin
Quels sont les meilleurs PC portables de 2026 ?

Pratiques au quotidien, ces fonctions peinent pourtant à justifier à elles seules une puce de 50 TOPS, tandis que les Ryzen 8040 ou Core Ultra de première génération, trop justes pour le label Microsoft, restent largement au chômage technique. Pour vérifier si un logiciel sollicite votre puce, le Gestionnaire des tâches (onglet Performances) affiche bien une courbe NPU, mais elle n’est pas fiable : pendant le test de XDA Developers, elle restait à 0 % alors que le NPU travaillait.

Comment faire tourner un modèle sur le NPU d’un PC AMD

Le mérite principal de l’annonce d’AMD est de rendre l’exercice accessible sans ligne de code. La documentation d’Unsloth réserve toutefois cette compatibilité aux architectures NPU XDNA 2 (Ryzen AI 300, Ryzen AI 400 et Ryzen AI Max), sous Windows 11 ou Linux x64, laissant les Ryzen 7040 et 8040 sur le bord de la route.

Sous Linux, l’installation exige un noyau 7.0 ou ultérieur équipé du pilote amdxdna (ou le paquet amdxdna-dkms sur un noyau plus ancien), un micrologiciel NPU à jour et une limite mémoire memlock illimitée. Sous Windows, la configuration s’effectue en quatre étapes :

  • installer Unsloth Desktop, disponible sur GitHub ou via le gestionnaire winget ;
  • ouvrir le Model hub, activer le filtre NPU puis cliquer sur Enable NPU pour laisser l’application télécharger FastFlowLM et vérifier le pilote automatiquement ;
  • télécharger un modèle compatible NPU en faisant preuve de patience, AMD prévenant que la barre de progression peut sembler figée ;
  • ouvrir l’onglet New Chat, sélectionner le modèle dans la section NPU, ajuster la taille du contexte et démarrer la discussion.

Attention aux contraintes de format et de mémoire : le NPU n’accepte qu’un format maison compressé sur 4 bits, baptisé Q4NX. Impossible donc de reprendre tels quels les fichiers GGUF d’Ollama : il faut passer par les modèles déjà convertis de FastFlowLM ou par l’outil de conversion d’Unsloth, qui tourne sur le processeur. AMD cite l’exemple de Qwen3.6 35B A3B (35 milliards de paramètres au total, dont 3 milliards actifs par jeton). Avec sa fenêtre de contexte complète, ce modèle réclame environ 28 Go réservés au NPU. Comme Windows n’alloue par défaut que la moitié de la mémoire au NPU, il faut un PC doté de 64 Go de RAM. Unsloth conseille 32 Go pour les modèles de 9 à 12 milliards de paramètres, et les machines de 16 Go doivent se contenter des plus petits (4 milliards de paramètres et moins).

L’intérêt dépasse largement le simple chatbot : Unsloth expose tous ses modèles, NPU inclus, via une API locale compatible avec les standards d’OpenAI et d’Anthropic. Plus de 100 applications et agents peuvent s’y brancher, comme Hermes Agent, OpenClaw, Open WebUI, Cline ou VS Code. Les utilisateurs avancés peuvent même se passer d’interface graphique en pilotant directement FastFlowLM en ligne de commande (flm run pour discuter, flm serve pour ouvrir un serveur sur le port 52625) ou via Lemonade, le serveur local soutenu par AMD qui arbitre automatiquement entre FastFlowLM et le moteur Ryzen AI. Les autres méthodes sont détaillées dans notre guide pour installer un ChatGPT en local.

Pour aller plus loin
NPU AMD : la puce IA des PC Ryzen sert enfin à quelque chose

Chez Intel et Qualcomm, d’autres portes d’entrée

Les processeurs Intel ne profitent pas encore de l’intégration directe dans Unsloth, mais s’appuient sur OpenVINO, la boîte à outils maison capable de solliciter le NPU dès les Core Ultra de première génération sous Windows 11 comme sous Ubuntu. Sa bibliothèque OpenVINO GenAI permet d’exécuter un modèle en désignant simplement « NPU » comme cible matérielle, au prix d’une mise en œuvre plus technique en Python, de modèles convertis au format Intel et d’une première compilation parfois longue. Sur Core Ultra série 3, Intel revendique toutefois que le modèle Gemma 4 E2B offre 2,8 fois plus de performance par watt sur le NPU que sur la partie graphique (mesure maison, via LiteRT).

De leur côté, les Copilot+ PC animés par une puce Qualcomm Snapdragon ont pris une longueur d’avance sur les logiciels grand public : l’outil d’analyse documentaire AnythingLLM propose un connecteur « AnythingLLM NPU » ciblant le NPU Hexagon, tout comme le kit Nexa SDK ou le moteur Foundry Local de Microsoft lorsqu’une déclinaison optimisée existe. Linux reste en revanche le parent pauvre chez Qualcomm, sans documentation officielle garantissant l’accès au NPU contrairement à AMD et Intel. Pour ceux qui veulent simplement discuter avec une IA locale sans se soucier du matériel, notre guide complet de l’IA locale, du débutant à l’expert recense les options les plus simples.

Pour aller plus loin
Comment installer un modèle LLM type ChatGPT sur PC ou Mac en local ? Voici le guide ultime pour tous

Et sur Mac, le Neural Engine

Apple a devancé tout le marché en intégrant son propre NPU, baptisé Neural Engine, dès la puce M1, jusqu’à atteindre 38 TOPS sur la génération M4 avant d’abandonner la course aux chiffres sur la M5 au profit de « Neural Accelerators » logés directement dans chaque cœur GPU. Sur macOS, le Neural Engine accélère les fonctions système et les applications reposant sur Core ML, qui répartit dynamiquement la charge entre CPU, GPU et Neural Engine.

Pour faire tourner de grands modèles de langage, les outils de référence comme Ollama, LM Studio ou la bibliothèque maison MLX s’appuient toutefois presque exclusivement sur le GPU. Seuls des projets expérimentaux tels qu’ANEMLL convertissent des modèles pour le Neural Engine avec des contextes limités à quelques milliers de jetons. L’ingénieure Eileen Yoon, autrice d’un pilote Linux pour cette puce, a même découvert un défaut matériel sur la M3 : en le contournant, elle fait passer Qwen3 8B de 1,36 à 2,97 jetons par seconde, encore très loin des cadences du GPU.

Et ça vaut vraiment le coup de l’utiliser ?

Sur le terrain de l’efficacité énergétique, les annonces officielles s’emballent vite : Unsloth promet 2 à 4 fois moins d’énergie par jeton qu’un GPU « traditionnel » sans préciser le matériel testé, tandis que FastFlowLM revendique 67 fois moins d’énergie par jeton que le GPU intégré de la même puce. Le tableau d’Unsloth annonce également 17,2 jetons par seconde sur Qwen3.6 35B A3B et 40,7 sur le petit LFM3 1.7B, mais sans dévoiler la configuration utilisée ni comparer ces scores à ceux de la partie graphique du même PC.

Les mesures indépendantes sont évidemment plus nuancées. Le 28 octobre, avant l’intégration dans Unsloth, Joe Rice-Jones a publié chez XDA Developers un banc d’essai détaillé réalisé sur son Asus ROG Flow Z13 (Ryzen AI Max, puce graphique Radeon 8060S). Avec le modèle gpt-oss-20b, sur batterie, la partie graphique génère 53,8 jetons par seconde pour environ 460 joules par tranche de 1 000 jetons.

Sur la même machine, le NPU piloté par FastFlowLM tourne en moyenne à 9,5 jetons par seconde (entre 8,1 et 11,8 selon les passes) et consomme au mieux 1 200 joules pour accomplir le même travail, avec un temps d’attente de 4,1 secondes avant le premier mot contre 0,44 seconde sur le GPU. Le NPU seul ajoute moins de 1 watt, mais la consommation de toute la puce grimpe de 14 à 15 watts pendant la génération. Comme l’opération dure plus de cinq fois plus longtemps qu’avec la partie graphique, la batterie se vide davantage (un écart probablement moins sévère face aux GPU intégrés plus modestes des Ryzen AI 300, qui restent toutefois à mesurer).

Le processeur fait d’ailleurs mieux que le NPU dans ce test : en solution de repli, il atteint 23,6 jetons par seconde pour 990 joules. Le moteur d’AMD, ryzenai-llm, ne fait pas mieux que FastFlowLM sur le NPU, avec 8,8 jetons par seconde et 1 700 joules.

Le NPU reprend en revanche toute sa pertinence dès qu’on lui confie des tâches de fond continues.

Dans ce même comparatif, la transcription d’un mémo vocal de cinq minutes avec le Whisper de FastFlowLM reste entièrement sur le NPU : le processeur bouge à peine et le GPU reste au repos. Elle prend 78 secondes, plus du double de la version NPU de whisper.cpp (33,6 secondes), qui fait alterner NPU et processeur, et consomme environ 50 % d’énergie en plus au total. Mais la puce ne tire que 8,7 watts de plus, ce qui laisse le reste de la machine libre pour jouer ou faire un rendu.

Sur Mac, le développeur Daisuke Majima a relevé 12,7 watts sur une puce M4 Max quand le modèle Gemma 4 E2B tourne sur le Neural Engine, contre 24,7 watts sur le GPU avec MLX. Sur un iPhone 17 Pro, ses tests montrent surtout que le Neural Engine conserve 67 % de sa vitesse initiale après dix minutes d’effort continu, là où MLX chute à 38 % sous l’effet de la chauffe. Au bout de dix minutes, le Neural Engine (22 jetons par seconde) finit même devant MLX (18 jetons par seconde).

Deux ans après le lancement en fanfare des Copilot+ PC, le NPU ne sert plus seulement à flouter l’arrière-plan des visioconférences. Il devient utile pour faire tourner sans bruit un agent ou une transcription qui n’a rien d’urgent. Pour dialoguer à pleine vitesse avec un grand modèle de langage, le GPU conserve néanmoins une nette longueur d’avance, quels que soient les 50 TOPS affichés sur l’emballage.

D »ailleurs, Ollama et LM Studio, les poids lourds de l’IA locale, ignorent d’ailleurs toujours le NPU.


Téléchargez notre application Android et iOS ! Vous pourrez y lire nos articles, dossiers, et regarder nos dernières vidéos YouTube.

Pour nous soutenir gratuitement, dites simplement à Google d’ajouter Frandroid à vos sources préférées en cliquant ici.

Recherche IA boostée par
Perplexity