Nous avons accéléré la même IA jusqu’à 72 % sur un PC Nvidia et un Mac : voici ce que change vraiment le MTP

Faire tourner un grand modèle de langage de plus de 120 milliards de paramètres directement sur un ordinateur portable est désormais une réalité dès lors que l’on dispose de 128 Go de mémoire (on aurait peut-être du commencer par ça). En revanche, le regarder rédiger laborieusement une fonction Python à 31 tokens par seconde est nettement moins réjouissant quand des les modèles en cloud comme Claude ou ChatGPT s’exécutent en un clin d’œil.

Pour rappel, un token correspond à une brique de texte (un mot, une syllabe ou un signe de ponctuation) que le modèle génère habituellement une par une : sur une réponse un peu fournie de 1 024 tokens, il faut ainsi patienter plus d’une demi-minute devant son écran.

Cette lenteur n’est pourtant pas une fatalité grâce au MTP (Multi-Token Prediction), une méthode censée réduire drastiquement l’attente sans dégrader le modèle, que nous avons mise à l’épreuve sur deux architectures matérielles radicalement différentes.

Pour ce test, nous avons utilisé Qwen3.8 Flash-Next, un modèle publié fin août par l’équipe Qwen d’Alibaba en guise d’avant-goût de sa future génération Qwen4.

S’il totalise 125 milliards de paramètres accompagnés d’une table annexe de 51 milliards, il n’en sollicite que 6 milliards à chaque étape grâce à une architecture dite MoE (mélange d’experts), qui ne réveille qu’une petite fraction du réseau neuronal par token afin d’économiser du temps de calcul. Sa vraie particularité réside toutefois dans sa « tête MTP » : au lieu d’avancer mot à mot, ce petit module annexe tente de deviner jusqu’à trois tokens d’avance, que le modèle principal valide ou corrige ensuite d’un seul bloc.

Nvidia a justement publié une recette technique permettant d’exploiter cette fonction avec llama.cpp, le moteur open source au cœur de la plupart des outils pour installer un ChatGPT en local. Nous avons donc appliqué ce protocole à la lettre sur un Asus ProArt P16 propulsé par la plateforme RTX Spark de Nvidia (puce N1X et 128 Go de mémoire), ainsi que sur un MacBook Pro M5 Max doté lui aussi de 128 Go de RAM unifiée, à travers une batterie de 495 requêtes.

Jusqu’à 72 % plus rapide sur le code, mais beaucoup moins en français

Premier constat : sur des tâches très structurées, l’accélération est spectaculaire. Lorsqu’on lui demande d’écrire du code Python, l’activation du MTP fait bondir le débit de la plateforme RTX Spark de 31,5 à 50,9 tokens par seconde, et propulse le MacBook Pro de 47,9 à 82,6 tokens/s. Un exercice de calcul d’horaires de train affiche une envolée similaire, avec un gain de vitesse d’environ 68 % sur les deux machines.

En revanche, dès que l’on passe à de la rédaction pure en français, le gain retombe autour de 33 à 36 %. Cet écart s’explique directement par le taux de réussite des prédictions du module MTP : alors que le modèle principal valide plus de 80 % des brouillons anticipés sur du code informatique ou des mathématiques, il n’en retient plus que 58 à 59 % en langue naturelle. Logique : là où une phrase en prose peut être tournée de mille façons différentes, la syntaxe d’une boucle for en Python laisse beaucoup moins de place à l’improvisation.

Cette optimisation mise en avant par Nvidia ne suffit d’ailleurs pas à inverser la hiérarchie matérielle. La puce M5 Max d’Apple conserve une large avance dans les trois exercices, au point que la RTX Spark dopée au MTP (50,9 tokens/s en code) dépasse à peine le MacBook Pro dépourvu de cette accélération (47,9 tokens/s).

Excellente surprise en revanche sur l’endurance thermique : les deux ordinateurs portables tiennent parfaitement la cadence sur la durée. Après 30 minutes de génération ininterrompue sur secteur, la plateforme Spark reste d’une stabilité métronomique (de 55,3 à 55,2 tokens/s), tout comme le Mac (de 85,3 à 85,6 tokens/s). Si les sondes internes relèvent un pic à 71 °C sur la puce graphique Nvidia contre 83,7 °C sur le processeur Apple, ces capteurs ne mesurent pas exactement la même zone physique de la puce, ce qui interdit d’en tirer un vainqueur absolu sur le refroidissement.

Pour aller plus loin
Test du Apple MacBook Pro 16 PROLED XDR : j’ai poussé le premier Mac OLED dans ses derniers retranchements

Pour aller plus loin
On a testé la puce Nvidia RTX Spark qui veut réinventer le PC : les résultats face à Apple, AMD et une RTX 5070

Écrire plus vite ne veut pas dire répondre plus vite

C’est ici qu’apparaît le principal angle mort du MTP : s’il accélère l’écriture de la réponse, il n’accélère absolument pas la lecture de vos documents. Pour le vérifier, nous avons soumis aux modèles un rapport PDF de 180 pages (soit 13 753 tokens) en leur demandant d’y dénicher trois références éloignées et d’additionner leurs valeurs. Or, avant même de pouvoir écrire le premier mot de sa réponse, l’IA doit d’abord analyser et « digérer » l’intégralité du texte fourni (la phase dite de prefill), une étape sur laquelle le MTP n’a aucun effet. Résultat : avec ou sans MTP, le mastodonte Qwen3.8 Flash-Next met entre 17 et 21 secondes pour livrer son verdict, là où Qwen3.6 35B, un modèle quatre fois plus léger (22 Go), boucle l’exercice sans faute en moins de 7 secondes.

Un second goulet d’étranglement est du côté de la file d’attente du serveur local. Par défaut, llama.cpp n’ouvre qu’une seule voie de traitement simultanée (un « slot ») : si vous posez une question rapide pendant que l’IA rédige un long bloc de code en arrière-plan, votre demande restera bloquée au feu rouge. Sur le MacBook Pro, un simple calcul « 2+2 » envoyé une demi-seconde après le lancement d’une génération de code a ainsi mis 12,47 secondes à s’afficher, contre à peine 0,31 seconde en configurant deux voies parallèles. Activer ce second canal permet en prime de faire bondir le débit cumulé de Flash-Next (de 79 à 113 tokens/s sur le Mac, et de 52 à 78 sur la Spark), mais exige en contrepartie de doubler la quantité de mémoire vive réservée au contexte.

Reste enfin à vérifier que cette course à la vitesse ne sabote pas la fiabilité des réponses. Sur cinq petits exercices de programmation validés par 30 tests automatisés, Flash-Next réalise un sans-faute (5/5) sur le Mac, mais échoue sur l’une des fonctions (4/5) sur la RTX Spark, sa réponse ayant été tronquée par la limite de longueur maximale. Plus curieux encore : avec un modèle et des consignes strictement identiques, l’IA ne génère pas exactement le même code selon qu’elle tourne sur les librairies CUDA de Nvidia ou Metal d’Apple, même en verrouillant la « température » à zéro (le paramètre censé supprimer le hasard pour garantir des réponses reproductibles). Quant au plus petit Qwen3.6 35B, il s’est illustré sur Mac en livrant une fonction de conversion de prix qui transforme 1 299,95 € en 129 995 €.

Heureusement, nos épreuves pratiques réservent aussi d’excellentes surprises sur le raisonnement logique. Mis face à la fiche d’un casque audio fictif dont le prix passe de 199 à 249 € tout en affichant une fausse pastille promotionnelle « -25 % », Flash-Next déjoue le piège, calcule la hausse réelle (+25,13 %) et dénonce le faux bon plan, là où Qwen3.6 35B repère lui aussi l’arnaque mais arrondit son calcul à 25,0 %. Même efficacité lorsqu’on leur demande de réparer un vrai bug issu de nos scripts de test internes (qui affichait un débit absurde de 12 milliards de tokens/s lorsqu’une durée tombait à zéro) : les deux modèles produisent un correctif fonctionnel validé par nos sept batteries de tests en 7 à 15 secondes, bien que Qwen3.6 35B ait eu besoin d’une seconde tentative sur le Mac.

Faut-il vraiment un monstre de 128 Go pour coder en local ?

Malgré le coup de fouet du MTP, Qwen3.8 Flash-Next reste un poids lourd exigeant qui est loin d’être le plus véloce de notre laboratoire.

Dans notre test de débit brut sans MTP, il plafonne à 25,6 tokens/s sur la Spark et 50,2 sur le Mac, tandis qu’un modèle spécialisé comme Qwen3-Coder 30B s’envole à 104,6 et 154,4 tokens/s tout en occupant cinq fois moins d’espace disque.

Surtout, avec 98 Go de fichiers à charger en mémoire, Flash-Next impose une machine dotée de 128 Go de RAM, soit une facture d’au moins 6 000 euros (si ce n’est plus…).

Si vous possédez déjà une telle station de travail pour générer du code en local, activer le MTP est une évidence absolue : le réglage est gratuit et offre plus de 60 % de vitesse supplémentaire. En revanche, pour résumer ou interroger de longs documents, un modèle plus compact de 20 à 35 Go se montrera tout aussi pertinent et nettement plus réactif sur l’un des mini PC pour l’IA locale autrement plus abordables.

Pour aller plus loin
Quel mini PC choisir pour l’IA ? Notre sélection 2026

Comment activer le MTP sur son ordinateur

En pratique, l’activation du MTP dans llama-server ne requiert que quelques arguments de ligne de commande, détaillés pas à pas dans la documentation du décodage spéculatif de llama.cpp.

La seule subtilité consiste à récupérer le fichier de la tête MTP depuis une révision bien précise du dépôt plutôt que sur la branche principale, et à veiller à ce que votre version de llama.cpp soit parfaitement alignée.

Quant à ceux qui souhaitent d’abord se familiariser avec l’écosystème avant de mettre les mains dans le cambouis, notre guide de l’IA locale sur Windows, Mac et Linux détaille toutes les étapes de base.

Pour aller plus loin
Comment installer un modèle LLM type ChatGPT sur PC ou Mac en local ? Voici le guide ultime pour tous