Tout le monde s’extasie sur les 128 Go de RAM de ce mini PC IA, mais le vrai problème est ailleurs

RAM contre vitesse

 
Le Ryzen AI Max+ 395 et ses 128 Go de mémoire unifiée font rêver tous les bricoleurs d’IA locale. Sauf qu’une grosse quantité de RAM ne fait pas un superordinateur : le vrai juge, c’est la bande passante.
Crédits : Frandroid

Depuis quelques mois, les mini PC à base de Ryzen AI Max+ 395 (nom de code Strix Halo) déclenchent un emballement chez les amateurs d’intelligence artificielle. La promesse : faire tourner chez soi des modèles de langage géants, sans cloud, sans abonnement et sans louer de GPU à l’heure. Le tout dans une boîte qui tient sur un coin de bureau. Et l’argument massue revient toujours : 128 Go de mémoire.

Le chiffre impressionne parce qu’il écrase la concurrence sur ce seul critère. Une RTX 5090, le haut du panier chez Nvidia, plafonne à 32 Go de mémoire vidéo, une RTX 4090 monte à 24 Go. Le Ryzen AI Max+ 395, lui, partage un même pool de 128 Go entre processeur et carte graphique intégrée. Sur certains systèmes, jusqu’à 96 Go peuvent être réservés au GPU (96 à 112 Go selon la configuration et le système). De quoi charger des modèles qui ne rentreraient jamais dans une seule carte Nvidia grand public.

Pour aller plus loin
Comment installer un modèle LLM type ChatGPT sur PC ou Mac en local ? Voici le guide ultime pour tous

La capacité, ce n’est que la moitié de l’histoire

Voilà le piège. Avoir de la place pour ranger un gros modèle ne dit rien de la vitesse à laquelle on peut le lire. Pour générer du texte, la puce doit relire en permanence les milliards de paramètres du modèle : ce qui compte, c’est donc le débit mémoire, la fameuse bande passante, exprimée en gigaoctets par seconde. C’est elle qui détermine combien de mots par seconde le modèle vous crache. Et sur ce terrain, le Strix Halo n’a rien d’un monstre.

Sur sa fiche, AMD annonce une bande passante de 256 Go/s pour le Ryzen AI Max+ 395, via de la mémoire LPDDR5X-8000 sur un bus de 256 bits. C’est le chiffre théorique.

En pratique, les mesures réelles tombent souvent bien plus bas, parfois autour de 200 Go/s côté GPU, et la lecture brute s’effondre encore davantage sur certaines machines.

Le petit cache embarqué de 32 Mo (qu’AMD appelle Infinity Cache) rattrape une partie du retard sur certains usages, mais pas tout. À titre de comparaison : une carte graphique haut de gamme dépasse les 1 000 Go/s, et les puces Apple Silicon des gammes Max et Ultra jouent dans la même cour. Soit trois à quatre fois plus vite.

Ce qui signifie que la machine excelle sur des modèles de 8 à 40 milliards de paramètres, surtout en version compressée (quantifiée), à bonne vitesse et avec un long contexte. Mais elle n’est pas taillée pour faire tourner confortablement les plus gros modèles. La capacité permet de les charger ; la bande passante, elle, vous fait attendre entre chaque mot.

Alors, ça vaut le coup ?

L’argument économique reste solide. Plutôt que de payer des dizaines d’euros par mois en abonnements (Claude, ChatGPT Pro, Cursor et compagnie), on fait tourner des modèles costauds en local : confidentialité totale, pas de limite de tokens, pas de service coupé à 3 h du matin.

Pour aller plus loin
La vraie surprise de Nvidia, ce n’est pas le laptop RTX Spark mais un mini PC silencieux pensé pour faire tourner vos agents IA jour et nuit

Pour travailler (RAG, pour génération augmentée par récupération) sur des documents privés (faire répondre une IA à partir de vos propres fichiers), du prototypage ou des agents qui tournent en continu, c’est une vraie option. C’est le même pari que fait Nvidia avec son DGX Spark, ce mini PC à 128 Go pensé pour l’IA locale, ou avec ce mini PC silencieux pensé pour faire tourner des agents jour et nuit.

Pour aller plus loin
Test du Nvidia DGX Spark (Dell) : le mini PC IA à 128 Go de RAM

Côté prix, les machines équipées en 128 Go (comme la GMKtec EVO-X2) tournent généralement entre 3 000 à 4 000 €, la plateforme de référence d’AMD étant plus chère. On retrouve la même puce dans le Framework Desktop qu’on a testé ou celui de Minisforum. Une autre approche que celle des SoC mobiles dévoilés au CES, les Ryzen AI Max et Max Pro destinés aux PC portables.

Pour aller plus loin
Test du Framework Desktop : ne le commandez pas avant d’avoir lu ça

Si vous tournez autour de modèles de taille moyenne et que vous voulez quitter les abonnements cloud, la machine est un excellent compromis pour son prix et son encombrement. Mais si vous l’achetez en pensant rivaliser avec une vraie station IA pour les plus gros modèles, vous allez vite buter sur la bande passante. La RAM en abondance, ça ne fait pas tout : regardez d’abord à quelle vitesse la puce peut la lire.


Si vous voulez recevoir les meilleures actus Frandroid sur WhatsApp, rejoignez cette discussion.

Recherche IA boostée par
Perplexity