Mini PC IA : avec 192 Go et un Ryzen AI Max+ PRO 495, l’EVO-X5 Pro de GMKtec vise les LLM de 300 milliards de paramètres

Depuis le printemps, mon homelab est un Framework Desktop sous Ubuntu, 128 Go de mémoire, un Ryzen AI Max+ 395, et Claude Code qui tourne dessus avec quelques LLM locaux.

Je sais donc précisément ce qu’on peut attendre d’une puce AMD à mémoire unifiée, et ce qu’on ne peut pas. Alors quand GMKtec annonce « 300 milliards de paramètres » dans un boîtier de deux litres, ma première réaction n’est pas « incroyable », c’est « combien de tokens par seconde ? ».

L’EVO-X5 Pro repose sur le Ryzen AI Max+ PRO 495, la puce qu’AMD a montrée au Computex en juin et que les fabricants commencent à recevoir. Ce n’est pas une nouvelle architecture : mêmes 16 cœurs Zen 5, même Radeon 8065S à 40 unités de calcul avec 100 MHz de plus, même NPU XDNA 2 à 55 TOPS.

La différence est dans la mémoire, qui passe de 128 à 192 Go de LPDDR5X, avec jusqu’à 160 Go allouables au GPU, et de 8000 à 8533 MT/s, soit 273 Go/s au lieu de 256.

Un gain de 50 % en capacité, de 6,6 % en débit. GMKtec ajoute deux USB4 à l’avant, deux USB4 V2 à l’arrière, une chambre à vapeur, trois ventilateurs, la gestion à distance DASH et une puce TPM, le tout validé pour tourner 24 heures sur 24. Ni prix, ni date.

Pour aller plus loin
Oubliez la Steam Machine : ce mini PC gaming embarque un vrai GPU de bureau sous watercooling

Ça rentre, mais ça n’avance pas

Le calcul des 300 milliards est bon. Un modèle de cette taille quantifié en 4 bits pèse environ 160 Go, et 160 Go, c’est exactement ce que la puce peut réserver au GPU. Le modèle rentre. Le problème, c’est que pour produire un token, un modèle dense doit lire l’intégralité de ses poids en mémoire, et qu’à 273 Go/s, lire 160 Go prend un peu plus d’une demi-seconde. Un modèle dense de 300 milliards de paramètres tournerait donc autour de 1,5 token par seconde sur cette machine, en gros un mot toutes les deux secondes. C’est lent.

Ce qui sauve la promesse, ce sont les modèles à mélange d’experts, les MoE. Un DeepSeek V4 Flash affiche 284 milliards de paramètres, mais n’en active qu’une fraction pour chaque token, et ne lit donc qu’une fraction de la mémoire. Acemagic, qui lance le F9A sur la même puce cette semaine, cite précisément ce modèle.

Sur mon Framework Desktop, un MoE de 120 milliards de paramètres en 4 bits sort 6 tokens par seconde, une vitesse de lecture confortable. Un 495 avec un MoE de 300 milliards fera à peu près pareil, à 7 % près, parce que le nombre de paramètres actifs par token ne change pas beaucoup. Voilà ce que GMKtec veut dire par « 300 milliards en local ».

La comparaison qui compte est celle des bandes passantes, pas des gigaoctets. Le Mac Studio M5 Ultra annoncé le 25 août monte à 512 Go avec 1,2 To/s, quatre fois plus de débit : le même modèle dense y tournerait quatre fois plus vite, mais la machine démarre à 6 599 euros en 96 Go, et la version 512 Go attendue fin octobre dépassera largement 10 000 euros. Le Mac mini M5 Pro, à 307 Go/s, fait un peu mieux que l’AMD en débit mais plafonne à 64 Go, ce qui exclut les gros modèles. Le Mac mini M6 à 170 Go/s et 32 Go n’est pas dans la course.

Pour aller plus loin
Acheter le Mac mini M6 pour l’IA locale : pourquoi c’est souvent une mauvaise idée

Et le DGX Spark de Nvidia, à 273 Go/s et 128 Go pour environ 4 000 dollars (environ 3 700 euros HT), est exactement le concurrent que les mini PC AMD attaquent par le prix.

Hâte de voir ce que va donner cet EVO-X5 Pro, qui a le potentiel d’un vrai mini serveur IA. Mais le jour où un fabricant de mini PC écrira « tokens par seconde » dans son communiqué à la place de « paramètres », on saura que le marché de l’IA locale est devenu adulte.