Jusqu’ici, la mémoire haute performance des accélérateurs IA, la fameuse HBM empilée en petites tours, venait de trois fabricants : SK Hynix, Samsung et Micron. Le contrôleur qui la pilote, lui, vivait sur la puce du processeur.
Nvidia vient de le déplacer directement à l’intérieur de la pile mémoire. Ce déménagement ressemble à un détail de plomberie interne, c’est en réalité un changement d’architecture. C’est ce qui s’appelle la HBM4E.
L’IA générative crée du contenu en quelques secondes, mais souvent au prix de vos données personnelles. Avec Lumo AI, l’assistant européen de Proton, vos conversations restent 100 % confidentielles.
Pour ceux qui ont loupé la première brique, la HBM (pour High Bandwidth Memory), c’est cette mémoire ultra-rapide réservée aux puces IA, faite de plusieurs galettes de silicium empilées et reliées à la verticale pour multiplier le débit. La HBM4 en est la génération la plus récente, celle que se disputent aujourd’hui les fabricants d’accélérateurs. Plus la mémoire va vite, plus le processeur peut être nourri en données sans jamais tourner à vide.
Nvidia revendique de beaux gains face au HBM4E, la prochaine génération du standard mémoire : jusqu’à 30 % de bande passante en plus et 15 % de consommation en moins. Rapprocher le contrôleur des cellules mémoire raccourcit le trajet des données et réduit la latence. L’interface plus compacte libère au passage jusqu’à 25 % de surface sur la puce de calcul, que Nvidia peut remplir de cœurs supplémentaires. Pour entraîner ou faire tourner un grand modèle, le frein vient rarement de la puissance brute. Il vient du débit entre la mémoire et le processeur.
Amazon en cobaye de luxe
Le premier à l’utiliser, c’est justement Amazon, avec son processeur IA Trainium4. La mémoire a d’ailleurs été mise au point avec Annapurna Labs, la division puces maison du groupe.
Les deux entreprises ont annoncé le déploiement de 2 millions de GPU supplémentaires entre 2027 et 2028, avec les processeurs Vera et cette mémoire NVHBM. Le calendrier tombe en pleine crise de la mémoire, où toute la capacité de production 2027 est déjà vendue, et où les prix de la RAM s’envolent.
En logeant son contrôleur dans la pile, Nvidia récupère une couche jusqu’ici laissée à ses fournisseurs mémoire. Sa disponibilité dans les GPU grand public, elle, reste inconnue.
Pour un fabricant qui a déjà relevé trois fois le prix de ses cartes cette année et qui lorgne des pépites comme Hugging Face, verrouiller un maillon de plus n’a rien d’étonnant.
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.