Le casse-tête des « dark GPU » : pourquoi Amazon empile des milliards de dollars en puces IA inutilisées

Business Insider a consulté en octobre des courriels internes d’Amazon Web Services (AWS), la branche d’Amazon qui loue de la puissance de calcul aux entreprises. On y apprend qu’AWS comptait recevoir environ 5 milliards de dollars d’armoires de serveurs Nvidia GB300 rien qu’en août, puis à peu près 3 milliards de plus chaque mois. Or une partie de ce matériel reste éteinte. Certains centres de données d’AWS aux États-Unis n’ont pas assez d’électricité pour l’installer, et les serveurs attendent la fin des travaux dans des entrepôts « intermédiaires ».

Les GB300 sont des armoires complètes vendues par Nvidia, remplies de GPU, ces processeurs graphiques qui font tourner les modèles d’intelligence artificielle. Avant la vague de l’IA, AWS ne devenait propriétaire d’une armoire qu’une fois celle-ci terminée et livrée dans un centre de données.

Désormais, l’entreprise fondée par Jeff Bezos paie des milliards d’avance pour réserver le matériel plus tôt. Et dans ces e-mails, une équipe d’Amazon se plaint de n’avoir aucune prévision claire sur la date où tous ces GPU seront vraiment installés dans leurs serveurs

Le phénomène des dark GPUs

Amazon n’est pas un cas isolé. Le site américain TechSpot, qui a détaillé l’affaire le 24 octobre, la range dans un phénomène appelé les « dark GPUs », ces GPU éteints faute d’alimentation. Les géants du cloud achètent tout le matériel qu’ils peuvent et en laissent une bonne partie prendre la poussière sur des étagères, pendant que le reste de l’industrie doit se contenter des restes. Pourtant, rejeter la faute sur le réseau électrique ou sur les permis de construire, c’est un peu facile. Même si le courant arrivait demain, un centre de données demande toujours du béton, de l’acier, du câble en cuivre, des électriciens et des techniciens pour assembler les serveurs.

Amazon ne pouvait pas l’ignorer au moment de commander. Un bâtiment de ce genre prend souvent plusieurs années à sortir de terre, et les blocages rencontrés depuis n’ont fait que le confirmer. Le groupe continue malgré tout d’acheter pour environ 3 milliards de dollars d’armoires Nvidia par mois, soit autour de 36 milliards de dollars sur un an.

Amazon parle de « meilleure pratique »

Chez Amazon, on ne voit pas où est le problème. Un porte-parole du groupe qualifie le stockage d’armoires finies en entrepôt de « meilleure pratique commerciale ». Andy Jassy, CEO d’Amazon, rappelle qu’AWS a déjà connu une situation comparable. Surtout, l’entreprise compte sur de gros retours financiers à terme, persuadée que l’IA est une occasion unique qu’aucun acteur de la tech ne peut se permettre de rater.

En attendant, la facture se voit déjà dans les comptes. Le flux de trésorerie disponible d’Amazon, c’est-à-dire l’argent qui reste une fois les investissements payés, est passé dans le rouge au deuxième trimestre sur douze mois glissants, une première depuis 2023. Le groupe prévoit environ 220 milliards de dollars de dépenses d’investissement cette année et s’attend à ce que ce flux reste négatif encore un moment.