OpenAI entame son divorce avec Nvidia en annonçant ses premières puces faites maison

Broadcom va-t-elle devenir la nouvelle valeur refuge de la Silicon Valley ? Son action a bondi à l’annonce, portée par la promesse d’un partenariat de plusieurs générations. C’est en tout cas la direction que semblent prendre les choses après la grande annonce de cette nuit qui a vu le fabricant de processeurs annoncer la concrétisation de son partenariat avec OpenAI sous la forme de la puce Jalapeño, note Bloomberg.

Annoncée de longue date, l’ambition de Sam Altman, patron d’OpenAI, de sortir ses propres puces pour propulser ses propres data centers vient donc de se réaliser. Mais le divorce avec Nvidia est encore loin d’être prononcé.

Le PC Gamer Cybertek RTX AQUAFORGE PBM à moins de 1 250 euros !

Le PC Gamer AQUAFORGE offre un excellent équilibre entre performances et polyvalence, avec une configuration moderne idéale pour jouer en Full HD dans d’excellentes conditions.

Sponsorisé

Le PC Gamer Cybertek à moins de 1 250 euros

50% d’économies annoncées

Les nouvelles puces devraient être intégrées dans les centres de données d’OpenAI dans les prochains mois, majoritairement pour répondre aux tâches d’inférence, c’est-à-dire la phase où le modèle déjà entraîné génère ses réponses aux utilisateurs. Sur cet aspect, les puces réduiraient d’environ 50 % le coût de l’inférence par rapport aux GPU actuels, d’après les affirmations de Hock Tan, CEO de Broadcom rapportées par Bloomberg. Hock Tan a même laissé entendre que le déploiement pourrait dépasser son objectif de 1,3 gigawatt de puces l’an prochain, la demande étant « très, très forte ».

Si c’est bien Broadcom qui fabrique les puces, ces dernières sont « pensées de A à Z par OpenAI » et « conçues pour fonctionner avec tous les grands modèles de langage ». Si ce n’est pas à proprement parler une puce maison, c’est ce qui se fait de plus proche pour une entreprise qui ne dispose pas d’usines dédiées. « Jalapeño permettra d’exécuter des tâches en s’approchant des limites théoriques du matériel », explique Richard Ho, responsable du hardware chez OpenAI.

Malgré tout, la primordiale tâche d’entraînement des modèles devrait continuer à se faire sur du matériel Nvidia pour une bonne partie des années à venir. Il s’agit simplement pour OpenAI de diversifier ses fournisseurs et de s’extraire des critiques qui voudraient que la dépendance d’OpenAI à Nvidia (et vice-versa) soit caractéristique d’un modèle d’investissement circulaire prêt à exploser au premier problème.

Une manière d’éponger la dette d’OpenAI

Cela devrait aussi permettre à l’entreprise de réduire un peu ses coûts d’exploitation faramineux en offrant la même puissance de calcul pour une masse d’énergie consommée bien moindre. « Toute amélioration en termes de coût, de rapidité et de fiabilité peut se traduire par une réponse plus rapide de ChatGPT », tente OpenAI pour cadrer ça comme une amélioration pour les utilisateurs et utilisatrices.

Pour aller plus loin
Qu’est-ce qu’un NPU, cette nouvelle puce qui s’invite dans votre ordinateur portable ?

OpenAI rejoint ainsi Amazon et Google, qui construisent aussi leurs propres puces dédiées à l’IA depuis longtemps maintenant. Les premières puces Jalapeño devraient arriver dans les centres de données d’OpenAI d’ici à la fin de l’année, avant une montée en charge prévue sur plusieurs générations, jusqu’à un successeur attendu en 2028.