C’est « la chose la plus dangereuse dont les humains se soient jamais approchés » : Bill Gates a radicalement changé d’avis sur l’IA

Bill Gates a revu son diagnostic sur l’intelligence artificielle. Il était l’invité d’Ezra Klein, chroniqueur au New York Times, qui a publié l’entretien ce mardi 29 septembre. Le cofondateur de Microsoft y affirme que les modèles actuels peuvent déjà aider un bioterroriste, ou alimenter une cyberattaque capable de brouiller les comptes bancaires et de couper le réseau électrique. Concevoir un nouveau pathogène demandait jusqu’ici les moyens d’un État. Selon lui, de petits groupes équipés des derniers outils d’IA en sont désormais capables.

Gates situe ce basculement au début de l’année 2026, dans les deux domaines. Mike Pearl, journaliste chez Gizmodo, relève trois mots de l’entretien, « that exists today » (« ça existe aujourd’hui »). Gates ne s’inquiète pas d’une IA qui deviendrait un jour malveillante toute seule. Il vise des outils déjà disponibles et les humains mal intentionnés qui s’en serviront.

En juillet 2023, Gates signait pourtant sur son blog Gates Notes un billet intitulé « The risks of AI are real but manageable », soit « les risques de l’IA sont réels mais gérables ». Ce mardi, il a décrit l’IA comme « la chose la plus dangereuse dont les humains se soient jamais approchés ». Quelques jours plus tôt, sur la chaîne américaine NBC, il expliquait déjà que l’IA, entre de mauvaises mains, pourrait causer « un milliard de morts ».

Pour aller plus loin
« Aucune pression concurrentielle américaine ne devrait justifier l’imprudence » : Sam Altman veut ralentir l’IA, la Maison Blanche préfère la course avec la Chine

Mythos, le déclic côté cybersécurité

Sur la cybersécurité, Gates cite des modèles qui ont trouvé des failles dans du code relu par des humains depuis plus de vingt ans. Il pointe ainsi Mythos, le modèle qu’Anthropic a présenté début avril sans le mettre à disposition du public, le jugeant trop dangereux. L’entreprise l’a confié à la place à une cinquantaine de partenaires dans le cadre de son Project Glasswing, pour qu’ils corrigent leurs failles avant que des pirates ne les exploitent. Anthropic dit avoir trouvé depuis plus de 10 000 failles graves ou critiques.

Gates doute que ça suffise, car « il y a beaucoup trop de code ». Pour lui, on est entrés dans une « période de vulnérabilité extrême » face aux cyberattaques. En bref, on ne pourra pas tout corriger à temps, selon lui.

Une surveillance obligatoire dans tous les modèles

En terme de mesures, Bill Gates veut une couche de surveillance obligatoire dans tous les modèles d’IA. Laisser l’industrie se réguler seule, comme l’estime Donald Trump ? « C’est juste insensé », répond-il à Ezra Klein.

Les modèles open source, que chacun peut télécharger et modifier, posent le problème le plus sérieux, puisque n’importe qui peut couper leur surveillance. Gates accepte qu’ils restent gratuits et personnalisables, à condition de tourner sur des plateformes où les gouvernements peuvent vérifier que les protections sont toujours là.