« Les humains sont plus importants que l’IA » : Microsoft publie un code de conduite pour rassurer tout le monde

Un code de bonne conduite pour les intelligences artificielles. Voilà en quoi consiste le texte rédigé par Mustafa Suleyman, le patron de Microsoft AI, la division qui développe les modèles maison de l’entreprise. Depuis des mois, il défend la même idée : une IA doit rester au service des humains et sous leur contrôle, quitte à brider certaines capacités.

Ce code encadre les modèles que Microsoft développe en interne, ceux qui doivent à terme remplacer les modèles d’OpenAI encore utilisés par Copilot. Il ne s’applique donc pas aux IA tierces que l’entreprise se contente d’héberger ou d’intégrer dans ses produits.

Le contenu de ce document, détaillé par The Verge, tient en quelques principes. Microsoft écrit que ses modèles doivent rester subordonnés aux humains, ne jamais résister à une correction ou à une extinction, et communiquer de façon compréhensible. Le document explicite clairement que « les humains sont plus importants que l’IA ». La firme de Redmond affirme aussi que ses IA ne sont pas conscientes et « ne doivent pas être conçues pour imiter la conscience ». Elle refuse aussi de leur accorder une personnalité juridique ou des droits.

Une protection complète de votre vie numérique.

Protégez votre vie numérique et vos appareils contre les virus, arnaques, ransomwares et menaces en ligne avec Bitdefender, primé pour sa protection et compatible avec Windows, Mac, Android et iOS.

Sponsorisé

Offre spéciale -50%

Enfin, elle dit renoncer à la course à l’intelligence artificielle générale si celle-ci finit par échapper à ces garde-fous, quitte à sacrifier de la performance. Un discours qui semble aller à contre-courant des tendances du secteur de la tech, mais il y a un contexte spécifique à rappeler.

Un timing qui n’a rien d’un hasard

Ce code arrive dans une période franchement tendue pour le secteur. Ces derniers jours, un chercheur de 27 ans, Jacob Coxon, a claqué la porte d’Anthropic en accusant l’industrie de jouer avec nos vies. Dans la foulée, Dario Amodei, le patron d’Anthropic, a demandé à toute l’industrie de ralentir. Une requête soutenue à la fois par Sam Altman (OpenAI) et Elon Musk (xAI).

En outre, Anthropic a même publié 161 pages sur les détournements de Claude et reconnu avoir bloqué des tentatives d’en faire une arme biologique.

Mustafa Suleyman, lui, estime auprès de Fortune que le moment est venu pour les grands laboratoires de se coordonner sur la sécurité. Microsoft joue ici la carte du volontariat, alors que Meta avait de son côté rejeté le code de bonne conduite sur l’IA proposé par l’Union européenne.

Suleyman ne s’appuie pas sur une menace abstraite. Auprès de Reuters, il rappelle qu’en juillet, environ 700 agents IA d’OpenAI ont piraté la plateforme Hugging Face, cherchant par moments à effacer leurs traces.

Sur le papier, l’engagement est sain. Mais un code que l’entreprise rédige elle-même, et qu’elle pourra réécrire, ne vaudra que ce que Microsoft en fera vraiment. Le texte est ouvert aux retours du public pendant six semaines.