« Le monde n’est pas prêt » : un ancien employé d’OpenAI alerte sur les dangers de l’intelligence artificielle

 
Nouveau départ chez OpenAI. L’entreprise à l’origine de ChatGPT perd son conseiller principal en charge de la supervision d’une « Super Intelligence ». En cause, un manque de recul de l’entreprise sur les dangers qu’elle pourrait représenter.

Les créateurs de ChatGPT voudraient-ils voler trop près du soleil ? On apprend via The Verge, qu’Open AI a dissout son équipe « AGI Readiness » qui conseillait l’entreprise sur les risques d’une intelligence artificielle trop puissante.

Des départs en cascade

Miles Brundage, conseiller principal d’OpenAI sur la question de la « Super Intelligence » a quitté l’entreprise ce mercredi et s’est fendu d’une note sur X (Twitter). Il y affirme que « ni OpenAI ni aucun autre laboratoire de pointe n’est prêt, et le monde n’est pas prêt non plus ».

Brundage, évoque des contraintes sur sa liberté de recherche face au développement d’une entreprise qui semble plus se tourner sur la sortie de nouveaux produits.

Ce départ fait écho à celui d’Ilya Sutskever (co-fondateur d’OpenAI) et Jan Leike, responsables de Superalignment, équipe spécialisée dans l’étude des risques de l’intelligence artificielle formée en juillet 2023. Jan Leike était parti après avoir affirmé que « la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants ».

Pour aller plus loin
« OpenAI porte une énorme responsabilité au nom de toute l’humanité »

Ne pas sacrifier la sécurité sur l’autel de l’innovation

Brundage a déclaré dans son Substack qu’il souhaitait se consacrer à la création d’une organisation à but non lucratif ou rejoindre une structure existante, avec pour objectif de se concentrer sur la recherche en politique de l’IA.

Il est peu probable que l’IA soit aussi sûre et bénéfique que possible sans un effort concerté pour y parvenir.

Miles Brundage

Il souligne l’importance de faire entendre des voix indépendantes sur le sujet, dénuées de conflits d’intérêts de la part de l’industrie. Une prise de position partagée par l’ONU qui souhaite statuer sur cette technologie pour qu’elle ne crée pas une fracture numérique encore plus importante entre les pays.


Si vous voulez recevoir les meilleures actus Frandroid sur WhatsApp, rejoignez cette discussion.

Les derniers articles