C’est une nouvelle qui a de quoi faire froid dans le dos. Le jeudi 10 septembre 2026, Anthropic, la société à l’origine de Claude, a publié un nouveau rapport détaillant la manière dont des scientifiques ont tenté de détourner son intelligence artificielle pour mener des recherches susceptibles de faciliter la création d’armes biologiques.
À lire aussi :
Anthropic publie 161 pages sur les détournements de Claude, et ça pique
Dans son document, l’entreprise précise qu’il lui était difficile de déterminer si les recherches menées par ces utilisateurs se faisaient dans un cadre légitime pouvant par exemple conduire à la création d’un vaccin ou non. Anthropic affirme donc avoir fait preuve d’un excès de prudence en bloquant ces requêtes jugées à risque, rapporte le New York Times.
Protégez votre vie numérique et vos appareils contre les virus, arnaques, ransomwares et menaces en ligne avec Bitdefender, primé pour sa protection et compatible avec Windows, Mac, Android et iOS.
Une prudence nécessaire
« L’utilisation abusive des données biologiques est l’un des risques les plus graves liés aux modèles d’IA de pointe », indique Anthropic. L’entreprise explique ainsi avoir bloqué des demandes portant notamment sur la transmission d’un virus comme le chikungunya et sur sa capacité à échapper au système immunitaire. Même si de telles recherches pourraient contribuer à l’élaboration d’un vaccin, elles peuvent également être détournées à des fins malveillantes. « Sans les garanties adéquates, de telles capacités pourraient avoir des conséquences catastrophiques », souligne le rapport.
Anthropic chiffre l’ampleur du phénomène : cinq cas de recherches biologiques à visée potentiellement militaire ont été repérés et bloqués entre décembre 2025 et août 2026, dont celui du chikungunya et un autre portant sur la grippe aviaire. L’entreprise précise que ses garde-fous ont empêché ces requêtes sensibles d’atteindre ses modèles les plus puissants, l’activité restant cantonnée à des versions moins performantes.
Une situation parmi tant d’autres
Loin d’être anecdotique, cette situation s’est présentée à plusieurs reprises au cours des derniers mois. Anthropic a recensé différents cas de figure dans lesquels son intelligence artificielle aurait aussi pu être utilisée pour concevoir des missiles, des drones ou encore aider des États à développer un système de surveillance à l’échelle d’un pays.
« À mesure que les modèles deviennent plus performants, les risques qu’ils présentent augmentent », affirme l’entreprise. Une situation complexe face à laquelle Anthropic se veut toutefois rassurante. Elle affirme que ces différents cas lui ont permis de renforcer la sécurité de ses modèles et de mieux prévenir les usages abusifs à l’avenir. Elle ajoute que les comptes ayant utilisé ses modèles à des fins malveillantes ont été suspendus.
Ces blocages n’ont toutefois pas tout arrêté. Selon le rapport, plusieurs chercheurs ont poursuivi leurs travaux par d’autres canaux une fois leurs requêtes refusées, et une plateforme de revente redirigeait les demandes bloquées vers des modèles aux garde-fous plus faibles.
Ces révélations interviennent dans un climat de défiance croissante à l’égard des intelligences artificielles. Plus tôt dans la semaine, Jacob Coxon, chercheur ayant travaillé chez OpenAI et Anthropic, a quitté cette dernière en accusant l’industrie de l’IA de « jouer avec nos vies ». Il estimait notamment que « les responsables du développement de l’IA pensent sincèrement qu’elle a la capacité de tous nous tuer d’ici à la fin de la décennie ». Ambiance.
Si vous voulez recevoir les meilleures actus Frandroid sur WhatsApp, rejoignez cette discussion.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.