Les États-Unis ont forcé Anthropic à désactiver ses récents et puissants modèles Fable 5 et Mythos 5 pour Claude. On savait déjà que des raisons de sécurité nationale étaient évoquées, mais, de l’aveu d’Anthropic lui-même, les explications restaient assez floues.
Le renseignement militaire chinois et russe au cœur des craintes américaines
Or, d’après Reuters, le secrétaire américain au Commerce Howard Lutnick (qui est d’ailleurs l’auteur de la lettre envoyée à Anthropic), justifie cette décision par le risque que ces modèles soient détournés vers le renseignement militaire en Chine, en Russie ou dans d’autres pays jugés préoccupants par l’administration du président Donald Trump.
Pour le dire autrement : le gouvernement des États-Unis affirme avoir peur de mettre une puissante cyberarme entre les mains de ses adversaires.
Ce bras de fer ne tombe pas de nulle part : les relations entre Anthropic et l’administration Trump s’étaient déjà tendues après le refus de l’entreprise de laisser l’armée américaine utiliser ses modèles pour de la surveillance intérieure et des systèmes d’armes autonomes. En représailles, le gouvernement avait placé Anthropic sur une liste noire liée à la sécurité nationale, d’après Reuters.
La peur du jailbreak
L’inquiétude des États-Unis porte sur un « jailbreak » (une technique pour faire sauter les protections d’une IA) connu, mais dont la gravité est relativisée par Anthropic.
À lire aussi :
Le patron d’Amazon serait à l’origine de la coupure de Fable 5 et Mythos 5 d’Anthropic
En effet, le jailbreak en question permettrait d’utiliser le modèle Fable 5 mis à disposition du grand public (contrairement à Mythos 5) pour identifier des failles logicielles et ainsi faciliter des cyberattaques d’envergure. Toutefois, selon Anthropic, cette méthode de contournement n’a révélé que des failles de sécurité « mineures » que d’autres modèles accessibles au public sont également capables de détecter.
L’histoire est toutefois plus trouble que la seule question du jailbreak. Selon Semafor, la Maison-Blanche aurait aussi agi par crainte qu’un groupe lié à la Chine ait accédé à Mythos 5 avant la coupure. Anthropic affirme de son côté que l’accès chinois n’a jamais été évoqué lors de ses échanges avec le gouvernement autour du jailbreak : les versions des deux camps ne concordent pas.
À lire aussi :
Claude Fable 5, l’IA « la plus sûre » d’Anthropic, piratée en 48 heures
Rappelons enfin que Washington avait demandé à Anthropic de désactiver ses modèles IA auprès des utilisateurs à l’étranger, mais l’entreprise, pour s’assurer d’être bien dans les clous, a également coupé l’accès aux États-Unis.
Le dossier est loin d’être clos : des cadres techniques d’Anthropic devaient rencontrer le département du Commerce à Washington pour tenter de débloquer la situation, et plus de 80 dirigeants et experts en cybersécurité, dont des responsables de Nvidia et d’Adobe, ont signé une lettre ouverte réclamant la levée des restrictions, d’après Reuters.
Téléchargez notre application Android et iOS ! Vous pourrez y lire nos articles, dossiers, et regarder nos dernières vidéos YouTube.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.