Confier son S.A.V à une IA n’est peut-être pas une si bonne idée tout compte fait. C’est la leçon qu’a apprise Meta ces derniers jours. Comme l’a remarqué 404Media, une série de piratages sur Instagram a utilisé comme vecteur d’infection le propre chatbot de la firme qui a donné les clés des comptes visés sans poser plus de questions que ça.
Si le problème a été résolu depuis, l’histoire montre à quel point les IA peuvent présenter des risques importants en termes de cybersécurité et comment elles peuvent piéger leurs utilisateurs dans des boucles infernales.
Et si vous confiez la tonte de votre jardin à un robot tondeuse ? En ce moment, Mammotion applique 100 euros de remise le LUBA mini 2 AWD 1000 : la performance de précision pour des bordures parfaitement nettes.
Un chatbot un peu trop naïf
La méthode qui a été utilisée par les internautes malveillants est d’une simplicité franchement inquiétante. Comme l’illustre une vidéo postée sur Telegram et X, il a suffi aux pirates de rentrer l’identifiant du compte à pirater, puis de demander de l’aide à l’IA de Meta au moment de rentrer le mot de passe. En exigeant alors de changer le mail associé au compte, puis en faisant une demande de réinitialisation du mot de passe, il devenait possible de prendre le contrôle du compte visé tout en verrouillant l’accès du ou de la propriétaire légitime. La seule précaution prise par les pirates a été d’utiliser un VPN pour se localiser dans le pays associé au profil en question.
Pire encore, les personnes concernées expliquent ne jamais avoir réussi à être mises en contact avec un humain lors de leur tentative de récupération de compte. L’assistance « fiable 24h/24 et 7j/7 » promise par Meta en mars dernier a donc déjà pris du plomb dans l’aile. La firme avait annoncé la couleur dès l’officialisation de son outil, cela dit en indiquant bien que « Contrairement aux pages d’aide classiques qui vous redirigent simplement vers des articles, cet assistant peut vraiment vous aider à prendre des mesures, qu’il s’agisse de réinitialiser votre mot de passe ou de signaler un contenu problématique ». On aurait simplement aimé que cela se fasse avec un peu plus de parcimonie.
Instagram garde son IA
Les preuves d’efficacité de cette méthode ont d’ailleurs coïncidé avec une série de piratage de grande ampleur, puisque le compte Instagram lié au mandat de Barack Obama à la Maison-Blanche a été utilisé pour poster des messages en soutien au régime iranien, tout comme celui d’un militaire trumpien de haut rang et celui de la marque Sephora. Instagram dément cela dit que les deux évènements sont liés.
Pour aller plus loin
Double authentification (2FA) : pourquoi et comment sécuriser ses comptes Google, Meta, iCloud, Steam…
D’après la firme, « le problème a été résolu » et les comptes visés « sont en cours de sécurisation ». Aucune annonce concernant un éventuel retrait de l’assistance par IA n’a été faite.
Téléchargez notre application Android et iOS ! Vous pourrez y lire nos articles, dossiers, et regarder nos dernières vidéos YouTube.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.