Les navigateurs IA ne seront jamais sûrs : l’aveu terrible d’OpenAI

Après les LLM, les entreprises du secteur de l’IA souhaitent réinventer la recherche sur internet. Pour y arriver, chacun y va de son navigateur : Perplexity a sorti Comet, The Browser Company a lancé Dia, même Google s’y est mis en annonçant le projet Disco. En tant qu’acteur historique du secteur, OpenAI ne pouvait pas laisser passer le coche en dévoilant également ChatGPT Atlas, son navigateur boosté à l’IA.

Pour aller plus loin
Voici comment fonctionne Google Disco : le futur de Chrome est fascinant, mais dangereux pour les éditeurs

Cependant, selon l’entreprise de Sam Altman, ces nouveaux navigateurs pourraient être particulièrement sensibles à un type d’attaques invisibles visant les agents IA de ces navigateurs.

Des instructions dissimulées

« L’injection de prompts, à l’instar des arnaques et de l’ingénierie sociale sur Internet, ne sera probablement jamais totalement éradiquée », indique OpenAI. Ce type d’attaque consiste à dissimuler dans les pages Web des instructions ou du code invisible pour les utilisateurs qui contraignent l’IA à effectuer des actions malveillantes.

Une situation que partagent d’autres entreprises mais également des organismes de sécurité comme le Centre national de cybersécurité du Royaume-Uni, rapporte TechCrunch. Pour l’organisme, ces attaques « ne seront peut-être jamais totalement éradiquées ».

Une défense par renforcement

Pour lutter contre ce genre d’attaque, OpenAI a annoncé mettre en place un bot qui fait office de pirate informatique. Ce dernier, en injectant des instructions malveillantes, permet d’entraîner le LLM.

Une réponse partielle au problème. Selon l’agence gouvernementale britannique, les entreprises devraient plutôt chercher les risques et l’impact de ces attaques que de penser qu’elles peuvent être « stoppées ».

« Pour la plupart des usages courants, les navigateurs interactifs n’offrent pas encore suffisamment de valeur ajoutée pour justifier leur profil de risque actuel », appui Rami McCarthy, chercheur principal en sécurité chez Wiz, une entreprise en cybersécurité, à TechCrunch.

Un risque dont semblent conscients les utilisateurs. Dernièrement, Microsoft a subi de vives critiques de la part de ses utilisateurs quant à la volonté d’inclure des agents IA au sein de leur PC. En réponse, Microsoft a déclaré vouloir renforcer le contrôle des utilisateurs en incluant de nouvelles permissions à donner à ces agents pour qu’ils s’exécutent.