L’IA de Snapchat s’est mise à poster une story sans qu’on le lui demande

 

Le chatbot de Snapchat, My AI, a publié de lui-même une story assez inquiétante, tout en cessant de répondre aux utilisateurs. Plus de peur que de mal puisque Snapchat a confirmé qu'il s'agissait d'un bug. Cela augure des nouveautés pour le chatbot, mais montre aussi des failles qu'il faut absolument corriger.

Unsplash
Source : Unsplash Alexander Shatov

Depuis avril dernier, tous les utilisateurs de Snapchat peuvent utiliser My AI, un chatbot basé sur l’intelligence artificielle avec qui l’on peut discuter directement dans l’application. Dès son lancement, les polémiques s’étaient multipliées : cette fois-ci, My AI a publié une story de lui-même, ce qui n’était pas prévu, tout en cessant de répondre aux utilisateurs.

Une story publiée par My AI qui a inquiété tout le monde

Tout part d’une story publiée par My AI : on y voit simplement deux tons, l’un gris, l’autre plutôt beige, bougeant légèrement. De quoi faire penser à un mur et à un plafond. C’est là que l’inquiétude a grandi : plusieurs utilisateurs ont rapporté sur X (nouveau nom de Twitter) avoir pensé qu’il s’agissait de leur propre mur. Comme si My AI avait filmé chez eux, à leur insu.

Une capture d’écran de la story publiée par My AI // Source : Matt Esparza via X

L’anxiété s’est d’autant plus renforcée lorsque certains utilisateurs ont tenté de discuter avec le chatbot, ce dernier répondant parfois simplement : « Désolé, j’ai rencontré un problème technique. » Depuis, l’IA a repris son fonctionnement normal.

Ce qui pourrait expliquer ce bug de l’IA de Snapchat

Contrairement à ce que les fantasmes laissent penser, My AI n’a pas développé de conscience et n’est toujours pas autonome. Un porte-parole de Snapchat a indiqué à TechCrunch que « My AI a connu une panne temporaire qui est maintenant résolue. »

L’assistant virtuel de Snapchat My AI // Source : The Verge

Pourtant, il n’a jamais été prévu dans les usages de ce dernier qu’il puisse publier des stories sur le réseau social. À partir de là, il est possible que Snapchat teste une nouvelle fonctionnalité, permettant de le faire.

D’ailleurs, ce porte-parole a précisé que « pour l’instant, My AI n’a pas de fonction Stories ». On peut même penser qu’un jour, le chatbot puisse créer lui-même des stories personnalisées pour chaque utilisateur.


Le saviez-vous ? Google News vous permet de choisir vos médias. Ne passez pas à côté de Frandroid et Numerama.