Quand Amazon commercialise des arnaques générées par ChatGPT

Amazon a laissé être mis en ligne des articles générés par ChatGPT. Le plus ridicule : le nom des produits porte un message d'erreur de la part d'OpenAI.

Une magnifique commode « je suis désolé, mais je ne peux pas répondre à cette requête, car elle contrevient aux conditions d’utilisations d’OpenAI », qui n’en a pas rêvé ? Grâce à Amazon, il était possible de se commander tout l’ensemble : des chaises, des canapés, des commodes, des vêtements. Tous avec le même nom, en réalité le même message d’erreur.

On doit cette découverte aux journalistes de The Verge qui ont pu prendre des captures d’écrans des différents produits en vente sur Amazon. Le géant américain n’est pas le seul concerné. Depuis plusieurs mois, on assiste à une prolifération de bots ou de textes et images générées par des IA comme proposés par OpenAI.

Ce dernier tente de contrôler l’usage qui est fait de ses outils, mais les messages d’erreurs renvoyés n’empêchent pas les bots de publier quand même leurs faux articles, produits ou tweets sur les réseaux sociaux. On se retrouve donc avec des pages web portant en titre un message d’erreur. Si Amazon.com a depuis fait le ménage, on en retrouve encore la trace sur Google.

Tout type d’objets peut être concerné, avec des prix partant dans tous les sens. Difficile d’imaginer qu’une fois commandé, on puisse recevoir quoi que ce soit un jour. On retrouve aussi des messages du même genre sur Twitter (X).

Évidemment, cela amuse ici parce que l’on voit bien toute l’absurdité de la situation quand un message d’erreur peut se retrouver publié sans vérification. Le problème, c’est surtout tous les autres cas où la requête des personnes malveillantes a fonctionné correctement et où le message ou le produit ont été publiés avec un nom plausible.

Sur les réseaux sociaux, les influenceurs ont pu découvrir ces dernières semaines des vagues de messages qui, individuellement, auraient pu paraître crédibles. Le problème venant du fait que plusieurs comptes publiaient le même message à la lettre près.

Comme résoudre cette situation ?

Dans le cas d’Amazon, la boutique peut sembler de plus en plus noyée sous ce genre de produits. Alors, comment résoudre la situation ? Il faudrait imaginer un nouveau genre de boutique qui ne rentrerait en inventaire que des produits qu’elle a elle-même choisis dans des catalogues, puis qui s’occuperait de la mise en ligne et de l’expédition des produits. En fait, comme n’importe quelle boutique qui ne propose pas une marketplace.