Le Pape avec un fusil : les stickers générés par IA dans WhatsApp sont déjà hors de contrôle
La conférence Meta Connect 2023 qui a eu lieu le 27 septembre dernier a été l'occasion pour Meta de dévoiler sa propre IA générative, Emu (Expressive Media Universe), qui permet de générer des images à l'aide de prompts textuels. Le modèle également être utilisé pour créer des stickers complètement personnalisés à intégrer dans vos conversations WhatsApp, Instagram et Messenger. Et il n'a pas fallu longtemps pour que leur usage en soit détourné.
Quand Waluigi et Winnie l'Ourson portent à fusil
Certains utilisateurs ont déjà pu expérimenter le moteur d'Emu pour la génération de stickers dans les applications Meta. Et au vu des nombreuses créations pour le moins discutables qu'on peut déjà voir florir sur X (Twitter), il semblerait que les outils de modération et de filtrage ne soient pas des plus efficaces.
Sachant que vous pourrez générer des stickers depuis n'importe quel assemblage de mots, certains utilisateurs sont arrivés à des résultats pour le moins discutables. Relayé par l'utilisateur Pioldes sur X (Twitter), certains de ces stickers représentent des personnages bien connus de manière détournée : Waluigi portant un fusil, Mickey Mouse fumant un joint et même Alex Jones embrassant un chien.
Interrogé par le site VentureBeat sur ces premières créations douteuses, Andy Stone, directeur de la communication chez Meta, a assuré qu'un tel travail de modération était évidemment partie intégrante de ce type d'outil : « Comme pour tous les systèmes d'IA générative, les modèles peuvent rendre des résultats imprécis ou inappropriés. Nous allons continuer à améliorer ces fonctionnalités au fur et à mesure qu'elles évoluent et que les utilisateurs partagent leurs retours ».
D'une part, ces stickers utilisent des personnages protégés par le droit d'auteur comme Mickey, Shrek ou même Winnie l'Ourson. D'autre part, ces personnages sont détournés d'une manière qui ne serait absolument pas du goût des ayant-droit.
Et si on en croit l'annonce officielle de Meta le 27 septembre, la firme veut s'assurer que ses « modèles sont plus sûrs et plus inclusifs, d’anticiper des garde-fous pour les conversations inappropriées et de partager les modèles publiquement afin que les gens comprennent mieux leur fonctionnement ». Nous sommes pour le moment loin du compte.