Meta va bientôt permettre aux utilisateurs de générer leurs propres stickers grâce à l'IA sur WhatsApp, Instagram et Messenger. Mais il n'a pas fallu longtemps pour qu'ils soient déjà détournés par les utilisateurs.
La conférence Meta Connect 2023 qui a eu lieu le 27 septembre dernier a été l’occasion pour Meta de dévoiler sa propre IA générative, Emu (Expressive Media Universe), qui permet de générer des images à l’aide de prompts textuels. Le modèle également être utilisé pour créer des stickers complètement personnalisés à intégrer dans vos conversations WhatsApp, Instagram et Messenger. Et il n’a pas fallu longtemps pour que leur usage en soit détourné.
Quand Waluigi et Winnie l’Ourson portent à fusil
Certains utilisateurs ont déjà pu expérimenter le moteur d’Emu pour la génération de stickers dans les applications Meta. Et au vu des nombreuses créations pour le moins discutables qu’on peut déjà voir florir sur X (Twitter), il semblerait que les outils de modération et de filtrage ne soient pas des plus efficaces.
Sachant que vous pourrez générer des stickers depuis n’importe quel assemblage de mots, certains utilisateurs sont arrivés à des résultats pour le moins discutables. Relayé par l’utilisateur Pioldes sur X (Twitter), certains de ces stickers représentent des personnages bien connus de manière détournée : Waluigi portant un fusil, Mickey Mouse fumant un joint et même Alex Jones embrassant un chien.
Interrogé par le site VentureBeat sur ces premières créations douteuses, Andy Stone, directeur de la communication chez Meta, a assuré qu’un tel travail de modération était évidemment partie intégrante de ce type d’outil : « Comme pour tous les systèmes d’IA générative, les modèles peuvent rendre des résultats imprécis ou inappropriés. Nous allons continuer à améliorer ces fonctionnalités au fur et à mesure qu’elles évoluent et que les utilisateurs partagent leurs retours ».
D’une part, ces stickers utilisent des personnages protégés par le droit d’auteur comme Mickey, Shrek ou même Winnie l’Ourson. D’autre part, ces personnages sont détournés d’une manière qui ne serait absolument pas du goût des ayant-droit.
Et si on en croit l’annonce officielle de Meta le 27 septembre, la firme veut s’assurer que ses « modèles sont plus sûrs et plus inclusifs, d’anticiper des garde-fous pour les conversations inappropriées et de partager les modèles publiquement afin que les gens comprennent mieux leur fonctionnement ». Nous sommes pour le moment loin du compte.
Le saviez-vous ? Google News vous permet de choisir vos médias. Ne passez pas à côté de Frandroid et Numerama.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
Gérer mes choix