L’IA ne donne pas tous les droits. C’est la leçon qu’a apprise Meta après le lancement de son modèle de génération d’image Muse, la semaine dernière. Alors que la firme de Mark Zuckerberg expliquait fièrement que son nouvel outil allait permettre à n’importe qui de créer du contenu par IA « inspiré » par vos photos Instagram, l’entreprise a très rapidement fait marche arrière, note The Verge.
Expliquant avoir « entendu les retours » et compris que « cette fonctionnalité n’a pas fait l’unanimité », Meta a donc désactivé l’outil, pour le plus grand bonheur de celles et ceux qui tenaient un tant soit peu à leur vie privée et à leur image publique.
Une IA qui « facilite le chantage sexuel »
Rappelons que l’idée derrière cette fonctionnalité était de permettre à tout un chacun d’aspirer le contenu de vos photos publiques et de permettre à l’IA de le remixer à loisir. Dans les exemples originellement mis en avant par Meta, on retrouvait notamment un prompt permettant de copier-coller l’apparence de quelqu’un pour l’insérer dans des situations complètement factices. Une sorte d’usine à deepfake quasiment assumée en tant que telle.
Si la firme se félicitait alors de ce « progrès » technologique, la réponse du public et de la société civile fut, elle, largement moins enthousiaste. Le puissant syndicat des professionnels du cinéma SAG-AFTRA a tout de suite recommandé à tous ses membres de désactiver la réutilisation de leurs contenus afin de « protéger [leur] image ». Une puissante organisation de protection contre les violences sexuelles a également critiqué un outil qui « facilite le chantage à caractère sexuel et les autres arnaques » tout en « faisant porter la responsabilité de la protection sur les individus ».
« Notre objectif était de proposer un outil créatif et utile permettant aux utilisateurs et utilisatrices de décider si leur contenu pouvait être réutilisé », s’est tout de même justifié Meta avant d’annoncer la mise au placard de son outil.
Le consentement oublié
Car si Meta permettait effectivement de désactiver la réutilisation du contenu dans les paramètres d’Instagram, cette dernière était tout de même activée par défaut (au moins pour les comptes étasuniens) et exigeait d’aller farfouiller dans les entrailles des paramètres de l’app pour se protéger. Une action que la vaste majorité des gens ne penserait sans doute pas à faire et qui ne vaut pas pour consentement pour autant.
Pour aller plus loin
Facebook veut concurrencer Google grâce aux messages de votre tante conspi
Si rien n’empêche malheureusement d’autres IA de générer de fausses images à partir de photos publiques, au moins la possibilité n’est pas au cœur de l’application Instagram et de ses quelques milliards d’utilisateurs et d’utilisatrices.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.