Revenge porn : comment Meta veut l'éviter avant même l'upload d'images
C'est une véritable « pandémie cachée », selon un vice-président du Centre national pour les enfants disparus et exploités (NCMEC). En partenariat avec cette organisation publique américaine, le géant du web Meta a annoncé lundi 27 février le financement d'un outil dédié à combattre le partage en ligne non-consenti de photos et vidéos intimes de mineurs.
Une pratique illégale plus communément appelée revenge porn, ou sextorsion lorsque la victime doit payer pour retirer ces contenus du web. Selon CNN, le NCMEC compte plus de 250 000 cas aux États-Unis depuis 2016.
Un traçage volontaire de ses contenus intimes
Baptisée « Take It Down », cette plateforme à 100 % financée par Meta (maison-mère de Facebook et Instagram) doit permettre aux jeunes Américains de rendre leur contenu intime automatiquement identifiable par les plateformes sur lesquelles elles seraient publiées.
Concrètement, un utilisateur ou une utilisatrice mineur(e) comme majeur(e) peut se rendre sur la page dédiée à cet outil sur le site du NCMEC, puis décider de lier une photo ou une vidéo intime à la plateforme. Il ou elle obtiendra alors un identifiant hashé unique et anonyme, seul élément qui sera envoyé sur la base de données de l'organisation américaine.
Le NCMEC partagera ensuite cette empreinte numérique (et uniquement celle-ci) aux partenaires du programme : Facebook et Instagram, bien sûr mais également à Facebook Messenger et au service de messages directs d'Instagram. Les plateformes pornographiques OnlyFans et Pornhub sont également concernées, selon la chaîne de télévision américaine CNN.
De ce fait, si ce même contenu est mis en ligne à travers ces services, il sera automatiquement analysé puis supprimé si nécessaire.
Un pansement sur une plaie béante
Si cet outil a le mérite de proposer pour la première fois aux utilisateurs une traçabilité automatique de leurs contenus sur de grosses plateformes en ligne, même la responsable de la sécurité chez Meta, Antigone Davies, reconnait que cet outil n'est pas une panacée auprès de CNN.
Take It Down permet bien d'identifier une photo précise même si elle est copiée au si on lui applique un filtre de couleurs, mais la plateforme échoue si l'image est altérée autrement. Il suffit même de recadrer le contenu intime, assure le média américain. Mais la dirigeante de Meta estime que c'est un outil qui s'inscrit dans une démarche plus large de lutte contre le détournement d'images intimes des jeunes.
La multinationale n'agit pas pour autant par bonté de cœur : Facebook et Instagram sont dans le collimateur du gouvernement américain depuis la fuite d'un rapport interne en 2021, reconnaissant l'effet « toxique » d'Instagram auprès des jeunes adolescentes. Depuis, Meta s'est engagé dans plusieurs initiatives pour protéger ses utilisateurs, comme le rappel son communiqué. Pour autant, comme le note CNN, plusieurs experts affirment que ce n'est pas assez pour rattraper le retard accumulé.