Facebook veut accentuer la lutte contre le revenge porn et a mis une IA sur le coup
Facebook a annoncé déployer un nouveau système de lutte contre le revenge porn utilisant l'intelligence artificielle pour supprimer les contenus incriminés, avant même qu'ils ne soient publiés.
Le revenge porn a beau avoir été pénalisé dans plusieurs États, notamment en Californie ou, depuis 2016, en France, cette pratique reste d'actualité. Pour rappel, il s'agit de la publication de photos et de vidéos intimes, sans le consentement de la personne filmée ou photographiée, à des fins de vengeance, souvent par un ex-petit ami.
Régulièrement critiqué pour ses manquements au respect de la vie privée, Facebook a cependant tenu à prendre les devants sur le sujet de revenge porn. Un sujet d'autant plus grave qu'il est possible sur le réseau social d'identifier les personnes présentes dans les photos ou les vidéos mises en ligne. Une publication de l'agence Associated Press (AP) nous apprend ainsi que Facebook a mis en place un système d'apprentissage profond pour repérer ce type de contenu sur sa plateforme, mais aussi d'Instagram. Une fois les contenus repérés, ils seront examinés par les équipes de modération de Facebook.
Un algorithme formé à repérer le revenge porn
« La technologie, qui sera utilisée à travers Facebook et Instagram, a été entraînée en utilisant des images que Facebook a déjà identifiées comme étant du revenge porn. Elle s'est entraînée en reconnaissant des photographies de "quasi-nudité" -- en sous-vêtement par exemple -- couplées à du texte diffamant ou insultant qui suggérerait que la personne ayant mis en ligne la photo cherche à embarrasser ou à se venger de quelqu'un », indique la dépêche d'AP.
L'intérêt de cette nouvelle technologie est ainsi d'automatiser la suppression de contenus, sans avoir à attendre que les victimes de revenge porn ne signalent elles-mêmes les photos. En effet, comme l'indique Associated Press, le signalement par les victimes arrive souvent trop tardivement, quand il arrive tout court. Certaines ont en effet peur de signaler ces contenus, par crainte d'éventuelles représailles supplémentaires. Le nouveau système mis en place a ainsi été développé à l'aide des contenus signalés depuis novembre 2017 auprès du réseau social et transmis par les victimes elles-mêmes.
Facebook a annoncé que le déploiement de ce nouvel outil de modération avait déjà commencé.