Le contenu pornographique généré par une intelligence artificielle commence a être réglementé dans un État américain. Un premier pas pour endiguer le revenge porn créé de toutes pièces.

Récemment, le programme Deep Nude a défrayé la chronique en permettant à n’importe qui de « déshabiller » n’importe quelle femme sur une photo. Il s’agit là d’un réseau de neurones qui travaille à supprimer toutes les zones de vêtements de l’image pour les remplacer par un corps nu. En plus de son caractère très limite, ce programme a été pointé du doigt pour ses tendances sexistes sachant qu’il ne fonctionne que sur des femmes, et rajoute donc une poitrine et une vulve aux hommes.

Entre ça et les deep fakes que l’on trouve sur la Toile depuis 2018, l’intelligence artificielle tend malheureusement à faciliter le revenge porn, cette pratique qui consiste à publier des images nues, voire pornographiques de quelqu’un sans son consentement. C’est désormais d’autant plus facile puisque les photos sont créées artificiellement et automatiquement (avec l’aide d’une base de données ou d’une simple photo).

Le deep fake interdit

Si le revenge porn est d’ores et déjà condamné, l’État de Virginie, aux États-Unis, va désormais plus loin. Les lois de l’État interdisent depuis le 1er juillet la publication de toute photo ou vidéo d’une personne nue sans son accord, que l’image soit réelle ou non. Cela couvre donc les montages (sur Photoshop par exemple), mais aussi le contenu généré par une intelligence artificielle comme Deep Nude.

Cette loi étend celle déjà existante depuis 2014 dans l’état qui interdit le revenge porn.

Vers une législation du contenu généré par AI

L’idée va encore plus loin puisqu’une loi fédérale a été proposée — mais pas encore votée — afin d’obliger l’ajout d’un watermark et d’une mention textuelle sur tous les contenus générés par une IA publiés en ligne lorsqu’ils imitent une personne. Cela a pour but d’éviter la création de vidéos qui nuiraient à la réputation de quelqu’un.

En France, le revenge porn est puni de 2 ans d’emprisonnement et 60 000 euros d’amende. Rien n’est encore clairement défini concernant le contenu généré par une intelligence artificielle.