Depuis le début de l’année, l’IA Grok est détournée sur le réseau social X pour déshabiller des mineures et des femmes, évidemment sans leur consentement.
Un usage interdit dans de nombreux pays qui, devant l’absence de réaction ou de modération de la part de X, ont commencé à menacer un blocage pur et simple de la plateforme.
La plateforme d’Elon Musk n’était pas la seule à recevoir une pression des internautes sur ces sujets. De nombreux observateurs s’interrogent sur le manque de réaction d’Apple et de Google, qui auraient pu bloquer X ou Grok des App Store, comme ils l’ont encore fait récemment pour d’autres applications jugées problématiques.
Dans la nuit du 14 au 15 janvier 2026, le compte officiel @Safety, qui couvre les outils de modération de X, a publié un communiqué concernant Grok et sa capacité de génération d’images.
Les restrictions mises en place
X a pour le moment surtout mis en place des garde-fous autour de la possibilité de dénuder des personnes contre leur consentement.
Par exemple, l’édition d’image par Grok n’est plus accessible gratuitement.
La création d’images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais accessibles qu’aux abonnés payants. Cela ajoute une couche de protection supplémentaire en contribuant à garantir que les personnes qui tentent d’abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenues responsables.
Autrement dit, il faut payer un abonnement (et participer au chiffre d’affaires du réseau social) si l’on souhaite continuer d’utiliser Grok de cette manière.
De plus, la plateforme met en place un système de « géoblocage », pour empêcher cet usage dans les pays où c’est jugé illégal.
Nous bloquons désormais géographiquement la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok in X dans les juridictions où cela est illégal.
En creux, cela signifie que X laisse son système perméable dans les pays où la législation n’est pas aussi ferme concernant le droit des enfants ou des femmes.
Pour autant, la communication officielle du réseau social insiste : « nous prenons des mesures pour supprimer les contenus violents hautement prioritaires, notamment les contenus pédopornographiques (CSAM) et la nudité non consentie, et prenons les mesures appropriées à l’encontre des comptes qui enfreignent nos règles. »
Le problème n’est pas résolu
Le média The Verge indique avoir pu très facilement contourner le paywall mis en place par X pour accéder gratuitement aux outils d’édition d’image de Grok, sans abonnement.
De plus, il serait toujours extrêmement simple de générer des images contraires aux règles du réseau social et de la législation.
Grâce à un compte gratuit, l’application Grok a immédiatement répondu à ma demande de transformer un selfie en une photo de moi à genoux, vêtu d’un jockstrap, entouré d’autres hommes légèrement vêtus.
Le site a pu répéter l’expérience avec d’autres journalistes et notamment des femmes.
Il est toujours extrêmement facile de déshabiller des femmes et de les modifier pour leur donner des poses sexualisées à l’aide des applications mobiles ou des sites web X et Grok, même sans souscrire à un abonnement qui relierait votre compte à une source facilement identifiable. Lors de ses tests, ma collègue britannique Jess Weatherbed a constaté qu’elle n’avait pas été empêchée d’utiliser la fonction d’édition d’images de Grok pour créer des deepfakes sexualisés d’elle-même.
Les publications du compte Safety et les changements apportés à Grok semblent donc encore loin d’être suffisants.
Le Royaume-Uni avance vers une loi criminalisant les deepfakes de nus suite aux problèmes mis en lumière avec Grok.
Depuis plusieurs jours, Elon Musk multiplie les attaques contre le Royaume-Uni et le premier ministre Keir Starmer, jugeant que « l’histoire ne sera pas tendre avec Starmer » et se demandant « Pourquoi le gouvernement britannique est-il si fasciste ? ».
Utilisez-vous Google News (Actualités en France) ? Vous pouvez suivre vos médias favoris. Suivez Frandroid sur Google News (et Numerama).
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.