Google a mis en ligne sur le site de sa division de recherche un court papier signé par sept de ses chercheurs, intitulé « The Synthetic Gap ». Il décrit SAFE (pour Scaled Abuse Forensics Examiner), un outil interne qui confie à des agents IA l’enquête sur des groupes de chaînes soupçonnées de publier des vidéos générées en masse. Le document est daté de 2026, sans plus de précision. YouTube n’y est que brièvement évoqué, mais le schéma du système puise dans des données de « YT Channel ». La plateforme fait donc partie des premières visées.
On appelle « AI slop » ces vidéos de mauvaise qualité, produites en masse par IA et souvent publiées par des réseaux de chaînes qui travaillent ensemble. Sur YouTube, on en croise beaucoup. En novembre 2025, l’éditeur vidéo en ligne Kapwing a passé en revue les 100 chaînes en tendance de chaque pays, soit 15 000 chaînes. Dans son rapport, il en a trouvé 278 qui ne publient que du slop. Cela fait moins de 2 % de l’échantillon, mais ces chaînes cumulent plus de 63 milliards de vues et environ 117 millions de dollars (environ 100 millions d’euros) de revenus estimés par an.
Kapwing a aussi créé un compte tout neuf. Sur les 500 premiers Shorts que YouTube lui a proposés, 104 étaient du slop, soit environ un sur cinq.
Les chaînes de slop ne sont pourtant pas censées en vivre. Depuis le 15 juillet 2025, YouTube exclut de son programme partenaire, et donc des revenus publicitaires, les contenus qu’il juge « inauthentiques », c’est-à-dire produits en masse ou répétitifs. Le relevé de Kapwing, réalisé à l’automne suivant, montre que ces vidéos restent très présentes malgré cette règle.
YouTube reconnaît le problème. Neal Mohan, CEO de YouTube, en a fait une priorité pour l’année dans sa lettre annuelle publiée le 21 janvier 2026. Il y promettait de s’appuyer sur les systèmes qui luttent déjà contre le spam et les pièges à clics. SAFE donne une idée de ce à quoi pourraient ressembler ces systèmes.
À lire aussi :
YouTube a besoin de vous pour détecter le « slop IA » dans les vidéos
Un chef d’enquête et trois agents spécialisés
Si Google parle d’enquête, c’est que la détection classique ne suffit plus. Les réseaux de slop publient des vidéos qui diffèrent toutes un peu les unes des autres. Les outils qui repèrent les doublons passent donc à côté. Les chercheurs appellent « synthetic gap » le temps qui sépare l’apparition d’une nouvelle technique d’abus par IA et l’arrivée d’une parade. Aujourd’hui, des analystes humains enquêtent à la main, et ils sont trop lents face au volume.
Protégez votre vie numérique avec Bitdefender, la protection européenne de confiance. Bitdefender vous protège contre les arnaques et les fraudes du web. Profitez de vos activités en ligne en toute tranquillité.
SAFE confie donc une partie du travail à des agents IA capables d’enchaîner les tâches complexes tout seuls. Tout en haut, un agent « racine » joue le rôle de chef d’enquête. Il reçoit un groupe de chaînes suspectes et répartit le travail entre trois agents spécialisés. Il vérifie ensuite ce qu’ils lui rapportent avant de rendre son verdict.
Le premier agent analyse les vidéos et leurs métadonnées. Il traque les scripts répétitifs, les incohérences visuelles typiques de la génération automatique et les infractions aux règles, comme l’usurpation d’identité par IA. La seconde tâche de cet agent est assez complexe puisqu’il doit aussi repérer les vidéos qui trahissent l’esprit du règlement sans enfreindre une règle précise.
Le deuxième agent étudie le comportement des comptes. Il compare l’infrastructure réseau, les empreintes d’appareil (la signature technique du smartphone ou de l’ordinateur utilisé pour mettre en ligne les vidéos) et les heures de publication, pour repérer des mises en ligne synchronisées ou en rafales. En cas de patterns suspects, l’agent peut alerter en disant par exemple que « 100 % des chaînes utilisent la même version d’OS et publient dans la même fenêtre de 5 secondes ».
Le troisième agent cartographie les liens entre les comptes. Le but est de démanteler toute l’opération d’un coup au lieu de fermer les chaînes une par une.
Le papier emprunte beaucoup au vocabulaire de la police scientifique, avec son « examinateur », ses preuves et ses verdicts. Précisons toutefois que Google SAFE est pensé pour épauler des analystes humains et leur faire gagner du temps. Le papier ne dit pas, en revanche, qui prend la décision finale de fermer les chaînes suspectes, mais laisse entendre que l’humain garde le contrôle.
Efficace ? Google ne donne aucun chiffre (ou presque)
Le papier de Google ne contient aucun résultat chiffré. Les auteurs affirment que les premiers déploiements accélèrent « significativement » la détection des nouvelles menaces, mais ils ne donnent ni pourcentage ni gain de temps mesuré.
Les auteurs listent seulement les indicateurs qu’ils comptent suivre. D’abord, l’accord entre les verdicts de SAFE et ceux des analystes humains. Ensuite, les abus qui seraient passés sous les radars sans lui. Enfin, la baisse du temps de traitement par dossier.
Un autre papier de Google, également publié en 2026, avance pourtant des chiffres. Dans une première version de leur étude, depuis retirée du site de Google Research, quatre chercheurs décrivent un système déjà déployé sur « une grande plateforme de vidéo en ligne ».
En six mois, il aurait permis de fermer 50 000 groupes de comptes coordonnés, soit 130 000 chaînes. Selon ses auteurs, il a aussi divisé par deux le nombre de vérifications humaines, en économisant environ 83 heures de travail. La version actuelle ne mentionne plus ce déploiement et met en avant des résultats d’évaluation : 74 % des dossiers triés automatiquement et plus de 1 100 heures de vérification économisées par semaine.
SAFE semble viser les cas qui échappent à ce premier filet. Ses auteurs expliquent que les signaux de coordination laissent passer des chaînes quand leurs vidéos ne se ressemblent pas assez, alors que leurs propriétaires se comportent de la même façon.
Pour les spectateurs, ces outils devraient rester invisibles. Les seuls repères visibles sont les étiquettes : YouTube signale les vidéos créées avec ses propres outils d’IA, et les créateurs doivent déclarer leurs contenus réalistes modifiés ou générés.
YouTube pousse pourtant lui-même la création par IA. Dans sa lettre de janvier, Neal Mohan indique que plus d’un million de chaînes ont utilisé chaque jour, en moyenne, les outils de création par IA de la plateforme en décembre. Toute la difficulté consiste à séparer ces vidéos-là de celles des réseaux que SAFE doit débusquer.
Si vous voulez recevoir les meilleures actus Frandroid sur WhatsApp, rejoignez cette discussion.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.