Facebook bannit n’importe quoi

Nous recevions depuis quelques jours des témoignages troublants de lecteurs Frandroid : leurs groupes Facebook disparaissaient du jour au lendemain, sans raison apparente. Nous pensions d’abord à des cas isolés, mais la réalité dépasse nos craintes. Meta traverse une crise de modération majeure qui touche des milliers de groupes parfaitement inoffensifs.

Quand l’IA voit du terrorisme partout

La situation frise l’absurde. Des administrateurs de groupes reçoivent des notifications de bannissement pour des raisons complètement déconnectées de la réalité de leur communauté. Un groupe de photos d’oiseaux comptant près d’un million de membres se retrouve suspendu pour nudité. Un groupe familial Pokémon avec 200 000 fans est accusé de faire référence à des « organisations dangereuses ». Un groupe de décoration d’intérieur servant des millions d’utilisateurs tombe sous le coup de la même violation anti-terroriste.

Ces exemples, qui pourraient prêter à sourire, sont en réalité un dysfonctionnement massif des systèmes de modération automatisée de Meta. L’intelligence artificielle censée protéger les utilisateurs se transforme en censeur aveugle, incapable de distinguer Pikachu d’un symbole terroriste ou une photo de rouge-gorge d’un contenu pornographique.

Ce bug affecte des groupes de toutes tailles et nationalités : conseils d’économies, soutien parental, communautés de propriétaires d’animaux, passionnés de claviers mécaniques. Aucune thématique n’échappe à cette purge algorithmique démente.

Meta reconnaît le problème

Confronté aux protestations croissantes, le porte-parole de Meta, Andy Stone, a fini par reconnaître l’existence d’un problème. « Nous sommes conscients d’une erreur technique qui a affecté certains groupes Facebook. Nous corrigeons le problème« , s’est-il contenté de déclarer à TechCrunch. Une communication qui n’explique ni les causes ni l’ampleur réelle de cette « erreur technique ».

Cette reconnaissance tardive intervient après des jours de silence radio, pendant lesquels des milliers d’administrateurs se sont retrouvés sans recours face à la disparition de leurs communautés.

Beaucoup ont tenté de faire appel des décisions, sans succès. Les utilisateurs expérimentés conseillent désormais aux victimes d’attendre quelques jours plutôt que de faire appel, espérant que le bug sera corrigé automatiquement et que les groupes seront restaurés sans intervention manuelle.

Cette crise de modération ne se limite pas à l’écosystème Meta. Instagram a également été touché par des vagues de bannissements massifs ces dernières semaines. Pinterest également, qui a reconnu le problème dans la foulée.