L’IA éditoriale de Microsoft confond une chanteuse métisse… avec une autre

Des responsables éditoriaux à peine remplacés, déjà regrettés ?

 

La semaine dernière, Microsoft annonçait le licenciement de plusieurs dizaines de responsables éditoriaux au profit d'une simple IA chargée, à leur place, de trier, sélectionner et relayer de l'info sur Microsoft News et le portail MSN... Quelques jours plus tard seulement, la firme pourrait s'en mordre les doigts.

L’IA de Microsoft a confondu deux des chanteuses du groupe britannique Little Mix

L’IA de Microsoft a confondu deux des chanteuses du groupe britannique Little Mix // Source : marcen27 – Wikimedia Commons

Difficile de faire pire timing pour l’IA de Microsoft. Alors que les manifestations antiracisme battent leur plein aux États-Unis et en Europe dans le cadre du mouvement « Black Lives Matter », l’outil déployé par Microsoft pour remplacer plusieurs dizaines de responsables éditoriaux humains au sein de ses services Microsoft News et MSN, s’illustre en confondant une chanteuse métisse… avec une autre.

Une erreur qui s’est affichée dans le cadre de la photo de couverture d’un article et qui est assez révélatrice des limites technologiques de l’IA, notamment en termes d’identification faciale. Microsoft, de son côté, aurait déjà donné des consignes en interne pour éviter de relayer sur ses portails l’information publiée aujourd’hui par The Guardian.

Une illustration jugée raciste… pour un article traitant du racisme

Dans les faits, l’IA éditoriale de Microsoft a confondu deux des chanteuses métisses du groupe britannique Little Mix. C’est ainsi qu’une photo de Leigh-Anne Pinnock (complètement à droite sur la photo ci-dessus) a été publiée en illustration d’un article traitant — ironie du sort — du racisme dont sa partenaire Jade Thirlwall (complètement à gauche) a été victime durant sa scolarité.

« @MSN Si vous voulez copier et coller des articles provenant d’autres médias, vous devez vous assurer que vous utilisez une image de la bonne personne métisse du groupe », a rétorqué l’intéressée sur son compte Instagram, ulcérée par les médias comme MSN qu’elle juge « ignorants » :

Cette merde arrive à Leigh-Anne Pinnock et moi TOUT LE TEMPS, à tel point que c’est devenu une ‘running joke’. Cela m’offense que vous ne puissiez pas différencier les deux femmes de couleur sur les quatre membres d’un groupe … FAITES MIEUX !

Une IA capricieuse, et difficile à arrêter

Au-delà de la faute commise par l’IA de Microsoft, la réaction de l’éditeur en interne semble pour le moins cavalière. Contacté par The Guardian, Microsoft a bien présenté des excuses, ajoutant que l’image d’illustration de l’article avait été rapidement modifiée. Pourtant la firme chercherait maintenant à dissimuler cette erreur en forçant ses responsables éditoriaux à supprimer, notamment du portail MSN, l’article gênant du média anglais… que l’IA pourrait fort relayer.

« Comme ils ne peuvent pas empêcher le nouveau robot rédacteur en chef de sélectionner des articles sur des sites d’information externes tels que The Guardian, les autres membres du personnel, humains, ont été invités à rester vigilants et à supprimer cet article si le robot décide qu’il est intéressant et le publie automatiquement sur MSN.com », explique The Guardian, tout en ajoutant que les responsables éditoriaux ayant échappé aux licenciements ont « également été avertis que même s’ils le suppriment, l’IA peut passer outre et tenter de le publier à nouveau ». 

En un mot, Microsoft semble donc désormais placer ses employés humains en censeurs, les enjoignant à dépublier manuellement les articles embarrassants que son IA pourrait juger bon de partager sur une affaire qui tombe au plus mal. « Avec toutes les protestations antiracistes actuelles, ce n’est pas le moment de faire des erreurs », a pour sa part indiqué un membre des équipes éditoriales de Microsoft contacté par The Guardian, estimant que le groupe serait inquiet des dégâts que cette erreur pourrait causer à la réputation de son IA éditoriale.

Les derniers articles