Les IA seront toujours biaisées, n’en déplaise au patron de Google

La semaine dernière, Google a rencontré de nombreux problèmes avec son IA générative Gemini. Alors que certains utilisateurs demandaient à Gemini de générer des mages d’un « soldat allemand de 1943 » ou de « sénateurs américain du XIXe siècle », l’IA générative proposait alors systématiquement des images de femmes ou de personnes de couleur, alors même qu’elles sont historiquement inexactes et que ces critères n’apparaissaient pas dans la requête.

Dans la foulée, autant dire que les retours ont été pour le moins critiques. Une partie des utilisateurs s’est alors insurgé contre ce qu’elle a qualifié d’IA « woke », voire de « raciste », notamment du côté d’Elon Musk. Du côté de Google, une fois ces premiers retours découverts, la génération d’image sur Gemini a été suspendue, afin d’améliorer la génération d’images.

« C’est complètement inacceptable »

Après ces nombreux déboirs, le patron de Google, Sundar Pichai, a fini par prendre la parole dans un mail interne envoyé aux équipes de Google et relayé par le site Semafor. Le dirigeant n’y va pas par quatre chemin et ne cache pas sa déception face aux résultats de Gemini :

Je sais que certaines de ses réponses ont offensé nos utilisateurs et montré des biais — pour être clair, c’est complètement inacceptable et on s’est trompé.

Sundar Pichai indique également que les équipes de Google ont travaillé « sans relâche » afin d’apporter des correctifs et que des « améliorations substantielles » ont été faites. Il indique également vouloir lancer de nouvelles actions pour éviter que de telles polémiques ne surgissent à l’avenir : « changements structurels, mises à niveau des guides de conduite de nos produits, amélioration de nos processus de lancement, évaluations robustes et recommandations techniques ». Pour Sundar Pichai, l’objectif de Google, qu’il s’agisse de Gemini ou de n’importe quel autre de ses services, reste la recherche de faits :

Nous avons toujours cherché à proposer à nos utilisateurs des informations utiles, précises et sans biais dans nos produits. C’est la raison pour laquelle ils nous font confiance. Cela doit être notre approche pour tous nos produits, y compris les produits IA.

Pourquoi les biais de l’IA sont nécessaires

Comme nous l’écrivions la semaine dernière, l’IA générative n’est pourtant pas sans poser de nombreux problèmes pour les géants de la tech. Naturellement, toutes les IA sont biaisées, puisqu’elles ne sont que le reflet de ce qui est écrit en ligne. C’est tout le problème rencontré justement par Google il y a près de dix ans avec Google Photos qui avait comparé une personne noire à un singe. Plus récemment, en 2020, c’est l’IA éditoriale utilisée par Microsoft qui avait été accusée de racisme.

C’est justement afin de lutter contre les biais inhérents à l’IA que la plupart des entreprises proposant des IA génératives vont tenter de jouer avec le curseur. Afin d’éviter que toutes les images d’un « patron d’une grande entreprise » générées soient celles d’hommes blancs, Google va ajouter en sous-main des critères pour y intégrer des femmes ou des personnes de couleurs. Cependant, il semble cette fois que le curseur ait été un peu trop poussé, quitte à biaiser les résultats du côté opposé.