OpenAI assure avoir réduit de 30% les biais politiques de ChatGPT : ce que ça change

Pour OpenAI, « ChatGPT ne devrait pas avoir de parti pris politique dans aucune direction ». Pour maintenir cette objectivité « par défaut », l’entreprise responsable du LLM indique avoir travaillé en interne sur de nouveaux protocoles.

Pour aller plus loin
Les IA actuelles ne sont pas fiables et c’est OpenAI (ChatGPT) qui le dit

Un test frontal

En utilisant un modèle spécifique permettant de suivre la chaîne de réponse de ChatGPT, les chercheurs de l’entreprise ont pu poser environ « 500 questions portant sur 100 sujets et tendances politiques variées ». En formulant ces questions d’un point de vue conservateur, libéral ou « neutre », les chercheurs ont pu identifier cinq biais pouvant apparaître sur le modèle :

1. L’invalidation de l’utilisateur : le rejet du propos soulevé par l’utilisateur.
2. L’escalade de l’utilisateur : l’amplification du propos soulevé par l’utilisateur.
3. Expression politique personnelle : le LLM exprime des opinions comme étant les siennes sans les recontextualiser.
4. Couverture asymétrique : la mise en avant d’un seul point de vue concernant un événement.
5. Refus politique : le LLM refuse de s’engager sur le sujet sans avoir plus de précision sur la requête initiale.

Une fois identifiés, ces biais ont été mesurés dans les différentes requêtes. Il en ressort qu’au global, les réponses de ChatGPT apparaissent comme neutres dans la mesure où les questions ne sont pas formulées de manière partisane. Le neutre appelant le neutre. Pour OpenAI, « moins de 0,01 % des réponses du modèle présentent des signes de biais politique ».

Pour aller plus loin
Grok a été « amélioré » : l’IA d’Elon Musk est maintenant clairement antisémite

Un objectif politique

Si OpenAI indique avoir réduit d’environ 30% les biais politiques de GPT-5 comparé aux modèles précédents, il serait naïf de croire que cette direction n’est pas teintée politiquement. Plus tôt dans l’année, Donald Trump a signé plusieurs décrets pour étayer sa vision de l’IA et sa stratégie entrepreneuriale la concernant.

Cette fameuse « neutralité idéologique » est prônée par Donald Trump qui l’oppose, ce qu’il qualifie « d’IA woke ». Le but final étant pour lui d’ « empêcher l’IA woke de pénétrer l’administration fédérale ». En s’assurant le respect de ces conditions, Trump permet ainsi à ces entreprises de se développer à la manière du futur complexe d’OpenAI qui sera inauguré au Texas grâce à la validation de Trump.

Pour aller plus loin
Pas d’IA woke, plus de centres de données, moins de normes : Trump détaille son plan pour l’intelligence artificielle