Quand Copilot invente le passé : l’énorme boulette de l’IA de Microsoft dans un rapport de police officiel

 
Se servir d’une intelligence artificielle capable d’halluciner pour rédiger un rapport de renseignement n’est pas une très bonne idée.
Le logo de Copilot // Source : Microsoft

La Ligue Europa, vous connaissez ? C’est un championnat de football faisant s’affronter les clubs de différents pays. Son vainqueur est automatiquement qualifié pour la Ligue des Champions, où les meilleurs clubs du monde se rencontrent.

Comme dans d’autres compétitions sportives malheureusement, il arrive que certains matchs fassent craindre des débordements de la part de supporters trop enthousiastes. Dans ce cas, les forces de police peuvent enquêter en amont pour établir les risques encourus à les accueillir.

Exemple concret : suite à un tel rapport, les supporters du club israélien Maccabi Tel-Aviv sont interdits de stade lors du match de Ligue Europa contre Aston Villa en novembre 2025. Le problème est que le document en question a été écrit à l’aide de Copilot et que l’IA a halluciné sur un point.

La police britannique rédige un rapport en incluant une information inventée par Copilot

Craig Guildford, chef de la police des Midlands de l’Ouest en Angleterre, l’explique dans une lettre adressée au Home Affairs Committee : « J’ai constaté que le résultat erroné concernant le match West Ham contre Maccabi Tel Aviv était dû à l’utilisation de Microsoft Co Pilot [sic] ». Et pour cause, le match en question n’a jamais eu lieu.

Le document ne détaille pas dans quelle mesure l’information inventée a joué un rôle dans la décision finale. Cela n’en reste pas moins une erreur grave puisqu’une simple recherche aurait permis de s’en rendre compte. Surtout quand on sait que les derniers modèles d’IA ont tendance à halluciner plus que les précédents.


Rejoignez-nous de 17 à 19h, un mercredi sur deux, pour l’émission UNLOCK produite par Frandroid et Numerama ! Actus tech, interviews, astuces et analyses… On se retrouve en direct sur Twitch ou en rediffusion sur YouTube !

Recherche IA boostée par
Perplexity