L’Union américaine pour les libertés civiles veut une nouvelle fois mettre en garde contre l’utilisation des logiciels de reconnaissance faciale par les autorités. Pour cela, l’association a fait un petit test édifiant avec les membres du Congrès américain.

Depuis plusieurs mois, un débat important a lieu aux États-Unis concernant l’utilisation des logiciels de reconnaissance faciale par les autorités. Amazon est l’un des partenaires des autorités américaines avec son logiciel Rekognition. Il ne faut en effet pas oublier qu’en plus d’être l’un des plus gros commerçants au monde, Amazon est également l’un des champions du cloud et avance sur l’intelligence artificielle face à Google et Microsoft.

L’ACLU, la plus grande association de défense des droits de l’Homme aux États-Unis pointe aujourd’hui du doigt le logiciel d’Amazon, après avoir effectué une série de tests démontrant un biais de la part du logiciel.

Amazon, les membres du Congrès américain sont-ils des criminels ?

L’association a tout simplement payé 12,33 dollars pour utiliser elle-même le logiciel d’Amazon. Elle a donc configuré une base de données avec 25 000 images issues d’arrestations, puis a demandé à Reckognition si les membres du Congrès américain étaient dans cette base.

Le logiciel a incorrectement identifié 28 membres du Congrès comme étant des criminels présents dans la base de données.

28 membres du Congrès identifié comme des criminels

Le logiciel aurait un biais qui discriminerait des catégories de population

Encore plus problématique, le logiciel serait biaisé envers les populations afro-américaines et latino-américaines. Ainsi, sur les personnes incorrectement identifiées, 39% sont des « people of color », alors qu’ils ne représentent que 20% de la totalité du Congrès américain.Pour l’ACLU, l’utilisation de Amazon Reckognition pourrait aggraver la situation aux États-Unis, où la police est déjà accusée de faire de la répression au faciès. L’association demande au pouvoir législatif de s’emparer du sujet outre-Atlantique, où certaines juridictions ont commencé à utiliser le logiciel, comme les forces de police en Oregon ou en Floride.

En juin dernier, Satya Nadella, le patron de Microsoft, avait publié un mail envoyé à ses employés, alors que la firme s’était retrouvée impliquée dans un débat sur la gestion de l’immigration par l’administration Trump aux États-Unis. La firme a en effet un contrat avec le département de l’immigration américain qui concerne Office et Outlook, mais Satya Nadella n’avait pas expliqué clairement si le logiciel de reconnaissance faciale de Microsoft était utilisé ou non par le département.