Google a particulièrement travaillé sur le côté inclusif de sa nouvelle reconnaissance faciale embarquée sur les Google Pixel 4 et Pixel 4 XL. Mais pour y arriver, le géant de la recherche aurait utilisé des pratiques parfois douteuses, ou tout du moins trompeuses.

Grâce à son capteur Soli et des algorithmes plus sophistiqués qu’à l’accoutumée, le Google Pixel 4 devrait proposer la reconnaissance faciale pour poussée du marché. La firme de Moutain View a déjà promis une sécurité accrue, une simplicité d’usage dans toutes les situations, mais aussi une diminution des faux positifs et une meilleure inclusivité pour les personnes racisées, notamment celles possédant une peau sombre. « Nous souhaitons intégrer l’équité dans la fonction de reconnaissance faciale du Pixel 4 », a confirmé le constructeur.

La volonté est louable et lutter contre l’exclusion par omission des personnes de couleur dans la Tech est une bonne chose. Néanmoins, certaines révélations laissent entendre que pour y arriver, Google aurait mis en action des leviers manquant d’honnêteté.

Mensonges et omission

Pour entraîner de tels algorithmes d’apprentissage profond, il est nécessaire de posséder une grande quantité de données. Selon une enquête du Daily News, les sous-traitants chargés de récolter ces données auraient pour cela ciblé les personnes les plus fragiles, comme des sans-abris ou des étudiants, utilisant des méthodes toutes plus douteuses les unes que les autres.

Lien YouTube S’abonner à FrAndroid

« Jouez juste avec ce téléphone quelques minutes pour recevoir une carte cadeau », auraient eu comme seule instruction les cobayes de cette expérience, ayant pour réponse « pas vraiment » lorsqu’ils demandaient s’il y avait un enregistrement vidéo. Certaines personnes auraient même eu pour mission de « distraire les volontaires » afin d’éviter qu’ils ne posent trop de questions pendant la session, ou de presser la machination afin de leur faire lire bien plus rapide — trop rapidement — le formulaire de consentement lié à l’expérience.

On savait déjà que Google avait payé des personnes pour « scanner leur visage », mais le faible montant de la récompense (5 dollars) aurait poussé les sous-traitants à cibler essentiellement les personnes dans le besoin pour cela, visant essentiellement les sans-abris noirs, évoquant un simple « mini-jeu », sans leur préciser que leurs données biométriques seraient enregistrées.

Ces données personnelles pourraient par ailleurs être conservées contractuellement jusqu’à 5 ans par Google, et non 18 mois comme annoncé précédemment lors d’un échange avec TheVerge.

La fin ne justifie pas les moyens

Chercher à rendre l’identification faciale plus inclusive est tout à l’honneur de Google, mais tromper volontairement des personnes faibles n’entre pas vraiment dans le dicton « do the right thing » (« fais ce qui est bien ») qui caractérise aujourd’hui Alphabet (la maison-mère de Google).

Joint par Gizmodo, Google a indiqué prendre ces allégations au sérieux et mener son enquête en interne afin de savoir réellement ce qu’il s’est passé. « Cela contrevient à nos obligations en matière de recherche volontaire et à la formation que nous avons fournie », précise un porte-parole.

Le Google Pixel 4 sera présenté le 15 octobre.

Google Pixel 4 et Pixel 4 XL : design, caractéristiques, sortie, prix… tout ce que l’on sait sur les futurs flagships