Google a particulièrement travaillé sur le côté inclusif de sa nouvelle reconnaissance faciale embarquée sur les Google Pixel 4 et Pixel 4 XL. Mais pour y arriver, le géant de la recherche aurait utilisé des pratiques parfois douteuses, ou tout du moins trompeuses.
Grâce à son capteur Soli et des algorithmes plus sophistiqués qu’à l’accoutumée, le Google Pixel 4 devrait proposer la reconnaissance faciale pour poussée du marché. La firme de Moutain View a déjà promis une sécurité accrue, une simplicité d’usage dans toutes les situations, mais aussi une diminution des faux positifs et une meilleure inclusivité pour les personnes racisées, notamment celles possédant une peau sombre. « Nous souhaitons intégrer l’équité dans la fonction de reconnaissance faciale du Pixel 4 », a confirmé le constructeur.
La volonté est louable et lutter contre l’exclusion par omission des personnes de couleur dans la Tech est une bonne chose. Néanmoins, certaines révélations laissent entendre que pour y arriver, Google aurait mis en action des leviers manquant d’honnêteté.
Mensonges et omission
Pour entraîner de tels algorithmes d’apprentissage profond, il est nécessaire de posséder une grande quantité de données. Selon une enquête du Daily News, les sous-traitants chargés de récolter ces données auraient pour cela ciblé les personnes les plus fragiles, comme des sans-abris ou des étudiants, utilisant des méthodes toutes plus douteuses les unes que les autres.
« Jouez juste avec ce téléphone quelques minutes pour recevoir une carte cadeau », auraient eu comme seule instruction les cobayes de cette expérience, ayant pour réponse « pas vraiment » lorsqu’ils demandaient s’il y avait un enregistrement vidéo. Certaines personnes auraient même eu pour mission de « distraire les volontaires » afin d’éviter qu’ils ne posent trop de questions pendant la session, ou de presser la machination afin de leur faire lire bien plus rapide — trop rapidement — le formulaire de consentement lié à l’expérience.
On savait déjà que Google avait payé des personnes pour « scanner leur visage », mais le faible montant de la récompense (5 dollars) aurait poussé les sous-traitants à cibler essentiellement les personnes dans le besoin pour cela, visant essentiellement les sans-abris noirs, évoquant un simple « mini-jeu », sans leur préciser que leurs données biométriques seraient enregistrées.
Ces données personnelles pourraient par ailleurs être conservées contractuellement jusqu’à 5 ans par Google, et non 18 mois comme annoncé précédemment lors d’un échange avec TheVerge.
La fin ne justifie pas les moyens
Chercher à rendre l’identification faciale plus inclusive est tout à l’honneur de Google, mais tromper volontairement des personnes faibles n’entre pas vraiment dans le dicton « do the right thing » (« fais ce qui est bien ») qui caractérise aujourd’hui Alphabet (la maison-mère de Google).
Joint par Gizmodo, Google a indiqué prendre ces allégations au sérieux et mener son enquête en interne afin de savoir réellement ce qu’il s’est passé. « Cela contrevient à nos obligations en matière de recherche volontaire et à la formation que nous avons fournie », précise un porte-parole.
Le Google Pixel 4 sera présenté le 15 octobre.
Pour aller plus loin
Google Pixel 4 et Pixel 4 XL : design, caractéristiques, sortie, prix… tout ce que l’on sait sur les futurs flagships
Envie de retrouver les meilleurs articles de Frandroid sur Google News ? Vous pouvez suivre Frandroid sur Google News en un clic.
Le concept de racisé est une notion sociologique foireuse, comme la sociologie et comme les "sciences humaines" qui n'ont de "sciences" que le nom. Fallait bien trouver à tout ce ramassis de nullard une terminologie plus glorieuse que "Onanistes intellectuels avancés". Les "blancs" se sont fait la guerre durant des siècles. Les allemands ont considéré pendant un temps que les slaves étaient une race inférieure, ils étaient noirs les slaves et ont déteint depuis ? De même pour les latins, les peuples balkans aussi. Alors ? Les japonais ont considéré les autres peuples asiatiques, pourtant très proches comme inférieurs, coréens, chinois .... Alors ? Arrêtez de vouloir conceptualiser quand vous ne savez pas le faire, ça vaudra mieux pour tout le monde.
"Racisée" Vraiment ? Sur un site leader sur Android en France, on en est là ? Je suis sur ce site depuis ses tout débuts, limite j'suis pas sûr qu'à part Ulrich et ptète 1 ou 2 autres gars, vous ne soyez pas là depuis moins de temps. Vous allez dériver et descendre encore combien de temps sur des thématiques sociologiques douteuses ? C'est pas parce que t'habites à 2 minutes de la capitale malienne d'Europe qu'il faut partir en sucette.
et donc , tu le ferai ?
Ta tout dis. Tout le monde à un prix. Certains sont à 5$ d'autre des milliers.
Commentaire abject !
À lire certains commentaires ici, Google n'aurait rien fait de grave... On verra bien dans un futur lointain quand ces entreprises domineront le monde et que les données dont elles disposent leurs permettront d'avoir tout droit sur une personne.
monde de bisounours. comme les voix sur siri, et sur les homes google.😂 les gens le savent pourtant ( Coluche)
Ça pourrait être le cas avec des données faciales numériques générées. Il suffirait juste que le modèle de données te ressemble.
juste pour te mettre a l'aise, des tas de boites font sur les CV un simple scan, pour ecarter et diviser par 2 la pile de demandes . Et l'IA Rh est assez basique.
Je condamne fermement la méthode. J'exécre les dissimulateurs autant que les affabulateurs. Cependant je ne suis pas choqué sur le fait qu'on utilise des données faciales de personnes réelles pour de l'apprentissage numérique. Google aurait les moyen de générer des masques ou même des modèles numériques de visages divers, mais un apprentissage n'est il pas meilleur dans la vraie vie dans des conditions réelles?
Il n'y a pas d'identité volée! Les données du visage sont utilisées pour du deep learning. Elles ne seront pas utilisées pour recréer le visage et l'exposer à tous. Je condamne cependant la méthode. Une explication honnête et claire vaut mieux que de la dissimulation pour gagner du temps.
"meilleure inclusivité pour les personnes racisées" Seigneur Dieu. Manquait plus que l'écriture inclusive dans l'article pour que j'en régurgite mon déjeuner.
on est pas si loin. si je te donne 500$ le fait tu ?
On se rapproche de loin hein on leur à pas pris leur visage.
on se rapproche des ventes d'organes, pour les plus demunis. bah, un oeil en moins 1000$. le monde est décadent.
Coquille dans la troisième phrase de l'article: "Grâce à son capteur Soli et des algorithmes plus sophistiqués qu’à l’accoutumée, le Google Pixel 4 devrait proposer la reconnaissance faciale pour poussée du marché."
quand lors de ton prochain voyage en chine ou en corée tu sera refoulé parce que ton portait robot aura été determiné comme non compatible par un algo et une IA, tu n'aura pas le meme discours.😄
En Occident, oui. Après, la notion de personne racisé est variable selon les régions du globe (au Japon, la population majoritaire et dominante c'est les japonais, et les racisés sont les autres). Après, cette grille de lecture blanc/racisé est surtout valable en Occident. Ailleurs, les blancs ont souvent un statut à part parmi les étrangers, du fait des restes coloniaux par exemple. Mais ça tombe bien, les plus gros marchés pour smartphones sont notamment l'Europe et les US. (La Chine est un cas à part et fonctionne davantage en vase clôt.)
Bien sur ahah, ou mieux contre un Pixel4 😉 On y perd quoi enfait à se faire prendre en photo ou à être filmer ? Son âme ? Ahah sois réaliste ...
te prendre ton identité ne te gene pas, parfait. quand a l'usage, je te laisse l'imaginer . la décadence est en route😂
Je pense que c’est déjà le cas puisque c’est le revenu de la marque .
Ne pas être blanc c'est être racisé ?
La reconnaissance faciale des pixel 4 ne se base pas sur une image en 2D.
La reconnaissance faciale des pixel 4 ne se base pas sur une image en 2D.
Ben non vu que rien ne leur a été pris, je ne vois pas où est le problème sur ce point-là.
alors qu'il suffit de recuperer les données mondiales des photos de passeport. etonnant que google le puissant ne soit pas encore maitre de cela😂
alors qu'il suffit de recuperer les données mondiales des photos de passeport. etonnant que google le puissant ne soit pas encore maitre de cela😂
Les données à tout prix !
Honnêtement les sdf gagné 5 dollars en échange de leur visage pour entraîner une machine y'a quoi de mal... Leur données de visage c'est bien le dernier truc qu'il se soucie...
Des méthodes assez incroyablement honteuse, pour un smartphone pas si incroyable, vendu à un prix incroyable 😂
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
Gérer mes choix