Google Duplex restera éthique et transparent, c’est promis

 

Pour passer des appels à votre place, Google Duplex précisera qu’il est une IA afin d’éviter tout problème d’éthique et apaiser les craintes.

La scène de la cabine téléphonique dans Terminator 2. Photo non contractuelle de Google Duplex…

Mise à jour du 22/05/18 :

L’IA Google Duplex préviendra-t-elle l’interlocuteur qu’il est enregistré ? Le géant du web a précisé que cela dépendra des lois en vigueur de chaque pays.

En France, comme l’indique Numerama, la loi Informatique et Libertés du 6 janvier 1978 modifiée oblige à informer une personne qu’elle est enregistrée à des fins de collecte de données personnelles. De plus, cette personne a le droit de refuser l’enregistrement. Google Duplex se pliera donc à cette réglementation.

Le RGPD, qui entre en vigueur le 25 mai prochain, imposera également de prévenir l’intéressé et de lui donner le choix de raccrocher ou non.

Article original :

Lors de la Google I/O 2018, il y a beaucoup de choses que l’on peut retenir. On a effectivement pu voir la bêta d’Android P et ses gestes de navigation, les progrès des voitures autonomes de Waymo ainsi que le nouveau visage d’applications Google telle que Maps.

Mais la star de l’événement était sans conteste l’intelligence artificielle incarnée par Google Assistant. Et l’une des fonctionnalités présentées a fait particulièrement réagir spécialistes et internautes : Google Duplex.

Au cas où vous l’auriez raté, Duplex est un nouveau service dont le principe est assez incroyable : Google Assistant passe un appel à votre place pour planifier un rendez-vous chez le coiffeur ou pour réserver une table au restaurant.

L’assistant personnel a démontré qu’il était parfaitement capable de comprendre et d’imiter le langage naturel en plaçant des « mmmmh » dans ses phrases pour mimer une réflexion ou des « ahun, ahun » pour acquiescer quand la personne à l’autre bout du fil parle.

Problème d’éthique

Autrement dit, l’idée est de faire en sorte que l’interlocuteur ne se rende pas compte qu’il converse avec une intelligence artificielle. Cette fonctionnalité présente un attrait intéressant pour soulager l’utilisateur de ce genre d’appels qu’il n’a pas particulièrement envie de passer. Mais en termes d’éthique, de sérieuses questions se posent.

En effet, en un sens, on pourrait résumer Google Duplex comme un service d’intelligence artificielle conçu pour duper les gens. Pas très séduisant comme avenir, non ?

Toutefois, suite aux nombreuses réactions, Google a rappelé que Duplex n’était pour l’instant qu’une expérimentation et pas encore un produit, mais aussi qu’il prévoyait de faire en sorte que l’assistant personnel prévienne les gens pour leur indiquer qu’ils conversent avec une IA.

Transparence et technologie

Un porte-parole de l’entreprise a expliqué à The Verge que le service « intégrera un message d’avertissement ». « Nous comprenons et estimons les discussions autour de Google Duplex — comme nous l’avons dit depuis le début, la transparence dans la technologie est importante », ajoute-t-il.

L’appel commencera donc éventuellement par une phrase de ce genre : « Bonjour, je suis Google Assistant, une intelligence artificielle. ».

Quoi qu’il en soit, on retiendra que Google Duplex révèle à lui seul tout l’intérêt philosophique du test de Turing. L’IA devient toujours plus humaine et c’est sans doute ce qui effraie tant.


Le saviez-vous ? Google News vous permet de choisir vos médias. Ne passez pas à côté de Frandroid et Numerama.