Dans l’accident mortel provoqué par la voiture autonome Uber, la victime a bien été vue par le système embarqué du véhicule, mais celui-ci aurait décidé de l’ignorer.
Au mois de mars dernier, une voiture autonome Uber renversait mortellement une femme aux États-Unis. Il s’agissait alors du premier accident de véhicule sans conducteur impliquant le décès d’un piéton. Uber, qui a été mis en cause dans l’incident, s’était même vu interdire la circulation de sa voiture.
D’après The Information, l’accident est dû à un défaut logiciel puisque la femme a bien été détectée par le véhicule qui a étrangement choisi de l’ignorer.
Le mauvais jugement de la situation
Comment expliquer un bug aussi grave malgré la complexité des algorithmes et la puissance des dizaines de capteurs présents sur le véhicule ? Visiblement, le souci vient de la capacité (ou incapacité) du système à juger les événements qui l’entourent.
En effet, certains éléments sont jugés comme faux positifs, c’est-à-dire qu’ils sont considérés comme trop peu dangereux pour justifier une réaction du véhicule. C’est le cas par exemple de feuilles mortes qui vacillent dans les airs ou encore d’éléments n’étant pas sur la trajectoire du véhicule. La victime a donc été, à tort, considérée comme faux positif.
En somme, une fonctionnalité visant le confort des passagers a eu le dessus sur la sécurité. De quoi tirer des leçons pour ne pas revoir ce genre de fait à l’avenir.
Rappelons néanmoins que ce cas reste isolé, surtout quand on le compare à la proportion d’accidents impliquant des piétons et des véhicules traditionnels.
Pour aller plus loin
Waymo pense que ses voitures autonomes auraient évité l’accident mortel d’Uber
Envie de rejoindre une communauté de passionnés ? Notre Discord vous accueille, c’est un lieu d’entraide et de passion autour de la tech.
[…] d’Uber avait percuté une femme, par la suite décédée. Le système l’avait bien détecté, mais a pourtant décidé de l’ignorer. Ce tragique épisode a poussé l’entreprise à stopper ses essais, avant de les reprendre dans […]
[…] en s’affranchissant de la main-d’œuvre humaine. Son projet de voiture autonome, malgré le tragique accident survenu en mars dernier, reste bel et bien au programme, qui plus est après le colossal […]
[…] Promise comme l’une des technologies sur le point de révolutionner notre quotidien, la voiture autonome est pourtant loin de faire l’unanimité. La question éthique est notamment au centre des critiques, avec notamment le récent accident mortel de la voiture sans conducteur (VSC) Uber. […]
le problème est de faire respecter les règles, tout comme les gens qui prennent l'autoroute a sens inverse et accuse leur gps ...
En plus ça fait sale les traces de sang :-/
T'es un malade :-)
La victime a été détectée mais ignorée ? Normal : si elle n'avait pas été ignorée, elle ne pourrait pas être qualifiée de victime...
pas pret de lacher mon volant dans ce monde de brute et d'algo foireux.
C'est triste. Mais le plus triste c'est qu'il y en aura encore. Et quelque part on s'y attendait tous, ça me rappelle l'histoire de la responsabilité en cas d'accident de voitures autonomes. Ils avaient déjà anticipé tout ça, et qu'il y aurait des morts pour faire avancer la science et la technologie comme à chaque ère. Pour ou contre, c'est le créneau actuel et je pense c'est juste le début. Pour ou contre, on peut juste lire les news
C'est vrai, les logiciels sont perfectibles comme les humains. D'un côté, ils le sont beaucoup moins. Mais d'un autre, c'est bien moins """acceptable""" d'être tué par une machine. Éternel débat ! Romain M
Les circonstances ne changent rien, la victime a sa part de responsabilité mais la voiture l'a bien détectée et aurait au moins dû essayer de l'éviter. Romain M
Là où un être humain aurait renversé cette personne pour cause de temps de réaction, ce programme a considéré l'obstacle comme n'en étant pas un, vivant qui plus est, humain plus encore ! Si t'es pas foutu de faire la différence entre les deux, je ne peux pas grand chose pour toi. Ces programmes informatiques "autonomes" n'ont rien à faire sur la voie publique, je maintiens cette affirmation.
Femme detectée, analyse corporelle 80% de graisse, obesité morbide detectée Solution system -achevée pour abrégé souffrance. Analyse risque collision avec individu de plus de 120kg, dommage pouvant endommagé carrosserie pris en compte. Solution validé. Solution mise en pratique. Snap accident envoyé sur reseau social pour engrenage de like...
Je suis contre ces voitures autonomes. Sauf si c'est comme dans Minority Report : il n'y a plus que des voitures dans la circulation ; pas de vélos, pas de piétons, etc... Croire qu'on va réussir actuellement avec un programme à distinguer les "vrais positifs" des "faux positifs" comme le ferait un être humain ? La preuve que non ! Une personne est morte parce que des enf*irés ont permis la mise en place d'une notion de "faux positif" sur la voie publique ? On joue avec des vies comme ça ? Pourquoi ces "choses" circulent librement sur les routes publiques ? C'est une blague ? Le fait qu'il y ait des chauffards n'excuse pas qu'on laisse dans la nature des véhicules conduits par des programmes informatiques de l'ère du jurassique de l'IA.
Moi aussi
Tro
Je suis contre donner l'autorisation à des humains de conduire. Je n'ai pas à mourir à cause de la débilité des autres.
Tro
Tu choisi sciemment la solution qui fait le plus de victimes humaines. Je ne peux qu'en conclure que tu es un psychopate.
Non, elle n'a pas ignorée de victime, car elle n'a pas vu de victime. Elle a confondu un être humain avec untruc sans danger.
"on peut rire de tout, mais pas avec n'importe qui" Desproges.
Moi ça me fait bien rire.
Non, la voiture ne l'a pas identifiée en tant qu'être humain, sinon elle se serait arrêtée. Elle l'a pris pour un truc inconnu mais sans danger. La nuance est importante.
On est d'accord. Si elles ont été acceptées sur les rues, c'est qu'elles avaient été jugées aptes. Ça n'est clairement pas parfait. Mais je crois que ça ne le sera jamais. Des bugs il y en aura malheureusement toujours.
Je suis contre sa mise en place sur la voie publique. On n'a pas à mourir à cause d'une technologie qui n'est qu'à l'aube de son existence.
La voiture "autonome" est capable d'éviter des accidents inevitables pour un être humain. Dans ce cas précis, il s'agit d'un "bug". Ce genre de voiture va éviter bien des accidents, bien des morts. Et résoudre par exemple des problèmes d'embouteillages, du coup, de pollution. Pourquoi être contre..
Et alors ?
Nous crayons bien des objets connectés inutiles de la couche au pot de fleur connecté pk pas la route connecté
On pourrai bien délimité le trottoir de la voie ou mettre des capteurs lorsqu'un humain franchi qui pourrai mettre toute les voitures du rayon en alerte.. On peux pas juste changer les voiture mais routes devront aussi si on réfléchi que dans un sens ces voitures devront faire l impossible pour éviter les morts
L'idée est intéressante, mais je pense que la ville est trop "compacte" pour ce genre d'infrastructure
Tu n'as surement pas vu la vidéo de la caméra embarquée. On ne voit clairement que la cycliste au dernier moment quand elle passe dans le scope des phares. Un humain n'aurait surement pas fait mieux que la voiture autonome. Moi même ce matin après avoir déposé les enfants j'ai failli renverser un piéton : il se trouvait dans une zone d'ombre et moi ébloui par le soleil. Le pire : c'était un agent municipal qui portait un gilet jaune de sécurité. J'ai pu l'éviter au dernier moment (et je roulais à 30kmh car je venais de bifurquer). J'ai pu constater que les voitures derrière moi ont fait le même écart de "dernière seconde". Pas besoin de chauffards pour qu'un drame se produise malheureusement...
Il n'est pas écrit "la voiture a ignoré l'être humain qu'elle a détecté", elle a bien ignoré la victime puisqu'elle l'a considérée, à tord, comme un élément négligeable. Romain M
"l’accident est dû à un défaut logiciel puisque la femme a bien été détectée par le véhicule qui a étrangement choisi de l’ignorer." L'unique raison qui devrait suffire pour interdire les voitures autonome, des bug y'en a partout.... Car a moi que ce soit Uber qui es construit le logiciel et qu'ils font leurs propres mises a jours c'est impossible de mettre en cause le reste du monde. Dans ce qu'a précis c'est le constructeur du logiciel qui es en cause.
toi par contre si...
C est dommage pour la victime et la famille mais je crois que si les voitures doivent devenir autonome il se pourrai aussi que nos routes change il faudrai peut être repenser et moins rendre accessible le piéton à certaines portion de route pas réglementé .. On le fait en majeur partie pour les autoroutes pk pas dans les villes juste une idée me lancez pas de pierres au visages
Avec elle, on voit mieux la nuit ! :)
Surtout si on compare avec les chauffeurs de taxi, vu que c'est un peu le principe.
j'ai pas pour habitude de rigoler sur la mort de quelqu'un
"La victime a donc été, à tort, considérée comme faux positif." => La victime, qui a traversé à un endroit interdit, sur une voie rapide, la nuit, a donc logiquement été, considérée comme faux positif. Corrigé. De rien :-)
Rageux détecté ?
et tu te crois drôle ?
T'es pas khon qu'à moitié toi.
ton argumentation est à l'échelle de ton point de vue, fin de discussion en effet
Non ça reste la même affaire. Si on compare les statistiques d'accident des voitures autonomes avec celles des êtres humains, elles sont largement meilleures que nous. Fin de la discussion.
Titre trompeur ( style putaclic ) puisque non, la voiture n'a pas "ignorée la victime" : pour cela, il aurait fallu qu'elle comprenne qu'il s'agissait d'un être humain, ce qui n'a pas été le cas. Elle choisi d'ignorer un truc qu'elle a assimilé a un sac plastique qui vole. Donc non, nous ne sommes pas encore à l'air dz skynet ou les voitures autonomes choisirait d'elle-même d'écraser des humains.
Ridicule ! On commence alors par appliquer ton raisonnement à toi-même et on va donc tout de suite t'interdire de conduire puisque bien sûr tu aurai aussi écrasé cette piétonne comme tout le monde d'ailleurs.
Raisonnement absurde. Tu mentionnes les chauffards, l'être humain cause nettement plus d'accident que les voitures autonomes, attendre la perfection absolue d'un système en test alors que l'être humain est nettement plus faillible est absurde.
"Rappelons néanmoins que ce cas reste isolé" ouai, comme ce genre de voiture non? d'un point de vue statistique (si on multiplie ce genre de véhicule mal foutu) , c'est une autre affaire non ?
Comparer ce qui ne peut pas l'être, c'est, dans ce cas, soutenir l'insoutenable et tout un symbole de notre société sans repère.
C'est un vrai positif !
Même pas un an uber en a déjà tué deux serais tu skynet ?
en attendant, les français s'arrachent l'ampoule-camera EyesX3 à -50% !!!
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
Gérer mes choix