Et si les voitures autonomes étaient programmées pour nous tuer ?

De Antoine Barré Auteur - Posté le 27 juin 2016 à 12h03 dans High-tech
13réactions !
13 commentaires

Aujourd'hui, Hitek vous propose un paradoxe : on crée des voitures autonomes, programmées pour faire le moins de victimes possibles en cas d'accident, même si cela provoque la mort du chauffeur. MAIS on ne veut absolument pas se retrouver à "la place du mort", littéralement parlant.

Un conflit d'éthique

Il est vrai qu'il s'agit-là d'un paradoxe qui doit sans doute faire frémir de plaisir les professeurs de philosophie quand vient le moment d'étudier l'éthique. Sauf que certaines personnes se posent réellement la question, et il s'agit des constructeurs de voitures autonomes. Il leur est nécessaire de créer des véhicules permettant d'épargner au maximum les vies des potentielles victimes, qu'elles soient à l'intérieur ou à l'extérieur du véhicule.

On se retrouve devant un conflit résumé de la façon suivante : "le programme éthique que l'on souhaite voir appliqué contre les voitures que l'on souhaite conduire." Le fait est qu'on "accepte volontiers" qu'un chauffeur se crashe pour éviter d'écraser dix piétons, mais on refuse absolument de se retrouver dans une voiture programmée pour réagir exactement de la même façon dans la même situation.

voiture autonome

"La plupart des gens souhaitent vivre dans un monde où les voitures vont minimiser au maximum les victimes d'accidents de la route, mais tout le monde souhaite que leurs propres voitures les protègent à tout prix."
Iyad Rahwan, co-auteur de l'étude sur les voitures autonomes

La technologie contre l'éthique

L'étude co-menée par Iyad Rahwan pointe cette singularité : 76% des sondés considèrent que cette programmation est utile, puisqu'elle permet de sauver de nombreuses vies, même si l'on devait pour cela "sacrifier" un des passagers. Mais ce pourcentage chute radicalement d'un bon tiers quand on demande aux sondés s'ils oseraient monter dans une de ces voitures, alors qu'ils peuvent faire partie des victimes potentielles.

De plus, cette étude montre que seulement un tiers des sondés voit d'un bon œil le fait que le gouvernement américain régule l'industrie de l'automobile de façon à renforcer les principes utilitaristes, ce qui mena Rahwan et ses collègues à lancer un avertissement : "les inquiétudes au sujet de cette régulation vont paradoxalement augmenter le nombre de victimes, en attendant que l'on mette au point une technologie plus sûre."

mise en situation

Selon Patrick Lin, directeur du Groupe d'Ethique et des Sciences Émergentes à l'Université Polytechnique de Californie, ce paradoxe est dû au fait que l'être humain est inconstant, et nous ne savons jamais ce que nous voulons, ou comment nous souhaitons vivre.

"Ce qu'intellectuellement nous pensons vrai et ce que nous faisons réellement sont deux choses différentes. [...] Les humains sont égoïstes, même quand ils prêchent l'altruisme. Ce qui fait que les fabricants de voitures ne sont guère enclins à apprécier ce paradoxe humain, tandis qu'ils proposent des IA et des robots pour nous remplacer derrière le volant."

L'être humain aime jouer avec le feu

Et c'est ce qui est ironique, avec nous ! Nous jouons constamment avec notre vie : on roule alcoolisé (n'allez jamais nous faire croire que personne ne l'a fait, sinon Homer Simpson, les Russes et les Bretons ne se déplaceraient qu'à pied.), on téléphone en conduisant, on a les yeux rivés sur son téléphone quand on marche, on va traiter de "fiottes" une bande de métalleux pintés à la bière alors qu'on pèse 40 kilos tout mouillé... On ne monterait pas non plus dans des voitures, ou bien on rendrait illégales les armes [aux Etats-Unis], si l'on était aussi préoccupé par notre santé, et par la peur de mourir. Comme l'ajoute Lin :

"Ainsi, en demandant l'opinion des citoyens lambdas, l'étude ne collecte que des réponses peu informées, et cela n'aide guère à résoudre les dilemmes. Certes, ça peut être utile dans le cadre de la publicité et du marketing, mais aucunement dans le cas de la loi et de l'éthique."

Dans le même temps, Patrick Lin reconnait que l'opinion publique peut avoir un fort impact : il suffirait d'un film hollywoodien bien ficelé et plaçant une voiture autonome assez souvent à l'écran, tout en insistant sur la sécurité procurée par cette dernière pour faire pencher la balance. Dans un pays où l'on pense que l'homme a côtoyé les dinosaures, ou bien que le monde est dirigé par une race alienne à l'apparence reptilienne, c'est tout à fait possible...

Et vous ? Que pensez-vous de ce paradoxe ? Pensez-vous que les voitures autonomes ont un avenir ? Si oui, faut-il alors laisser les constructeurs expérimenter, afin de parfaire la programmation ?

Une erreur ?

Mots-Clés : voiture autonomeDangerprogrammation

Source(s) : Gizmodo

Cliquez sur une phrase de l'article pour proposer une correction.

J'ai compris !

Commentaires (13)

Par Tatu, il y a 4 ans :

Elles vont finir par devenir des voitures-transformers-garoute, et on ne comprendra rien jusqu'au jour où Optimus Prime va venir sur Terre pour se battre face à Christine.

Répondre à ce commentaire

Par lucien, il y a 4 ans via l'application Hitek :

C'est marrant d'enfin se retrouver devant un problème soulevé depuis 30ans par la science fiction...

Dans ce cas précis, ont voit bien que le "sacrosaint" libre arbitre qui, soit disant, nous différencie des animaux ou des machines n'est qu'une illusion.

Je suis pour l'idée de sauver un maximum en limitant les pertes... Mais comme je suis un humain je ne souhaiterais jamais monter dans une voiture prête à me sacrifier...
Comme quoi... C'est bien la preuve que l'iA et l'humain seront toujours en désaccord...

Répondre à ce commentaire

Par Angerfist, il y a 4 ans (en réponse à lucien):

En même temps je ne suis pas djihadiste, j'ai pas envie de me sacrifier... x)
Si tu sais conduire tu ne feras pas d'accident.
La seule fois où j'ai failli avoir un accident c'est parce qu'un mec a voulu me couper la route.

Répondre à ce commentaire

Par poupi, il y a 4 ans (en réponse à Angerfist):

ah bon ?
tu contrôles l'environnement parfaitement ? quand tu conduits tu gères les enfants qui se jettent sur la route où qui lâchent échapper un ballon ?

Répondre à ce commentaire

Par Angerfist, il y a 4 ans (en réponse à poupi):

Tu parles des enfants sous mon pare choc?
C'est vrai que ça marche bien ce truc, je ressens presque rien quand je passe dessus...

Répondre à ce commentaire

Par Line, il y a 4 ans :

Est-ce que limiter la vitesse max en mode automatique serait bien ?

Répondre à ce commentaire

Par Tim45, il y a 4 ans :

Le cas le plus "drôle" c'est donc de programmer la voiture pour qu'elle évite d'écraser un piéton, sauf que si c'est autre chose qui traverse genre un animal, on sacrifie du coup le conducteur pour un chien? (Pas que je n'aime pas les animaux, loin de là, j'ai deux frères.)

Répondre à ce commentaire

Par Dylan.D, il y a 4 ans via l'application Hitek :

Peut etre faudrait-il simplement garder la machine comme une aide secondaire mais en aucun cas la laisser controler la quasi totalité de la conduite. Cette obsession extreme de "rien faire" et de se delier de toute responsabilité (nottament en cas d'accident) nous mène a des problemes invraissemblables. Pour exemple j'ai vu une video d'un automobiliste au volant d'une Telsa, qui conduit donc mannuellement. Il roule de nuit et fatigué. Une voiture lui coupe la route et le systeme de pilotage automatique dont est equipé sa voiture reagi plu vite que lui et evite l'accident. Je pense que c'est vers cette voie qu'il faut experimenter le projet, et ne pas chercher à en demander plus.

Répondre à ce commentaire

Par poupi, il y a 4 ans (en réponse à Dylan.D):

le problème reste le même !

tu arrives avec ta voiture à un croisement, tu tournes et là t'as le choix (pour différentes raisons) : soit tu roules sur un vieux soit sur un jeune....que choisi la voiture ? faut la programmer pour ça!

Répondre à ce commentaire

Par Jibé, il y a 4 ans :

Moi perso je m'en branle

Répondre à ce commentaire

Par poupi, il y a 4 ans (en réponse à Jibé):

on verra ça quand ta famille se fera écraser alors :)

Répondre à ce commentaire

Par wytek, il y a 4 ans :

Voiture volante !! Tu risque pas de croiser un piéton de cette manière.
A moins que l'humain apprenne a voler...

Répondre à ce commentaire

Par Modestov, il y a 4 ans via l'application Hitek :

Ton Patrick il connaît aps irobot ?

Répondre à ce commentaire

Laisser un commentaire

Votre adresse e-mail ne sera pas visible. Pour avoir une image de profil, utilisez le service gravatar.

Tu es membre premium car tu as commandé une HITEKBOX. Tu peux donc ajouter des smileys et des images.

Derniers tests
Test realme X50 Pro, un smartphone 5G qui veut faire bouger le haut de gamme : fiche technique, prix et date de sortie

Realme X50 Pro

Il y a 1 mois

Test : l'Asus ROG Zephyrus G14, un PC portable Gaming compact avec une RTX 2060 : fiche technique, prix et date de sortie

Asus ROG Zephyrus G14

Il y a 3 mois

OnePlus 8 Pro, le nouveau smartphone 5G avec écran 120 Hz : fiche technique, prix et date de sortie.

OnePlus 8 Pro

Il y a 3 mois