Et si les voitures autonomes étaient programmées pour nous tuer ?

Aujourd'hui, Hitek vous propose un paradoxe : on crée des voitures autonomes, programmées pour faire le moins de victimes possibles en cas d'accident, même si cela provoque la mort du chauffeur. MAIS on ne veut absolument pas se retrouver à "la place du mort", littéralement parlant.

Un conflit d'éthique

Il est vrai qu'il s'agit-là d'un paradoxe qui doit sans doute faire frémir de plaisir les professeurs de philosophie quand vient le moment d'étudier l'éthique. Sauf que certaines personnes se posent réellement la question, et il s'agit des constructeurs de voitures autonomes. Il leur est nécessaire de créer des véhicules permettant d'épargner au maximum les vies des potentielles victimes, qu'elles soient à l'intérieur ou à l'extérieur du véhicule.

On se retrouve devant un conflit résumé de la façon suivante : "le programme éthique que l'on souhaite voir appliqué contre les voitures que l'on souhaite conduire." Le fait est qu'on "accepte volontiers" qu'un chauffeur se crashe pour éviter d'écraser dix piétons, mais on refuse absolument de se retrouver dans une voiture programmée pour réagir exactement de la même façon dans la même situation.

"La plupart des gens souhaitent vivre dans un monde où les voitures vont minimiser au maximum les victimes d'accidents de la route, mais tout le monde souhaite que leurs propres voitures les protègent à tout prix."
Iyad Rahwan, co-auteur de l'étude sur les voitures autonomes

La technologie contre l'éthique

L'étude co-menée par Iyad Rahwan pointe cette singularité : 76% des sondés considèrent que cette programmation est utile, puisqu'elle permet de sauver de nombreuses vies, même si l'on devait pour cela "sacrifier" un des passagers. Mais ce pourcentage chute radicalement d'un bon tiers quand on demande aux sondés s'ils oseraient monter dans une de ces voitures, alors qu'ils peuvent faire partie des victimes potentielles.

De plus, cette étude montre que seulement un tiers des sondés voit d'un bon œil le fait que le gouvernement américain régule l'industrie de l'automobile de façon à renforcer les principes utilitaristes, ce qui mena Rahwan et ses collègues à lancer un avertissement : "les inquiétudes au sujet de cette régulation vont paradoxalement augmenter le nombre de victimes, en attendant que l'on mette au point une technologie plus sûre."

Selon Patrick Lin, directeur du Groupe d'Ethique et des Sciences Émergentes à l'Université Polytechnique de Californie, ce paradoxe est dû au fait que l'être humain est inconstant, et nous ne savons jamais ce que nous voulons, ou comment nous souhaitons vivre.

"Ce qu'intellectuellement nous pensons vrai et ce que nous faisons réellement sont deux choses différentes. [...] Les humains sont égoïstes, même quand ils prêchent l'altruisme. Ce qui fait que les fabricants de voitures ne sont guère enclins à apprécier ce paradoxe humain, tandis qu'ils proposent des IA et des robots pour nous remplacer derrière le volant."

L'être humain aime jouer avec le feu

Et c'est ce qui est ironique, avec nous ! Nous jouons constamment avec notre vie : on roule alcoolisé (n'allez jamais nous faire croire que personne ne l'a fait, sinon Homer Simpson, les Russes et les Bretons ne se déplaceraient qu'à pied.), on téléphone en conduisant, on a les yeux rivés sur son téléphone quand on marche, on va traiter de "fiottes" une bande de métalleux pintés à la bière alors qu'on pèse 40 kilos tout mouillé... On ne monterait pas non plus dans des voitures, ou bien on rendrait illégales les armes [aux Etats-Unis], si l'on était aussi préoccupé par notre santé, et par la peur de mourir. Comme l'ajoute Lin :

"Ainsi, en demandant l'opinion des citoyens lambdas, l'étude ne collecte que des réponses peu informées, et cela n'aide guère à résoudre les dilemmes. Certes, ça peut être utile dans le cadre de la publicité et du marketing, mais aucunement dans le cas de la loi et de l'éthique."

Dans le même temps, Patrick Lin reconnait que l'opinion publique peut avoir un fort impact : il suffirait d'un film hollywoodien bien ficelé et plaçant une voiture autonome assez souvent à l'écran, tout en insistant sur la sécurité procurée par cette dernière pour faire pencher la balance. Dans un pays où l'on pense que l'homme a côtoyé les dinosaures, ou bien que le monde est dirigé par une race alienne à l'apparence reptilienne, c'est tout à fait possible...

Et vous ? Que pensez-vous de ce paradoxe ? Pensez-vous que les voitures autonomes ont un avenir ? Si oui, faut-il alors laisser les constructeurs expérimenter, afin de parfaire la programmation ?