2. La détermination des préférences des passagers: un dilemme éthique
Le problème éthique lié à l’accident de notre héros national pose la question centrale de l’altération du rapport à la morale engendré par le progrès technique. Les voitures autonomes sont en effet exclusives depuis la loi du 9 décembre 2026, par laquelle les voitures avec un volant ont été prohibées du fait des risques qu’elles portaient. En résulte à la fois une préméditation des choix accidentels opérés, les paramètres étant prédéfinis, et un dilemme éthique de détermination individuelle des paramètres. Trois questions éthiques sous-jacentes en découlent, à savoir le problème moral lié au monopole de circulation des voitures automatiques, le problème de la valorisation des paramètres en cas d’accident, et enfin le dilemme moral de la détermination individuelle de ces paramètres.
L’interdiction de la commercialisation des voitures avec des volants est-elle éthique ?
Comme chacun le sait, la loi du 9 décembre 2026 a interdit les voitures avec volants, qu’elles soient semi-autonomes (le contrôle peut être récupéré par l’usager) ou non-autonomes. La coordination des voitures automatiques entre elles risquait en effet d’être annihilée par cette possibilité d’utilisation humaine de la conduite, et engendrait donc des risques d’accidents élevés. Le Conseil intergalactique a ainsi confirmé la limitation de la liberté individuelle et de la liberté de commerce, justifiée par un « impérieux motif d’intérêt général », et a jugé ainsi que la loi visait à protéger la société dans son ensemble. Le monopole de circulation des voitures automatiques a en effet permis de faire chuter le nombre d’accidents de 90% (selon Noah J. Goodall)
Cela n’a cependant pas empêché le véhicule de notre héros national de renverser une vieille dame, lui causant un préjudice moral et physique (bien que les préjudices physiques étant réversibles grâce au ©Poussos développé par les laboratoires Sinafo) malgré l’urgence de sauver la galaxie. Les accidents existent ainsi toujours, dès lors qu’il existe des individus se déplaçant à pied ou à vélo. Faudrait-il dès lors interdire ces moyens alternatifs de déplacement ? N’était-ce pas, au fond, la faute de la vieille dame ? Il nous semble ici que la privation de liberté qui en résulterait conduirait à un asservissement à un mode de transport unique, qui serait inenvisageable.
La loi du 9 décembre 2026 pose également un problème plus profond : faut-il ôter la possibilité de toute réponse instinctive à l’ensemble de la société, alors que ce sont bien les usagers qui de facto, sont à l’origine de l’accident (en optant pour ce mode de transport) ? Il s’agit d’une privation de la liberté de choix des individus qui altère fondamentalement leur rapport moral aux autres : ils ne deviennent ainsi que spectateurs d’un accident, qu’une réaction instinctive aurait peut-être pu éviter.
L’affaire Valerian nous rappelle également l’existence de réseaux de contrebande de voitures avec des volants. S’il n’est pas dans notre objectif de défendre des criminels enfreignant la loi en commercialisant et achetant des voitures semi-autonomes, il convient de s’interroger sur les soubassements moraux de la pénalisation de tels agissements : peut-on réellement condamner quelqu’un qui choisit de faire confiance à ses réactions instinctives plutôt qu’aux calculs prédéterminés d’une machine, eux-mêmes d’ailleurs susceptibles de défaillances ?
Faut-il laisser le choix aux usagers de déterminer les paramètres en cas d’accident ?
Comme nous le savons tous, la loi du 9 août 2028 relative au droits et libertés de la start-up nation intergalactique a consacré le droit des usagers de machines à déterminer les paramètres de celles-ci. Le Conseil intergalactique a jugé, dans un fameux arrêt que « le principe d’égale liberté intergalactique ne pouvait admettre des restrictions quant à la détermination individuelle des paramètres des automates sans mettre en péril la cohérence de l’ensemble du système de droits et libertés de la start-up nation intergalactique ; qu’en conséquence, les individus devaient se voir reconnaître le droit de déterminer l’intégralité des paramètres de conduite de leurs véhicules autonomes, sans pour autant que cette détermination puisse enfreindre la loi ». Depuis lors, les usagers déterminent les paramètres en cas de risque imminent d’accident de leur véhicule, soulevant plusieurs problèmes moraux.
Tout d’abord, la capacité à calculer et à opérer des choix de victimes en cas d’accident créé un système de préméditation des conséquences de l’accident : en opposition au choix spontané d’un conducteur, le système de détermination des paramètres oblige l’usager à opérer un choix a priori, à savoir celui de décider quelle action entreprendre en cas d’accident. Faut-il favoriser les jeunes, les vieux, les minorités, ou se sacrifier ? Les usagers ont conscience de leurs choix et les appliquent, créant de nombreux risques. La détermination préalable de paramètres introduit la préméditation et donc l’obligation pour les usagers de faire un choix moral en toute connaissance de cause, contrairement à une réaction spontanée.
La voie du sacrifice personnel nous paraît tout d’abord minoritaire voire exclue : peu d’usagers choisiraient de se sacrifier en fonçant dans un mur plutôt que de renverser un animal ou une personne. Il s’agirait pour un usager de préméditer son suicide en cas d’accident, alors qu’il n’est pas nécessairement responsable : si des individus ivres traversent la voie alors que la voiture respectait l’ensemble des règles, faudrait-il que la vie de l’usager consciencieux soit sacrifiée ? Nous sommes ici face à un dilemme moral que seule la spontanéité du choix, désormais éteinte, pouvait résoudre.
La préméditation soulève également le problème des choix personnels de valorisation, incluant lui-même l’enjeu de la responsabilité et l’enjeu de la discrimination.
La responsabilité de l’usager se retrouve en effet engagée dès lors que c’est lui qui détermine ce qu’il faut valoriser en cas d’accident : l’usager est responsable des choix préétablis pour la voiture, quand bien même ce n’est pas lui qui commet l’accident. On peut évidemment imaginer que personne ne souhaite avoir d’accident, mais dans l’éventualité où il y en aurait, la détermination préalable des paramètres engage la responsabilité morale personnelle des individus.
La détermination des paramètres préalables porte également un enjeu de discrimination : les individus font le choix de cibler en priorité certains groupes plutôt que d’autres en cas d’accident. La question est donc celle de la liberté effective laissée aux individus par les constructeurs, dans la détermination des paramètres, régie par la loi : s’il nous semble évident qu’il est illégal de proposer aux utilisateurs de choisir la priorité d’accident en fonction des caractéristiques ethniques, qu’en est-il de la question de l’âge ou du handicap ? N’est-ce pas rationnel, au sens utilitariste, pour un usager jeune et empruntant le véhicule pour se déplacer avec ses enfants en bas âge, de déterminer a priori en cas d’accident, d’écraser un couple de personnes âgées pour se préserver et préserver ses enfants ? Mais n’est-ce pas aussi de la gérontophobie ? Il est impossible, en laissant les individus déterminer leurs préférences en cas d’accident, d’exclure des formes de discrimination même si celles-ci peuvent être limitées par la loi.
Enfin, la question de l’influence indirecte exercée par les constructeurs automobiles, autrement dit la problématique du nudge appliquée à la détermination des préférences en cas d’accident. Ceux-ci, en faisant des propositions aux usagers, influencent indirectement la détermination de leurs préférences, voire conditionne celles-ci, de par la manière et l’ordre dans lesquelles les options sont présentées, voire prédéterminées. S’il est possible d’éliminer la paramétrisation d’usine, de par l’obligation faite aux usagers de déterminer les préférences avant d’utiliser le véhicule, ceux-ci restent influencés par la manière dont les options leur sont présentées.
Quels paramètres valoriser universellement ?
Le problème de fond de la paramétrisation des actions à engager en cas d’accident est celui de la valorisation universelle de critères adéquats : que devraient préférer les individus afin d’agir moralement ?
La première réponse pourrait être celle du sacrifice, laquelle, d’un point de vue déontologique, semble la plus adéquate : le conducteur, dès lors qu’il accepte d’emprunter des véhicules autonomes, accepte également que sa vie sera sacrifiée en cas d’accident afin de préserver ceux qui n’ont pas fait ce choix. Cette option, déjà présentée sous un autre angle, est évidemment inconcevable dans la mesure où il semble peu probable que des personnes acceptent d’acheter des véhicules en sachant qu’ils engagent automatiquement leur vie. A l’opposé, quand bien même le sacrifice personnel de l’usager serait accepté, les comportements immoraux de la part des non-usagers pourraient se démultiplier, dès lors que leur vie est absolument préservée.
Le raisonnement utilitariste tente de simplifier la question en la réduisant à des paramètres d’utilité et d’espérance d’utilité : ce qui doit déterminer universellement la modulation des paramètres en cas d’accident est l’espérance de vie cumulative (l’espérance de vie des individus par individus). En somme, trois usagers dont deux enfants devraient être privilégiés par rapport à un groupe de cinq personnes âgées, dès lors qu’elles ont une espérance de vie supérieure en cumulé. De même, si l’on suit la logique présentée par Peter Singer dans Animal Liberation, il faudrait qu’un usager fortement handicapé ou en fin de vie choisisse le sacrifice personnel plutôt que celui d’un animal traversant la route. Le raisonnement utilitariste ne permet ainsi donc pas de penser la question autrement qu’en termes de substituabilité parfaite des individus, et se retrouve face à un écueil : l’absence de considération des individus per se, et donc une discrimination à rebours. Par ailleurs, l’application d’une conception utilitariste porte de forts dangers : il serait possible de déterminer la valeur d’une vie dans un accident en fonction de l’utilité de chacun au sein de la société, et donc par exemple de privilégier un cadre (identifié par reconnaissance faciale) par rapport à un sans-abri.
Il nous semble ainsi que la détermination des préférences en cas d’accident met les individus face à un dilemme éthique insoluble, qui est celui de la moralité de leur paramétrisation.