3. Qui est responsable ?
Pour que vous puissiez suivre le procès au jour le jour et vous faire votre propre opinion sur quelle devrait en être l'issue, la TaskForce vous fournit les retranscriptions des discours des différents acteurs du procès.
Mesdames et Messieurs les jurés, avant de commencer je tenais à préciser que l’examen de la voiture de Valérian n’est pas encore terminé et que nous n’avons donc pas encore pu vérifier s’il y avait présence d’une quelconque déficience qui aurait pu mener la voiture de Valérien à ne pas tenter d’éviter ET Madame Vola ET la petite Lucie.
Mes chers amis, nous sommes réunis en ce jour à la suite d’un bien triste événement, un événement funeste, un événement mortel. En effet, nous sommes aujourd’hui ici pour décider du responsable de la mort de Lola Vola, une citoyenne autopienne. Mon client, Valérien, passager de la voiture à l’origine de la mort de Madame Vola, est accusé. Il est accusé et il ne devrait pas l’être. Pourquoi ? me demanderez-vous.
Il faut en revenir aux définitions les plus anciennes de la responsabilité pour le savoir. Si l’on en croit Aristote, n’est responsable que celui qui sait ce qu’il fait et qui a le contrôle de ce qu’il fait. Dans le cas de mon client, il ne savait pas ce qu’il faisait : il se reposait en effet à l’arrière de sa voiture entre deux missions de la plus haute importance, mon client, est, je vous le rappelle, héros national d’Autopia et il était en route pour une mission cruciale lorsque sa voiture a percuté Madame Vola. Il n’avait donc aucune connaissance de la situation et quand bien-même en aurait-il eu, il n’aurait rien pu faire car, depuis la loi de 2026, les volants sont interdits dans les voitures autonomes.
Loi de 2026 que nous avons supprimée, permettez-moi de vous le rappeler justement pour que nos citoyens ne puissent être incriminés injustement. Trop souvent était utilisé comme élément de justification le devoir d’intervention c’est-à-dire le fait que les citoyens auraient eu les moyens d’agir pour prévenir l’accident. Nos législateurs ont jugé que cela violait le droit de chacun de ne pas être accusé pour quelque chose qu’il n’a pas fait - une accusation jugée comme immorale - car les citoyens n’étaient que très rarement dans une situation où ils auraient pu prévoir l’arrivée d’un danger non prévu par la voiture autonome ET trouver une solution à sa place. Cela permettait également d’éliminer le concept de bad moral luck de Nagel selon lequel la chance n’a une signification morale que si le conducteur a fait quelque chose de mal : si vous conduisez trop vite et si vous percutez un enfant par exemple. De plus, cela était discriminant envers les non-voyants et autres personnes handicapées.
NOUS AVONS DONC SUPPRIME LES VOLANTS. Et nous avons introduit les moral settings. Là, il y a responsabilité du passager, c’est sûr, me direz-vous. Vous ne pourriez avoir plus tort. OUI, Valérien a décidé de changer les settings de sa voiture. OUI, il a décidé de privilégier les enfants plutôt que les personnes âgées. OUI, il a osé prendre sa vie en main et réaliser son devenir plutôt que de se laisser porter par la vie comme un sac plastique au gré du vent en un jour de tempête. Et pourtant il n’est pas coupable ! Et pourtant il n’est pas responsable de la mort de Lola Vola. Lorsqu’il a fait ce choix éthique et moral, Valérien a décidé que, pour, lui la vie était ce qu’il y avait de plus important.
N’auriez vous pas fait comme lui ? Ne pensez-vous pas que les parents de la petite Lucie le remercient ? 70 années de plus avec leur fille contre peut-être 5 années en ce monde du côté de Madame Vola. Cette réflexion, bien que très utilitariste peut se voir comme particulièrement poétique. Poussière tu es né, poussière tu redeviendras. Le cycle de la vie. Les anciens font place aux jeunes.
Pardon, je m’égare, je suis transportée par ma propre émotion. Le plus important est qu’il a fait un choix parce qu’on lui en avait donné les moyens, parce qu’un programmeur avait réfléchi à ce cas de figure avant lui. Il n’a fait qu’exercer son droit de consommateur.
Je finirai sur cette note : depuis 100 ans nous enlevons petit à petit à l’humain sa responsabilité, cela peut vous plaire ou vous déplaire mais c’est le cas. Nous sommes donc arrivés à des accidents dont l’auteur n’est pas humain mais bien machine. Allez consulter vos politiciens, vos législateurs, demandez-leur pourquoi leurs prédécesseurs ne vous ont pas protégé d’un monde où les meurtres sont commis par des machines. Demandez-leur pourquoi ils n’ont pas remis en cause la responsabilité des fabricants de voiture au procès précédent. Allez chercher des réponses à vos questions. Etanchez votre soif de blâme. Mais Laissez Valérien l'innocent.
Plaidoirie de Maître Grognon de Bluxte, avocat de Valérien
Retranscriptions des dépositions des Témoins
« Je suis déçu. Je suis déçu par ce gouvernement. Je suis déçu par cette société. Une société qui, pendant des années, a tenté de limiter notre responsabilité, pour que nous continuons à lancer des modèles sur le marché, à tester, tester et encore tester pour arriver au modèle parfait, celui qui sait tout, voit tout, sauve tout. Une société finalement, qui s’est jouée de nous. En effet, en témoigne ma présence aujourd’hui devant vous. Nous sommes proches de la voiture parfaite, plus besoin alors de craindre que notre peur des représailles légales nous pousse à arrêter d’améliorer nos modèles. Alors on peut ressortir les vieux arguments de négligence, de manque d’avertissement et de design défectueux. On peut recommencer à dire : « c’est la faute des fabricants de voitures, s’ils n’avaient pas permis la commercialisation des settings, on en serait pas là ». Eh bien non ! NON ! Il y avait un accord tacite dans cette belle start-up nation qui est la nôtre qui disait que chaque individu prenant une voiture autonome est conscient des risques qu’il encoure autant en ce qui le concerne lui que les autres car la responsabilité est une responsabilité double : par rapport à soi ou ceux que l’on véhicule et par rapport aux autres usagers de la route. Avec les voitures autonomes, le rapport à l’autre ie. l’autre conducteur, l’autre usager de la route, a eu tendance à s’estomper mais cet accord reste le même et le considérant comme légitime, nous aimerions profiter de ce procès pour proposer sa pérennisation sous forme de loi. Nos voitures frôlant maintenant la perfection, nous vous conseillons plutôt d’aller chercher votre coupable du côté des programmeurs. »
Témoignage d'un fabriquant de voitures : Marcel de chez AutoBuild
"Je vois que mes autres camarades témoins ont légèrement dépassé alors je tenterai d’être bref. Nous ne faisons que programmer. Nous imaginons toutes les possibilités imaginables et nous programmons nos machines pour qu’elles répondent de telle ou telle manière puis pour qu’elles apprennent de leurs réponses et s’améliorent de façon autonome. Nous ne faisons pas les choix à la place du conducteur, il est celui qui fait le choix éthique dans l’affaire, nous ne faisons que lui proposer les options. Nous n’avons fait que rendre possible la connexion entre choix éthique du conducteur fait à tête reposée et choix de la machine en cas de situation de crise. Si vous cherchez un responsable, allez d’abord voir du côté du fabriquant si l’accident était dû à un élément défectueux, sinon votre coupable est tout trouvé ! Si vous ne vouliez pas que le conducteur soit blâmé, il ne fallait pas refuser la proposition de loi de 1934 sur la responsabilisation des machines."
Tweet d'un législateur inconnu
Témoignage d'un programmeur : Jean-Claude Mézières de chez Concexion
Conclusion ?
Le procès de Valérien pose des problèmes éthiques mais aussi légaux. Il est trop tôt encore pour s'avancer quant à l'issue du procès. Il semblerait qu'Autopia ait grandement besoin de se doter d'une législation en la matière, chose qu'elle avait refusé de faire jusque-là.
Plus d'informations sur la question de la responsabilité
Hevelke, A. and Nida-Rümelin, J. (2014). Responsibility for Crashes of Autonomous Vehicles: An Ethical Analysis. Science and Engineering Ethics, 21(3), pp.619-630.
Lin, P. (2016). Why ethics matter for autonomous cars. Autonomous Driving, pp.69-85
Gary E. Marchant; Rachel A. Lindor, (2012). The Coming Collision between Autonomous Vehicles and the Liability System, 52 Santa Clara L. Rev.
Belay, N. (2015). Robot Ethics and Self-Driving Cars: How Ethical Determinations in Software Will Require a New legal Framework, 40 J. Legal Prof.
Coeckelbergh, M. (2016). Responsibility and the Moral Phenomenology of Using Self-Driving Cars. Applied Artificial Intelligence, 30(8), pp.748-757.
Gless, S., Silverman, E. and Weigend, T. (2016). If Robots Cause Harm, Who is to Blame? Self-Driving Cars and Criminal Liability. SSRN Electronic Journal.
https://www.theatlantic.com/technology/archive/2013/10/the-ethics-of-autonomous-cars/280360/
https://www.wired.com/2013/07/the-surprising-ethics-of-robot-cars/
.