Robots, vos papiers !

Arrêtes, ou tu finiras en prison, robot!

Faut-il des lois spécifiques pour les robots ? Cette question au goût asimovien n’est pas une lubie. Le développement attendu des robots et autres produits « robotisés » - la voiture sans chauffeur, les drones, par exemple - amène à se poser très sérieusement la question.

L’UE a déjà commencé à le faire. Robolaw un projet de recherche qui vient de s’achever a ainsi étudié si l’état actuel de la législation est adapté à l’émergence et la prolifération attendue de robots et s’est interrogé sur les problèmes éthiques posés par ces nouveaux venus.

Aujourd’hui c’est le tour des américains de s’y coller. C’est un article publié par Brookings qui veut lancer le débat. Ryan Calo de l’University of Washington School of Law, pose la question : « Faut-il créer aux Etats-Unis une Commission Fédérale de la Robotique ? »

Ryan Calo fait valoir que chaque nouvelle technologie (le rail, la radio, les télécoms…) a vu se créer un agence fédérale pour mettre au point des législations ad hoc. Et il juge que la robotique est bien susceptible de poser de nouveaux problèmes légaux. Typiquement : qui sera responsable si une voiture sans chauffeur créé un accident, blesse ou tue ? Le chauffeur ? Il n’y en a pas. Ce sera le constructeur ?  Celui qui a écrit le logiciel ? Le propriétaire ?

Une myriade de questions se posera à mesure que les « robots » apparaîtront. Et vu les risques physiques encourus, il sera plus difficile de mettre le problème sous le tapis, comme on l’a fait avec le logiciel. On sait que quelque erreur que fasse votre logiciel et quelles qu’en soient les conséquences, celui qui l’a écrit ne peut être tenu pour responsable… Pratique !

Certes, on a le temps de voir avant que les voitures autonomes ne bouchonnent sur les autoroutes. Mais plus près de nous, la question se pose déjà avec l’arrivée de robots industriels « collaboratifs ». On veut les voir travailler au contact de l’homme. Que se passera-t-il si quelqu'un est blessé par un robot devenu "fou"? Qui sera responsable ? La question ne se posait pas jusque-là : la loi impose actuellement que les robots industriels soient enfermés dans des cages afin de protéger les ouvriers.

Dans son argumentaire en faveur d’une Commission fédérale, Ryan Calo fait valoir que le problème est complexe et que pour légiférer à bon escient il est nécessaire de réunir, au-delà des spécialistes du droit, des ingénieurs en informatique et des spécialistes des interfaces homme-machine afin de bien prendre en compte tous les aspects de la problématique.

Pour appuyer sa thèse Calo cite l’erreur commise par l’Etat du Nevada. Il avait légiféré en 2011 à propos des voitures sans chauffeur. La loi définissait un véhicule autonome en se référant à « tout remplacement de  l’opérateur humain par de l’intelligence artificielle ». Du coup, de nombreux véhicules « normaux », comme ceux dotés de systèmes anticollision ou d’ABS tombaient sur le coup de cette loi restrictive. Elle a été retirée. Caramba ! Encore raté.

A lire
L’article de Ryan Calo