Quels droits et devoirs en robotique?

Même plus besoin de les imaginer, elles existent déjà ! Les villes intelligentes sont les villes où la circulation se fait grâce à des voitures autonomes et où le quotidien devient facilité par la présence de robots et une multitude d'objets connectés. Toutefois, ces villes qualifiées de futuristes sont loin d'être des villes sans droit ni loi. La série de questions-réponses suivantes permettra de défricher les aspects juridiques concernant les robots, les voitures autonomes et les objets connectés.



Cet article fait partie du dossier d'EchoRadar intitulé "Artificialités futures (robots, villes intelligentes) ".

Source image : citizenpost.fr

1. Le robot domestique de ma grand-mère s'est trompé dans le dosage de son médicament aggravant son état de santé : qui est responsable ?
   

Cela dépend...En matière de responsabilité, aucune réponse intangible ne peut être fournie car cela dépend de beaucoup d'éléments dont ceux de contexte mais également de l'interprétation d'une possible personnalité juridique du robot.

En effet, il est indéniable qu'au regard de la vitesse de création des inventions technologiques, la réglementation du fonctionnement et de l'utilisation des robots va constituer un des enjeux majeurs juridiques mais également éthiques des années à venir.

En propos liminaires, il est important de distinguer la notion de robot avec celle d'objet connecté. L'objet connecté est un ensemble de capteurs sans fil qui récupèrent des données et qui repose en partie sur les infrastructures existantes de l’internet.

De même, un robot ne peut être assimilé à un simple automate qui, comme son nom l'indique, accomplit uniquement des automatismes, des tâches uniques répétitives et fastidieuses.

Ainsi, à la différence de l'objet connecté et de l'automate, le robot, nouvelle génération, serait doté d'intelligence artificielle qui lui confère une autonomie de décision.

Toutefois, le curseur de l'intelligence du robot par rapport à l'automate n'est pas si facile à placer, à partir de quel niveau d'autonomie un automate peut-il être considéré comme un robot ?

Cette frontière de l'autonomie et de l'intelligence de la machine a des conséquences juridiques importantes notamment en ce qui concerne le statut juridique du robot.

A ce sujet, deux thèses juridiques s'affrontent, elles reflètent chacune une conception du robot, plus ou moins autonome.

La première thèse soutenue par Alain Bensoussan¹ soutient la création d'un statut juridique spécifique au robot du fait de son autonomie grandissante voire désormais de son intelligence artificielle. Selon cette thèse, la personnalité juridique propre du robot se distingue du régime juridique lié aux animaux et des biens et devrait être encadrée afin de prévoir la sécurité des utilisateurs mais également la sécurité du robot lui-même. Pour commencer, il est proposé de conférer une identité à part entière aux robots ayant par exemple un numéro de sécurité sociale propre et permettant d'engager la responsabilité du robot².

La seconde thèse défendue par Mme Mendoza-Caminade³ est le refus « de conférer un statut propre aux robots ». Pour elle, « il est préférable de les maintenir dans la catégorie des choses. Quel que soit son degré de sophistication, l'intelligence artificielle ne permettra jamais de conférer à l'androïde une conscience, une volonté qui lui soit propre. Ce ne sont pas des personnes dotées d'une conscience et d'une dignité et elles ne constituent pas des sujets de droit [...] Actuellement, l'intérêt de créer un statut autonome des robots n'est pas suffisamment avéré. L'homme doit encore assumer les conséquences de ses choix même s'il ne maîtrise pas l'intégralité des résultats qu'il a engendrés ». Ainsi, il n'est pas toujours pertinent de créer de nouvelles règles de droit malgré les évolutions technologiques.

D'autant plus que, concrètement, la vente du robot, comme tout bien, entraîne pour le vendeur une obligation de garantie et engage sa responsabilité délictuelle du fait d’un défaut de sécurité de l’un de ses produits ou services entraînant un dommage à une personne. Même si l'autonomie des robots grandit, la responsabilité juridique repose toujours sur la notion de discernement, les machines resteront alors sous la responsabilité de leur gardien soit l’usager soit son fabricant par le biais de la responsabilité des produits défectueux.

Pour l'instant, une simple charte peut réglementer l'usage des robots, il pourrait même s'agir dans un premier temps de la reprise des trois règles de la robotique édictée par Isaac Asimov qui sont les suivantes :

1- un robot ne peut porter atteinte à un être humain, ni restant passif permettre qu'un être humain soit exposé au danger ;

2- un robot doit obéir aux ordres que lui donne un être humain sauf si de tels ordres entrent en conflit avec la première loi ;

3- un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Au niveau international, l'esquisse d'une telle charte semble voire le jour au sujet des armes autonomes ou encore des « robots tueurs ».

En effet, par une lettre ouverte, plusieurs scientifiques et intellectuels dont le physicien britannique Stephen Hawking, Elon Musk (fondateur de l'entreprise des voitures électriques Tesla) et l'intellectuel Noam Chomsky lancent un appel pour limiter le développement des armes autonomes dotées d'intelligence artificielle. « Nous pensons que l'intelligence artificielle a par bien des aspects un immense potentiel au bénéfice de l'humanité et que de l'accomplir devrait rester l'objectif de ce champ de recherche. Lancer une course militaire aux armements dotés d'intelligence artificielle est une mauvaise idée qu'il faut empêcher en interdisant les armes autonomes offensives dépourvues de contrôle humain significatif ».

Ainsi à l'image des traités internationaux interdisant les armes chimiques et biologiques, nucléaires et spatiales, cette lettre a pour objectif d'alerter l'opinion publique afin de mener à une éventuelle réglementation des armes autonomes au niveau international.

2. A bord de ma voiture autonome, j'ai un accident de la route : qui est responsable ?

Cela dépend également...Il est difficile de répondre sans savoir notamment quel est le degré d'autonomie de la voiture utilisé.

En effet, concernant les voitures autonomes, les constructeurs automobiles ont déjà imaginé six niveaux d'autonomie allant de l'absence totale d'automatisation à la prise en charge entière du véhicule par le système automatisé. Aujourd'hui, il est interdit de laisser circuler une voiture de niveau 3 sur la route. Les niveaux 3 et 4 permettent une prise en charge partielle par un système automatisé dans lequel le conducteur peut ou doit quand même intervenir. La réglementation officielle ne devrait pas tarder car depuis la loi n° 2015-992 du 17 août 2015 relative à la transition énergétique pour la croissance verte, le Gouvernement est autorisé à prendre par ordonnance toute mesure afin de permettre « la circulation sur la voie publique, à l'exception des voies réservées aux transports collectifs, de véhicules à délégation partielle ou totale de conduite, qu'il s'agisse de voitures particulières, de véhicules de transport de marchandises ou de véhicules de transport des personnes, à des fins expérimentales, dans des conditions assurant la sécurité de tous les usagers et en prévoyant, le cas échéant, un régime de responsabilité approprié ». L'article 37- IX énonce donc bel et bien qu'il est probable qu'un régime de responsabilité propre applicable à ces nouveaux types de véhicules soit fixé.

La France est loin d'être la première à légiférer à ce sujet. Le 16 juin 2011, l'Etat du Nevada avait voté la première loi autorisant la circulation de tels engins sur la voie publique. Cet Etat a permis à Google de lancer les premiers tests grandeur nature de sa « Google Car ». Cette législation, entrée en vigueur le 1er mars 2012, a imposé qu'un conducteur humain titulaire d'un permis de conduire soit assis sur le siège conducteur et qu'il soit capable de prendre le contrôle du véhicule en cas de défaillance technique. Cette loi reste en accord avec la convention internationale de Vienne du 8 novembre 1968 qui impose que tout véhicule en mouvement ait un conducteur et qu'il doit en rester maître.

Concernant les responsabilités engagées en cas d'accident, la loi du Nevada a écarté la responsabilité du fabricant du véhicule et celle du conducteur au détriment du fabricant du système autonome, en cas de défaillance de la technologie embarquée, sauf si le constructeur automobile l'a directement installée dans le véhicule ou si le préjudice a été causé par un dysfonctionnement du véhicule indépendamment des aspects robotiques.

Le recours à de tels véhicules aura pour conséquence d'adapter les polices d'assurances. En effet, le modèle de risque actuel est basé en grande majorité sur le comportement du conducteur humain. Or avec de ces nouvelles voitures, la responsabilité principale devrait être transférée au fournisseur de la technologie. Ainsi, on peut toujours espérer que les prix des police d'assurance devrait baisser car les accidents devraient diminuer. En effet, actuellement, 95% des accidents sont dus à une défaillance humaine et par opposition, depuis les débuts de l'expérimentation de la « Google Car » en 2009, le moteur de recherche a dénombré uniquement onze accidents qui ont toujours été causés en ville ; dans sept cas, les voitures avaient été heurtées à l'arrière à un feu rouge.

3. Mon assurance-vie augmente son tarif annuel sous prétexte que ma montre connectée lui prouve que je ne fais pas assez d'activité physique durant la semaine, est-ce légal ?

Le traitement des données à caractère personnel est soumis à une réglementation stricte qui est celle de la loi « Informatique et Libertés »dont les principes fondamentaux sont exposés ci-dessous.

En effet, concernant les objets connectés, la principale problématique juridique reste la problématique du respect de la vie privée.

Du compteur recensant la consommation d'eau et d'électricité à la montre calculant le nombre de calories journalières dépensées⁴, les objets connectés traitent toutes sortes de données sensibles comme les données de santé et dont la collecte reste un enjeu juridique. En effet, ces données sensibles doivent être protégées au titre de la protection de la vie privée et ne doivent être dévoilées que de façon limitative.

Par exemple, les applications biométriques qui ont la particularité d'être uniques et permanentes permettent de ce fait le "traçage" des individus et leur identification certaine. Le caractère sensible de ces données justifie que la loi prévoie un contrôle particulier de la CNIL fondé essentiellement sur l’impératif de proportionnalité et sur la finalité sécuritaire⁵ sur les dispositifs de reconnaissance biométrique⁶.

Mais lorsque ces données de santé sont délivrées par des objets connectés, il n'est plus certain que le traitement de ces données soit encadré. Il existe aujourd'hui des partenariats entre des sociétés d'assurance et des sociétés d'objets connectés. Heureusement, juridiquement, l'assureur ne peut pas encore avoir accès directement aux données de santé qui restent protégées par le secret médical⁷. 

Il apparaît donc important de mettre en place « un droit au contrôle » des puces RFID afin de garantir à leurs usagers la maîtrise de la diffusion de leurs données personnelles produites par ces outils. Ceci supposerait que leurs utilisateurs puissent à tout moment désactiver la fonctionnalité permettant la communication des données, en application de leur droit d’opposition.

De même, la captation et l'enregistrement d'images relatives aux personnes relèvent également de la loi « Informatique et Libertés ».

En effet, il est important de souligner également le risque de collecte de données à caractère personnel par tout objet connecté, du drone aux lunettes connectées. Que ce soit grâce au survol des drones ou au passage dans nos rues des « Google cars », la captation des données personnelles n'est plus consentie expressément par l'individu.

La CNIL avait constaté lors de contrôles effectués fin 2009 et début 2010 que la société Google, via le déploiement de véhicules enregistrant des vues panoramiques des lieux parcourus, récoltait, en plus de photographies, des données transitant par les réseaux sans fil Wi-Fi de particuliers, et ce à l'insu des personnes concernées. Cette collecte déloyale de très nombreux points d'accès Wi-Fi  constitue un réel manquement à la loi « Informatique et Libertés ».

Concernant tous ces objets connectés, il faudra donc veiller à vérifier qu’ils ne récupèrent pas également des données à caractère personnelle de façon illégale. En effet, une personne dotée de lunettes connectées peut scanner le visage des passants qu'elle croise dans la rue à leurs insus et les partager sur Internet.

Consciente de ces enjeux depuis 2012, la CNIL, en liaison avec le Groupe des 29 CNIL européennes (G29) réfléchit activement à l’amélioration de la réglementation à ce sujet.

Il s'agit bel et bien de protéger la confidentialité des données mais également de réglementer l'utilisation commerciale des données.

La mise en place d'une publicité ciblée rendue possible par les données de géolocalisation, les cookies, n'est licite uniquement qu'après avoir informé les internautes et avoir recueilli leur consentement exprès.

En conclusion, certes les solutions juridiques n'apparaissent pas de façon évidentes mais face à ces nouveaux problèmes juridiques les clés de déchiffrement existent déjà et il n'est pas toujours indispensable d'en inventer des nouvelles.

Il s'agit simplement de garder à l'esprit qu'éthique et droit doivent comme depuis toujours jouer un rôle fondamental dans la régulation de la société.

Sources :

*CNIL - Cahiers IP n°2 – Innovation et prospective – Le corps, nouvel objet connecté ? Du Quantified self à la m-santé : les nouveaux territoires de la mise en données du monde

*Actes du colloque : « Santé et nouvelles technologies en Europe » - Université Toulouse I – Capitole – 18 avril 2014.

*« Voitures autonomes – en 2016 sur les routes françaises » Sylvie Rozenfeld - Expertises des systèmes d'information n°404 juillet 2015.

* « Robots tueurs – Carnage mécanique » de Pierre Alonso dans Libération du 29 juillet 2015.

Notes de bas de page :

1 Maître Alain Bensoussan est le président et le fondateur de l'association du droit des robots (ADDR) : http://www.alain-bensoussan.com/association-du-droit-des-robots/

2 Interview d'Alain Bensoussan « le droit des robots : mythe ou réalité ? » par Emile et Fernidand n°7 – octobre 2014 :http://www.alain-bensoussan.com/wp-content/uploads/2014/11/28743700.pdf

3 La santé et la robotique RLDI n°108- octobre 2014 supplément « Actes du colloque : santé et nouvelles technologies en Europe – Université Toulouse I – Capitole du 18 avril 2014.

4 Selon la CNIL, le quantified self est traduit en français par l'auto-mesure est un mouvement qui vise au « mieux-être » en mesurant différentes activités liées au mode de vie. Il recense l'ensemble des mesures issues des objets connectés en rapport avec la santé de l'individu.

5 Par exemple, la CNIL a subordonné la création d’une base centralisée de données d’empreintes digitales à un "fort impératif de sécurité" car cette technique demeure risquée en termes d’usurpation d’identité.

6 Article 25 de la loi n°78-17 de la loi relative à l'informatique, aux fichiers et aux libertés.

7 En 2014, Axa et Withings se sont associés – propos de Thomas Roche dans une interview donnée au magasine Expertises des systèmes d'information n°400 de mars 2015 « La santé : des données très connectées »