Même
plus besoin de les imaginer, elles existent déjà ! Les villes
intelligentes sont les villes où la circulation se fait grâce à
des voitures autonomes et où le quotidien devient facilité par la
présence de robots et une multitude d'objets connectés. Toutefois,
ces villes qualifiées de futuristes sont loin d'être des villes
sans droit ni loi. La série de questions-réponses suivantes
permettra de défricher les aspects juridiques concernant les
robots, les voitures autonomes et les objets connectés.
Cet article fait partie du dossier d'EchoRadar intitulé "Artificialités futures (robots, villes intelligentes) ".
Source image : citizenpost.fr
- Le
robot domestique de ma grand-mère s'est trompé dans le dosage de
son médicament aggravant son état de santé : qui est
responsable ?
Cela
dépend...En matière de responsabilité, aucune réponse intangible
ne peut être fournie car cela dépend de beaucoup d'éléments dont
ceux de contexte mais également de l'interprétation d'une possible
personnalité juridique du robot.
En
effet, il est indéniable qu'au regard de
la vitesse de création des inventions technologiques, la
réglementation du fonctionnement et de l'utilisation des robots va
constituer un des enjeux majeurs juridiques mais également éthiques
des années à venir.
En
propos liminaires, il est important de distinguer la notion de robot
avec celle d'objet connecté. L'objet connecté est un ensemble de
capteurs sans fil qui récupèrent des données et qui
repose en partie sur les infrastructures existantes de l’internet.
De
même, un robot ne peut être assimilé à un simple automate qui,
comme son nom l'indique, accomplit uniquement des automatismes, des
tâches uniques répétitives et fastidieuses.
Ainsi,
à la différence de l'objet connecté et de l'automate, le robot,
nouvelle génération, serait doté d'intelligence artificielle qui
lui confère une autonomie de décision.
Toutefois,
le curseur de l'intelligence du robot par rapport à l'automate n'est
pas si facile à placer, à partir de quel niveau d'autonomie un
automate peut-il être considéré comme un robot ?
Cette
frontière de l'autonomie et de l'intelligence de la machine a des
conséquences juridiques importantes notamment en ce qui concerne le
statut juridique du robot.
A
ce sujet, deux thèses juridiques s'affrontent, elles reflètent
chacune une conception du robot, plus ou moins autonome.
La
première thèse soutenue par Alain Bensoussan
soutient la création d'un statut juridique spécifique au robot du
fait de son autonomie grandissante voire désormais de son
intelligence artificielle. Selon cette thèse, la
personnalité juridique propre du robot se distingue du régime
juridique lié aux animaux et des biens et devrait être encadrée
afin de prévoir la sécurité des utilisateurs mais également la
sécurité du robot lui-même. Pour commencer, il est proposé de
conférer une identité à part entière aux robots ayant par exemple
un numéro de sécurité sociale propre et permettant d'engager la
responsabilité du robot.
La
seconde thèse défendue par Mme Mendoza-Caminade
est le refus « de conférer un statut propre aux robots ».
Pour elle, « il
est préférable de les maintenir dans la catégorie des choses. Quel
que soit son degré de sophistication, l'intelligence artificielle ne
permettra jamais de conférer à l'androïde une conscience, une
volonté qui lui soit propre. Ce ne sont pas des personnes dotées
d'une conscience et d'une dignité et elles ne constituent pas des
sujets de droit [...] Actuellement,
l'intérêt de créer un statut autonome des robots n'est pas
suffisamment avéré. L'homme doit encore assumer les conséquences
de ses choix même s'il ne maîtrise pas l'intégralité des
résultats qu'il a engendrés ». Ainsi, il
n'est pas toujours pertinent de créer de nouvelles règles de droit
malgré les évolutions technologiques.
D'autant
plus que, concrètement, la vente du robot, comme tout bien, entraîne
pour le vendeur une obligation de garantie et engage sa
responsabilité délictuelle du fait d’un défaut de sécurité de
l’un de ses produits ou services entraînant un dommage à une
personne. Même si l'autonomie des robots grandit, la responsabilité
juridique repose toujours sur la notion de discernement, les machines
resteront alors sous la responsabilité de leur gardien soit l’usager
soit son fabricant par le biais de la responsabilité des produits
défectueux.
Pour
l'instant, une simple charte peut réglementer l'usage des robots, il
pourrait même s'agir dans un premier temps de la reprise des trois
règles de la robotique édictée par Isaac Asimov qui sont les
suivantes :
1- un
robot ne peut porter atteinte à un être humain, ni restant passif
permettre qu'un être humain soit exposé au danger ;
2- un
robot doit obéir aux ordres que lui donne un être humain sauf si de
tels ordres entrent en conflit avec la première loi ;
3-
un robot doit protéger son existence tant que cette protection
n'entre pas en conflit avec la première ou la deuxième loi.
Au
niveau international, l'esquisse d'une telle charte semble voire le
jour au sujet des armes autonomes ou encore des « robots
tueurs ».
En
effet, par une lettre ouverte, plusieurs scientifiques et
intellectuels dont le physicien britannique Stephen Hawking, Elon
Musk (fondateur de l'entreprise des voitures électriques Tesla) et
l'intellectuel Noam Chomsky lancent un appel pour limiter le
développement des armes autonomes dotées d'intelligence
artificielle. « Nous
pensons que l'intelligence artificielle a par bien des aspects un
immense potentiel au bénéfice de l'humanité et que de l'accomplir
devrait rester l'objectif de ce champ de recherche. Lancer une course
militaire aux armements dotés d'intelligence artificielle est une
mauvaise idée qu'il faut empêcher en interdisant les armes
autonomes offensives dépourvues de contrôle humain significatif ».
Ainsi
à l'image des traités internationaux interdisant les armes
chimiques et biologiques, nucléaires et spatiales, cette lettre a
pour objectif d'alerter l'opinion publique afin de mener à une
éventuelle réglementation des armes autonomes au niveau
international.
A bord de ma voiture
autonome, j'ai un accident de la route : qui est responsable ?
Cela
dépend également...Il est difficile de répondre sans savoir
notamment quel est le degré d'autonomie de la voiture utilisé.
En
effet, concernant les voitures autonomes,
les constructeurs automobiles ont déjà imaginé six niveaux
d'autonomie allant de l'absence totale d'automatisation à la prise
en charge entière du véhicule par le système automatisé.
Aujourd'hui, il est interdit de laisser circuler une voiture de
niveau 3 sur la route. Les niveaux 3 et 4 permettent une prise en
charge partielle par un système automatisé dans lequel le
conducteur peut ou doit quand même intervenir. La réglementation
officielle ne devrait pas tarder car depuis la loi n°
2015-992 du 17 août 2015 relative à la transition énergétique
pour la croissance verte, le Gouvernement est autorisé à prendre
par ordonnance toute mesure afin de permettre « la
circulation sur la voie publique, à l'exception des voies réservées
aux transports collectifs, de véhicules à délégation partielle ou
totale de conduite, qu'il s'agisse de voitures particulières, de
véhicules de transport de marchandises ou de véhicules de transport
des personnes, à des fins expérimentales, dans des conditions
assurant la sécurité de tous les usagers et en prévoyant, le cas
échéant, un régime de responsabilité approprié ».
L'article 37- IX énonce donc bel et bien qu'il est probable qu'un
régime de responsabilité propre applicable à ces nouveaux types de
véhicules soit fixé.
La
France est loin d'être la première à légiférer à ce sujet. Le
16 juin 2011, l'Etat du Nevada avait voté la première loi
autorisant la circulation de tels engins sur la voie publique. Cet
Etat a permis à Google de lancer les premiers tests grandeur nature
de sa « Google Car ». Cette législation, entrée
en vigueur le 1er mars 2012, a imposé qu'un conducteur humain
titulaire d'un permis de conduire soit assis sur le siège conducteur
et qu'il soit capable de prendre le contrôle du véhicule en cas de
défaillance technique. Cette loi reste en accord avec la convention
internationale de Vienne du 8 novembre 1968 qui impose que tout
véhicule en mouvement ait un conducteur et qu'il doit en rester
maître.
Concernant
les responsabilités engagées en cas d'accident, la loi du Nevada a
écarté la responsabilité du fabricant du véhicule et celle du
conducteur au détriment du fabricant du système autonome, en cas de
défaillance de la technologie embarquée, sauf si le constructeur
automobile l'a directement installée dans le véhicule ou si le
préjudice a été causé par un dysfonctionnement du véhicule
indépendamment des aspects robotiques.
Le
recours à de tels véhicules aura pour conséquence d'adapter les
polices d'assurances. En effet, le modèle de risque
actuel est basé en grande majorité sur le comportement du
conducteur humain. Or avec de ces nouvelles voitures, la
responsabilité principale devrait être transférée au fournisseur
de la technologie. Ainsi, on peut toujours espérer que les prix des
police d'assurance devrait baisser car les accidents devraient
diminuer. En effet, actuellement, 95% des accidents sont dus à une
défaillance humaine et par opposition, depuis les débuts de
l'expérimentation de la « Google Car »
en 2009, le moteur de recherche a dénombré uniquement onze
accidents qui ont toujours été causés en ville ; dans sept
cas, les voitures avaient été heurtées à l'arrière à un feu
rouge.
Mon
assurance-vie augmente son tarif annuel sous prétexte que ma montre
connectée lui prouve que je ne fais pas assez d'activité physique
durant la semaine, est-ce légal ?
Le
traitement des données à caractère personnel est soumis à une
réglementation stricte qui est celle de la loi « Informatique
et Libertés »dont
les principes fondamentaux sont exposés ci-dessous.
En
effet, concernant les objets connectés, la principale
problématique juridique reste la problématique du respect de la vie
privée.
Du
compteur recensant la consommation d'eau et d'électricité à la
montre calculant le nombre de calories journalières dépensées,
les objets connectés traitent toutes sortes de données sensibles
comme les données de santé et dont la collecte reste un enjeu
juridique. En effet, ces données sensibles doivent être protégées
au titre de la protection de la vie privée et ne doivent être
dévoilées que de façon limitative.
Par
exemple, les applications biométriques qui ont la particularité
d'être uniques et permanentes permettent de ce fait le "traçage"
des individus et leur identification certaine. Le caractère sensible
de ces données justifie que la loi prévoie un contrôle particulier
de la CNIL fondé essentiellement sur l’impératif de
proportionnalité et sur la finalité sécuritaire
sur les dispositifs de reconnaissance biométrique.
Mais
lorsque ces données de santé sont délivrées par des objets
connectés, il n'est plus certain que le traitement de ces données
soit encadré. Il existe aujourd'hui des partenariats entre des
sociétés d'assurance et des sociétés d'objets connectés.
Heureusement, juridiquement, l'assureur ne peut pas encore avoir
accès directement aux données de santé qui restent protégées par
le secret médical.
Il
apparaît donc important de mettre en place « un droit au
contrôle » des puces RFID afin de garantir à leurs usagers la
maîtrise de la diffusion de leurs données personnelles produites
par ces outils. Ceci
supposerait que leurs utilisateurs puissent
à tout moment désactiver la fonctionnalité permettant la
communication des données, en application de leur droit
d’opposition.
De
même, la captation et l'enregistrement d'images relatives aux
personnes relèvent également de la loi « Informatique et
Libertés ».
En
effet, il est important de souligner également le risque de collecte
de données à caractère personnel par tout objet connecté, du
drone aux lunettes connectées.
Que ce soit grâce au survol des drones ou au passage dans nos rues
des « Google
cars »,
la captation des données personnelles n'est plus consentie
expressément par l'individu.
La
CNIL avait constaté lors de contrôles effectués fin 2009 et début
2010 que la société Google, via le déploiement de véhicules
enregistrant des vues panoramiques des lieux parcourus, récoltait,
en plus de photographies, des données transitant par les réseaux
sans fil Wi-Fi de particuliers, et ce à l'insu des personnes
concernées. Cette collecte déloyale de très nombreux points
d'accès Wi-Fi constitue un réel manquement à la loi
« Informatique et Libertés ».
Concernant
tous ces objets connectés, il faudra donc veiller à vérifier
qu’ils ne récupèrent pas également des données à caractère
personnelle de façon illégale. En effet, une personne dotée de
lunettes connectées peut scanner le visage des passants qu'elle
croise dans la rue à leurs insus et les partager sur Internet.
Consciente
de ces enjeux depuis 2012, la CNIL, en liaison avec le Groupe des 29
CNIL européennes (G29) réfléchit activement à l’amélioration
de la réglementation à ce sujet.
Il
s'agit bel et bien de protéger la confidentialité des données mais
également de réglementer l'utilisation commerciale des données.
La
mise en place d'une publicité ciblée rendue possible par les
données de géolocalisation, les cookies, n'est licite uniquement
qu'après avoir informé les internautes et avoir recueilli leur
consentement exprès.
En
conclusion, certes les solutions juridiques n'apparaissent pas de
façon évidentes mais face à ces nouveaux problèmes juridiques les
clés de déchiffrement existent déjà et il n'est pas toujours
indispensable d'en inventer des nouvelles.
Il
s'agit simplement de garder à l'esprit qu'éthique et droit
doivent comme depuis toujours jouer un rôle fondamental dans la
régulation de la société.
Sources :
*CNIL
- Cahiers IP n°2 – Innovation et prospective – Le corps, nouvel
objet connecté ? Du Quantified self à la m-santé : les
nouveaux territoires de la mise en données du monde
*« Voitures
autonomes – en 2016 sur les routes françaises » Sylvie
Rozenfeld - Expertises des systèmes d'information n°404 juillet
2015.
*
« Robots tueurs – Carnage mécanique » de Pierre Alonso
dans Libération du 29 juillet 2015.
Notes de bas de page :
