LES LOIS DE LA ROBOTIQUE D'ASIMOV ET LE DROIT - Sous la direction de Franck Macrez - Revue ...
←
→
Transcription du contenu de la page
Si votre navigateur ne rend pas la page correctement, lisez s'il vous plaît le contenu de la page ci-dessous
NUMÉRO SPÉCIAL
MARS 2020
LES LOIS DE LA ROBOTIQUE
D’ASIMOV ET LE DROIT
Sous la direction de Franck Macrez
Illustration : Aurélie Kraft
www.revue-rfpi.com
ISSN 2490-8347
Edouard TREPPOZ Avocat
Direction de la Revue
Professeur à l'Université Jean Moulin Comité Régional
Lyon3, directeur du Centre Paul
Yann BASIRE Roubier Amérique du Nord
Maître de conférences à l'Université de
Strasbourg, Directeur Général du Comité Régional Europe Charles DE HAAS
CEIPI Avocat
Alexis BOISSON
Rédactrice en chef Emmanuel GILLET
Maître de conférences à l'Université
Pierre- Mendès-France Docteur en droit
Clémence DE MARASSE-ÉNOUF
Uroš CEMALOVIC Comité Régional
Comité Éditorial Central
Professeur à la Faculté de droit, Amérique Latine
d’administration publique et de
Yann BASIRE sécurité, Université John Naisbitt, Lola KANDELAFT
Maître de conférences à l'Université de Belgrade, Serbie
Strasbourg, Directeur Général du Avocate
Jean-Pierre GASNIER
CEIPI Cynthia SOLIS
Avocat, Professeur associé à
Valérie-Laure BENABOU l'Université Aix- Marseille Avocate
Professeur à l’Université d’Aix-
Marseille
Natalia KAPYRINA Comité Régional Asie
Docteur en droit privé
Nicolas BRONZO Shujie FENG
Dusan POPOVIC
Maître de conférences à l’Université Professeur de droit, Unversité
d’Aix- Marseille [en disponibilité]l Professeur à l'Université de Belgrade, Tsinghua (Pékin)
Serbie
Sylvain CHATRY Makoto NAGATSUKA
Ciprian Raul ROMIȚAN
Maître de conférences à l’Université de Professeur à l'Université Hitotsubashi
Perpignan Via Domitia Maître de conférences, Université «
Roumaine-Américaine » de Bucarest Aso TSUKASA
José Roberto D'AFFONSECA
GUSMAO Viorel ROS Maître de conférences à l'Université de
Kyushu
Professeur à l'Université Catholique de Professeur, Université « Nicolae
São Paulo, Avocat Titulescu » de Bucarest Textes révisés par :
Paulin EDOU EDOU Eric SERGHERAERT
Yann BASIRE
Docteur en droit Professeur, Université Lille, membre
du CRDP - l'ERADP Nicolas BRONZO
Amélie FAVREAU
Eleni-Tatiani SYNODINOU Nathalie KAPYRINA
Maître de conférences à l’Université de
Grenoble- Alpes Maître de Conférences à l'Université Caroline LE GOFFIC
de Chypre
Karlo FONSECA TINOCO
Docteur en droit, Avocat Comité Régional Océanie
Francis GURRY
Philippe GIRARD-FOLEY
Directeur général de l'OMPI Avocat
Caroline LE GOFFIC
Comité Régional Afrique
Maître de conférences HDR à
l’Université Paris Descartes Yasser OMAR AMINE
Jacques LARRIEU Chercheur en droit de la
Professeur émérite propriété intellectuelle, Avocat au
Barreau du Caire
Christian LE STANC
Ampah JOHNSON
Professeur émérite, Avocat
Enseignant-chercheur à l'Université de
Pilar MONTERO Lomé
Professeur à l’Université d’Alicante François-Xavier KALINDA
Patrick TAFFOREAU Docteur en droit, ancien Doyen de la
faculté de droit de l’Université du
Professeur à l’Université de Lorraine
Rwanda
Daoud Salmouni ZERHOUNI
Fidal est le plus grand cabinet d’avocats fidal.com
d’affaires français indépendant.
Partenaires stratégiques des entreprises, des institutions et des organisations, nous nous attachons à
faire du droit un levier de leur performance et de leur croissance, en France et à l’international. Tout
autant experts dans leur discipline que transverses dans leur approche, nos talents parlent le même
SUIVEZ-NOUS
langage que nos clients et comprennent leurs enjeux. Nous encourageons le partage de la connaissance
et de l’expérience. C’est notre manière d’offrir à nos clients - quels que soient leur taille, leur activité, leur
implantation géographique ou les problèmes qu’ils nous soumettent - des conseils engagés, éclairés et
avisés. Des conseils opérationnels qui les protègent et contribuent activement à leur développement
stratégique et commercial.
Les 29 avocats et juristes du bureau de Strasbourg se tiennent Fidal Strasbourg
aux côtés des entreprises alsaciennes en leur apportant une 9 avenue de l’Europe
expertise juridique complète et adaptée. Espace Européen de l’Entreprise
67 300 Schiltigheim Cedex
03 90 22 06 30
* Nos talents au service de votre développementRevue Francophone de la Propriété
Intellectuelle
ISSN 2490-8347 N° spécial - Mars 2020
Les lois de la robotique d’Asimov et le Droit
SOMMAIRE
F. Macrez et L. Dreyfuss - Éditorial.................................................................................................................. 3
F. Macrez - Les lois de la robotique d’Asimov, modèle pour le système juridique ? ............................... 7
N. Nevejans - Le robot, responsable ? À propos de la Première Loi de la Robotique d’Asimov ......... 15
U. Bellagamba - Le robot, obéissant ? Réflexions juridiques et anthropologiques sur la deuxième loi
de la robotique................................................................................................................................................... 31
J.-M. Deltron - Le robot, entité autonome ? Entre norme et technique, contextes et limites de
l’autonomie cybernétique ................................................................................................................................ 41
A. Vallat - Le robot, gardien de l’humanité. La Loi zéro dans les cycles des Robots et de Fondation
d'Asimov. ........................................................................................................................................................... 59
G. Vercken Conclusion : l’œil du praticien ................................................................................................... 71Propriété littéraire
et artistique
Créé en 2005, l'activité du cabinet Vercken & Gaullier
Médias et communication est uniquement centrée sur deux axes spécialisés : la
propriété littéraire et artistique (droit d’auteur, droits
voisins, droit du producteur de bases de données)
d’une part, et le droit du numérique, d’autre part
Informatique, numérique (contrats et contentieux informatiques, responsabilité
et internet des intermédiaires, données à caractère personnel, e-
commerce, e-réputation, etc.).
Concurrence déloyale Avec la collaboration de Valérie-Laure Benabou,
professeure agrégée de droit et de Benjamin Jean,
et parasitisme consultant technique « Open Source / Open Data »,
une équipe structurée de cinq avocates est au
service des clients du cabinet : grands groupes
Données à caractère internationaux, PME, ministères, collectivités
publiques, institutions.
personnel
Fort de l’expérience de ses deux associés, Florence
Gaullier et Gilles Vercken, le cabinet s’est construit
E-Commerce une réputation dans tous les secteurs traditionnels
des médias (édition, musique, télévision et radio, art,
etc.), mais également dans les nouveaux secteurs
des médias (jeux vidéo, multimédia, sites internet,
plateformes, market place, réseaux sociaux, logiciels,
etc.). L’équipe est passionnée par les technologies
de l’information et comprend les aspects tant
techniques que commerciaux de l’environnement
numérique.
© Tomas Heuer
Cabinet Principal Bureau secondaire
14 rue Séguier – 75006 Paris – France C/O Fidal - 9 avenue de l'Europe – 67300 Schiltigheim
Tel : +33 (0)1 42 21 34 75 - Fax : +33 (0)1 42 21 32 77 Tel : +33 (0)3 90 22 06 30 – Fax : +33 (0)3 90 22 06 31
www.verckengaullier.com – contact@verckengaullier.comÉDITORIAL
Franck MACREZ
Maitre de conférences
Centre d’Études internationales de la propriété intellectuelle (CEIPI
Université de Strasbourg
Laurence DREYFUSS
Avocat au barreau de Strasbourg
Cabinet Fidal
Les fameuses lois de la robotique édictée par Isaac Asimov dans son cycle des robots constituent bien
souvent un modèle de référence, conscient ou non, pour qui veut penser la régulation de l’intelligence
artificielle. La référence à cet univers qui appartient à l’imaginaire collectif est néanmoins bien souvent
purement intuitive, même lorsque c’est le Parlement européen qui s’en empare1, et aucune étude n’a
été menée pour établir la validité et l’intérêt de ces trois Lois pour le système juridique et pour penser
son évolution. C’est à ce questionnement que le présent numéro spécial de la RFPI ambitionne de
répondre, avec quatre questions correspondant à chacune des Lois : Le robot, gardien de l’humanité ?
Le robot, responsable ? Le robot, obéissant ? Le robot, entité autonome ?
Il ne s’agit plus de demain… En effet, l’avocat spécialisé en droit de la propriété intellectuelle est d’ores
et déjà fréquemment confronté à la question de la création par un robot.
Quelles protections des créations, par exemple d’info-graphisme, pour lesquelles la « machine » agit
beaucoup et l’humain très peu?
Lorsqu’il s’agit d’un logo, une marque peut être déposée. Le droit revient au titulaire. Le créateur est
absent du corpus juridique.
Il en est de même du dessin et modèle. Seuls les critères objectifs de nouveauté et de caractère propre
sont pris en compte.
Concernant les brevets, la question demeure ouverte, l’Office Européen des Brevets ayant récemment
rejeté deux demandes désignant une « machine » comme inventeur. Si une personne physique avait
été désignée, la situation aurait certainement été différente, même si l’intelligence artificielle était
intervenue dans le processus inventif.
Se pose la délicate question du droit d’auteur : l’humain est-il l’auteur ? la « machine » est-elle l’auteur
? sont-ils co-auteurs ? l’œuvre est-elle protégeable ? Quant à cette dernière question, la protection
requiert que l’œuvre soit marquée de l’empreinte de la personnalité de l’auteur… mais quel auteur ?
Tous les intervenants ont apporté des pistes passionnantes de réflexion en réponse à cette question.
Un caractère qui fait la distinctivité de ce numéro tient sans doute à l’éclectisme de ses auteurs : tous
gravitent autour de la sphère juridique, mais tout en étant autre chose que juriste… Historien, écrivain
de science-fiction, essayiste, sociologue, philosophe, éthicien, spécialiste en intelligence artificielle,
voire même astro-physicien… C’est à cette diversité que nous convient les lois d’Asimov, sans perdre
de vue que c’est de leur apport au Droit qu’il s’agit, et chacun s’est prêté au jeu, pour ne pas dire
1 Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant
des règles de droit civil sur la robotique (2015/2103(INL).l’exercice, le résultat de notre après-midi de conférence ayant procédé d’une remarquable alchimie,
étonnante pour les organisateurs eux-mêmes.
« Chacun » : pas tout-à- fait. Parmi ceux qui avaient accepté de venir contribuer à notre conférence
figurait Gilbert Hottois, professeur de philosophie à l’université libre de Bruxelles. Nous lui avions
adressé une invitation sans vraiment y croire, un peu comme un enfant s’adressant à une grande
personne ou, plus proche de la réalité, un ignorant osant solliciter le Sage. Il avait, très gentiment et
très simplement, accepté de venir parler de la loi zéro, manifestement intéressé et enthousiaste à la
perspective de cette présentation.
Quelques semaines plus tard, il nous avait prévenu que, hospitalisé, il ne pourrait venir à Strasbourg.
Nous avons appris sa disparition quelques jours plus tard, le 16 mars 2019. Nous croyons pouvoir dire
sans risque de se tromper, bien que sans aucune légitimité pour le faire, que nous avons perdu un
grand penseur de la technoscience et de son éthique. À l’heure où l’intelligence artificielle déchaine
les passions et exacerbe les manichéismes, Hottois savait se situer « entre technophobie et
technophilie ». Son intérêt pour la science-fiction (il avait écrit deux romans de ce genre, ou encore
dirigé une étude portant sur « philosophie et science-fiction ») allié à cette pondération face au
phénomène technoscientifique, en faisait le candidat idéal pour nous parler de la loi Zéro et des
rapports entre l’humanité et les robots. Anthony Vallat a accepté de relever le défi d’un tel sujet, nous
transmettant sa passion pour l’œuvre d’Asimov.
Du philosophe à l’avocat en passant par l’écrivain de science-fiction, l’interdisciplinarité des champs
de réponses permet, ce numéro nous semble en témoigner, d’appréhender globalement les rapports
entre le Droit et l’intelligence artificielle, pour le présent et pour l’avenir.
4Revue Francophone de la Propriété Intellectuelle, Numéro Spécial, Mars 2020
Les lois de la robotique d’Asimov, modèle pour le
système juridique ?
Franck MACREZ
Maitre de conférences
Centre d’Études internationales de la propriété intellectuelle (CEIPI
Université de Strasbourg
Introduction remarquable cohérence. Au final,
l’extraordinaire supériorité intellectuelle du
1.- De Fondation aux Robots. Le génie Robot lui permet de considérer qu’il doit et
d’Asimov ne se mesure pas uniquement aux peut mener l’humanité vers l’Utopie d’une
succès de librairie, aux prix littéraires, ou société parfaite : celle du Second Empire, qu’il
encore à son influence chez d’autres auteurs. contribue à créer dans l’ombre.
Bien entendu, on sait qu’il est l’auteur de Ainsi, le juriste amateur de science-fiction peut
Fondation, élue meilleure série de science- y trouver une source d’inspiration à plusieurs
fiction de tous les temps (prix Hugo 1966), qui égards. D’abord, la perfection rationnelle du
plonge le lecteur dans un empire galactique à robot lui permet de tendre vers l’Utopie1,
son apogée, inexorablement amené à décliner : laquelle contient évidemment l’idéal de Justice.
grâce à la psychohistoire, science statistique Ensuite, l’invention du terme de « robotique »
permettant de prédire l’avenir, Hari Seldon a permet de penser l’ensemble des techniques
établi que l’Empire allait s’effondrer et laisser permettant la conception et la réalisation de
place à 30 000 ans de barbarie… Ce cycle machines « pensantes » comme un tout. Enfin,
s’étend sur cinq siècles, aux moments cruciaux la formulation des « lois » invite à penser la
de l’évolution de la Fondation, tandis régulation de cet ensemble de machines. Il
qu’advient la décadence de l’Empire, à la semble bien qu’au final, la science-fiction soit
manière de celle de l’Empire romain, dont un puissant outil pour penser la société
Asimov s’est inspiré. contemporaine et son évolution2.
Mais son cycle Les Robots n’en est pas moins 2.- Des « robots » aux lois de la robotique.
une œuvre de science-fiction exceptionnelle, L’étymologie du mot « robot » montre que
qui a renouvelé le genre, en particulier en c’est avant tout une machine destinée à
évitant soigneusement le thème du robot se supplanter l’homme dans des tâches pénibles :
retournant contre son créateur, grâce au le salve Rabota signifie corvée, le russe rab,
postulat des lois de la robotique, qui esclave. Le robot relève d’abord du dispositif
gouvernent les actions de tout robot au sein de automate répétitif : machine à coudre,
cet univers. moissonneuse-batteuse, presse-purée,
aspirateur, robot de la chaîne de montage
Les autres volumes du cycle Fondation, écrits industrielle… Mais aujourd’hui, le « robot » est
bien plus tard par Asimov, feront se rejoindre bien plus : il serait intelligent, grâce aux
les deux univers, leur donnant une traitements algorithmiques des données ;
1 Pour une analyse dans l’œuvre d’Asimov, v. : A. robotique d’Asimov et le Droit, conférence CEIPI,
Vallat, Utopie et raison dans le cycle de Fondation Strasbourg 26 avril 2019, .
d’Isaac Asimov, ActuSF, 2014, passim ; A. Vallat, « Le 2 V. « Les lois de la robotique d’Asimov et le Droit »,
robot, gardien de l’humanité ? », in Les lois de la conférence du 26 avril 2019 à l’Université de
Strasbourg, disponible sur www.canalc2.tv.
7F. Macrez – Les lois de la robotique, modèle pour le système juridique ?
parfois même, on ne désigne par ce terme rien un contexte de science juridique. Dans un sens
de plus qu’un pur algorithme (les « robots » de général, le modèle est une représentation du
Google qui scannent le web pour en référencer fonctionnement de quelque chose. Plus
les pages). Le mythe de l’« intelligence particulièrement, il convient d’y voir une
artificielle », expression utilisée pour désigner « représentation simplifiée d’un objet ou d’un
essentiellement la technologie des algorithmes processus qui existe ou doit exister »4, et de
d’apprentissage, rapproche les robots distinguer entre modèle sémantique, modèle
contemporains des robots d’Asimov aux théorique, et modèle normatif. Il est possible,
cerveaux positroniques. Nous sommes en première intention, de se demander s’il
pourtant loin, techniquement, du robot faudrait identifier les trois Lois comme
humanoïde qu’on ne sait distinguer d’un être constitutives d’un modèle théorique, c’est-à-
humain… dire comme « idéalisation » de la réalité. Mais
l’œuvre de fiction fonctionnerait plutôt par
Une des fiertés d’Asimov est d’avoir inventé,
analogie avec la réalité alors que le modèle
sans le savoir, le terme de « robotique »3, ce qui
théorique est descriptif. À la vérité, les trois
lui assure en soi une certaine postérité. Les
Lois pourraient relever plutôt du modèle
désormais fameuses lois de la robotique sont
normatif, qui « indique ce qui doit être »5, que
rédigées ainsi :
ce soit en tant que modèle politique, éthique,
« 1. Un robot ne peut porter atteinte à un être voire de science juridique. À l’extrémité, ce
humain, ni, en restant passif, permettre qu’un être questionnement conduira à s’interroger sur le
humain soit exposé au danger ; fait de savoir si les Lois d’Asimov ne
pourraient pas être vues comme sources de
2. Un robot doit obéir aux ordres qui lui sont donnés
Droit.
par un être humain, sauf si de tels ordres entrent en
conflit avec la première loi ; En tout état de cause, il conviendra, à
considérer que l’œuvre de fiction puisse servir
3.- Un robot doit protéger son existence tant que
de modèle, d’identifier quel rôle elle peut
cette protection n’entre pas en conflit avec la
jouer, de savoir à quel type de modèle on se
première ou la deuxième loi. »
réfère. Bien entendu, il s’agit en l’occurrence de
Une quatrième loi, la loi Zéro est induite des s’interroger sur la régulation de l’« intelligence
trois autres : artificielle », aujourd’hui en devenir, c’est-à-
« 0. Un robot ne peut pas faire de mal à l’humanité, dire de se demander en quoi les lois de la
ni, par son inaction, permettre que l’humanité soit robotique peuvent constituer un modèle pour
blessée » penser les rapports entre intelligence
artificielle et Droit.
Si, intuitivement et en première intention, on
peut se dire que le juriste amateur de l’œuvre Il nous semble que ce modèle peut être
d’Asimov peut éventuellement s’inspirer de triplement caractérisé : les trois Lois
l’œuvre de fiction pour penser son activité de apparaissent avant tout comme un modèle
juriste, il nous semble que la question peut être crédible (I). Même si ce modèle est imparfait
posée très sérieusement : ces lois de la (II), il apparaît utile pour penser
robotique peuvent être constituer un modèle l’appréhension du numérique par le système
pour le Droit ? juridique (III).
3.- Un modèle pour le Droit ? Traiter une telle
question implique avant tout de déterminer ce
qu’il convient d’entendre par « modèle » dans
3 Apparu pour la première fois dans la nouvelle 4 V° « modèle » in A.-J. Aranaud (dir.), Dictionnaire
Menteur, en 1941. encyclopédique de théorie et de sociologie du droit,
LGDJ, Paris, 1993.
5 Ibid.
8Revue Francophone de la Propriété Intellectuelle, Numéro Spécial, Mars 2020
I.- Les lois de la concevoir le Droit comme un système, son
devoir-être est la cohérence, et cette cohérence
robotique, modèle implique de prévoir la manière dont les droits
s’articulent entre eux. Un des moyens logiques
crédible est l’opération de rangement, qui permet de
résoudre une antinomie. Autrement dit, la
4.- L’ontologie des Lois, modèle idéal. Sans nécessité de cohérence conduit à la découverte
entrer dans le détail du contenu des lois, qui d’un principe hiérarchique destiné à mettre de
conduisent à considérer que le robot doit être l’ordre au sein du système juridique9 : la
obéissant, et à s’interroger sur le point de négation d’une des règles « est la solution
savoir s’il peut être autonome ou responsable6, naturelle, fatale et irréversible de toute
il est inévitable de considérer que les Lois antinomie ; dès qu’il y a contradiction
constituent un modèle crédible en raison de (conceptuelle, politique, humaine, etc.), l’un
leur existence même et de leurs caractères. des contraires tend à l’emporter sur l’autre »10.
Elles sont en effet conçues en relation les unes Asimov, qui pourtant faisait preuve d’une
avec les autres (A), et également impératives et érudition assez exceptionnelle, n’avait sans
immuables (B). doute pas lu de littérature juridique…
Pourtant, cette structuration des Lois,
A. Des lois coordonnées identique dans sa conception au système
juridique tel qu’il est élaboré réellement, invite
5.- La hiérarchie des Lois d’Asimov. Le à l’analogie et la comparaison.
premier caractère, sur lequel nous passerons
rapidement, tient au fait que les Lois sont B. Des lois immuables
coordonnées, d’une manière qui fait songer à la
hiérarchie des normes kelsénienne. Chacune 7.- « Code is law ». Un caractère plus original
des lois s’applique en effet sous réserve de ne des trois Lois est que, dans l’univers d’Asimov,
pas entrer en conflit avec la précédente, les Lois sont absolument impératives et
traduisant ainsi une hiérarchie de valeurs et immuables. À aucun moment il n’est question
d’objectif : d’abord, protéger l’humanité toute d’imaginer des robots qui ne seraient pas régis
entière, ensuite les êtres humains par ces Lois car cela est une condition de leur
individuellement, puis assurer l’obéissance du acceptation par l’humanité, méfiante envers
robot et enfin protéger l’existence du robot lui- ces machines intelligentes, c’est-à-dire que
même. Asimov a d’ailleurs exploré les c’est une condition de leur existence même.
potentialités de cette forme de hiérarchie dans Cela signifie que la règle et son effectivité
certaines nouvelles, notamment en trouvant même se situent à l’intérieur de la machine, au
des situations indécidables7 ou qui plus profond des cerveaux positroniques
conduisaient à des comportements absurdes8. imaginés par l’écrivain. C’est dire que les Lois,
Cette nécessaire structuration rappelle le écrites en langage naturel pour être expliquées
système juridique tel qui est réellement conçu, aux humains, sont avant tout formalisées et
ce qui participe de la crédibilité des Lois en tant encapsulées au sein d’un dispositif technique
que modèle réel. (qu’Asimov ne décrit pas). En cela les Lois
constituent un exemple de la technique prise
6.- Importance de la structuration du système
comme norme, comme devoir-être11. Elle est un
juridique. Dès lors que l’on veut bien
6 V. « Les lois de la robotique d’Asimov et le Droit », 10
P. Malaurie, « Les antinomies des règles et de leurs
conférence pécitée. fondements », Le droit privé français à la fin du XXe
7 Cercle vicieux, 1942. siècle, Études offertes à Pierre Catala, Dalloz 2001,
8 Menteur, 1941. p.25, pp.27-28
9 M. Villey, Philosophie du droit, Dalloz, Paris, 2001
11Même si, de manière générale, la technique se situent
(1986), p.280, et p.323, n°244. vraisemblablement à la frontière de l’être et du devoir-
être : P. Amselek, « Norme et loi », Archives de
9F. Macrez – Les lois de la robotique, modèle pour le système juridique ?
mode de régulation de la conduite des législateur européen à s’inspirer des Lois
hommes, parmi trois autres modes que sont la d’Asimov et à les prendre comme modèle.
loi, la norme sociale et le marché12 : le code
Le gouvernement coréen avait adopté une
(informatique), c’est la loi13.
posture analogue dès 2007, avec un projet de
L’idée d’implémenter une norme (juridique)
charte éthique des robots, qui prévoit de
au sein de dispositifs techniques n’est pas
réglementer avant toute chose les normes de
nouvelle, et a été âprement discutée à propos
fabrication16. La démarche en Grande-Bretagne
des mesures techniques de protection des
est comparable, dans un guide officiel de
œuvres et des dispositions juridiques
l’agence de standardisation et certification17. Et
interdisant de les contourner, dans le domaine
le Conseil d’État va dans le même sens en
du droit d’auteur14. Car les dispositions anti-
préconisant la mise en place de « mécanismes
contournement sont apparues nécessaires eu
directement implantés dans le programme
égard au fait qu’il n’est pas de dispositif
initial »18, nommés par lui-même « bouton
informatique qui ne puisse être hacké. C’est,
Asimov » et « porte Asimov ». Certaines
au-delà du contenu des Lois, ce caractère
règles, fondamentales, nécessitent d’être
d’immuabilité (présumée), cette
techniquement implémentées par défaut et en
implémentation par défaut qui a séduit
se situant en amont au stade de la conception,
certains législateurs qui se sont expressément
et le « modèle Asimov » apparaît bien présent
référés aux Lois d’Asimov.
dans les esprits quand il s’agit de concevoir la
8.- Des Lois consacrées. De fait, et de manière norme juridique de demain pour réglementer
tout à fait remarquable, le Parlement européen l’intelligence artificielle.
a fait explicitement référence à la série de
Mais si, en leur principe, les trois Lois servent
science-fiction dans sa résolution de février
de modèle en quelque sorte ontologique, voire
2017, en ces termes :
même symbolique, elles sont limitées au stade
« considérant qu’il y a lieu de considérer les lois de la mise en œuvre.
d’Asimov comme s’appliquant aux concepteurs,
aux fabricants et aux opérateurs de robots, y II.- Les lois de la
compris de robots dotés d’autonomie et de capacités
d’autoapprentissage, étant donné que lesdites lois robotique, modèle
ne peuvent être traduites en langage de
programmation »15.
imparfait
Il semble donc que c’est avant tout le 9.- Incomplétude du modèle. L’imperfection
positionnement « en amont » de du modèle peut se constater à deux niveaux :
l’implémentation des règles qui conduit le d’une part, le contenu des Lois ne correspond
pas, aujourd’hui, à la volonté des législateurs
philosophie du droit 1980, XXV, p.89, spéc. p.100 ; F. 15Résolution du Parlement européen du 16 février 2017
Violet, Articulation de la norme technique et de la règle de contenant des recommandations à la Commission
droit, PUAM, 2003, p.33 concernant des règles de droit civil sur la robotique
12 L. Lessig, « The Law of the Horse : What Cyberlaw (2015/2103(INL).
Might Teach », Harvard Law Review 1999, 113, p.501, Corée du Sud, Charte éthique des robots, 2007, Le
16
, spéc. p.507. Monde, 7 mars 2007.
13 L. Lessig, Code and other laws of cyberspace, Basic 17The British Standards Institution, Robots and robotic
Books, 1999. devices. Guide to the ethical design and application of
14 Article 11 du Traité de l’OMPI sur le droit d’auteur, robots and robotic system, BS 8611:2016, 30 avr. 2016.
1996 ; Directive n° 2001/29/CE du Parlement 18 Conseil d’État, Étude annuelle 2017, Puissance
européen et du Conseil du 22 mai 2001 sur publique et plateformes numériques : accompagner
l’harmonisation de certains aspects du droit d’auteur l’« ubérisation », p.117.
et des droits voisins dans la société de l’information,
JOCE, 22 juin 2001, considérants 47 à 50 et article 6.
10Revue Francophone de la Propriété Intellectuelle, Numéro Spécial, Mars 2020
(A) ; d’autre part, le caractère immuable est 2.- Une intelligence artificielle / un robot doit
problématique au stade de la mise en œuvre s’annoncer comme tel ;
des règles (B).
3.- Une intelligence artificielle ne peut partager
des informations qu’avec l’accord de son
A. Vers un autre contenu des « trois propriétaire
Lois » ?
Plus en phase avec les problématiques
contemporaines de responsabilité et de respect
10.- Conseil d’État : un « bouton Asimov » et
des données personnelles, ces trois principes se
une « porte Asimov ». Si la référence à
déclinent rapidement en une multiplicité
l’écrivain américain de science-fiction est
lorsqu’il d’agit de penser un développement
remarquable, pour ne pas dire étonnante, dans
éthique de l’intelligence artificielle. Ainsi, les
le cadre qui est celui d’un rapport du Conseil
vingt-trois principes d’Asilomar déclinent un
d’État, force est de constater que le modèle ne
guide éthique et pratique pour les concepteurs
va pas jusqu’au contenu des règles à
d’intelligence artificielle21. De telles initiatives,
implémenter. En effet, alors qu’il s’agirait de
qui rappellent à l’évidence les lois d’Asimov,
consacrer le principe de loyauté et de
demeurent symboliques, sans réelle portée
responsabilité dans l’utilisation des
juridique.
algorithmes, la haute juridiction suggère de
Si l’obligatoriété leur fait défaut, faute d’être
mettre en place ce qu’elle nomme elle-même
édictée par une autorité compétente, la
un « bouton Asimov » ou une « porte
question de leur transcription en un texte
Asimov »19. Il s’agirait de pouvoir geler
juridique effectif demeure problématique.
l’exécution d’une tâche (le bouton) ou de
permettre aux services de sécurité et de
renseignement de pénétrer le système (la B. Des Lois impossibles à
porte) lorsque certaines conditions sont implémenter ?
réunies, en particulier la méconnaissance de
droits fondamentaux ou l’atteinte à des êtres 12.- Champ d’application. La première
humains. La référence aux trois Lois s’arrête difficulté tient au champ d’application de telles
donc à l’idée d’immuabilité, mais le contenu de Lois de la robotique. Dans Les Robots, les Lois
la règle est différent. s’appliquent à des robots intelligents, qui
semblent avoir conscience d’eux-mêmes. Nous
11.- Des trois Lois adaptées aux vingt-trois
sommes loin d’avoir développé une
règles d’Asilomar. Les lois d’Asimov sont
« intelligence artificielle forte » et, à la vérité,
donc source d’inspiration, mais leur contenu
les algorithmes autoapprenants tels qu’ils
apparaît inadapté aux problématiques
existent à ce jour sont assez loin de l’idée qu’on
contemporaines. Révélateur de cet état de fait,
doit se faire de l’intelligence… En réalité, ces
un spécialiste en intelligence artificielle a
algorithmes sont particulièrement stupides :
pertinemment suggéré, tout en conservant ces
« L’intelligence artificielle a moins de sens
grands principes au nombre de trois, de
commun qu’un rat », reconnaît Yann Le Cun,
réglementer l’intelligence artificielle en se
responsable de la recherche sur l’intelligence
fondant sur ces trois règles20 :
artificielle de Facebook22. Or les trois Lois
1.- Le propriétaire est responsable des actes de concerneraient, au mieux, une intelligence
l’intelligence artificielle ; artificielle forte, qui aurait conscience d’elle-
même. Une autre difficulté, qui relève du
même ordre d’idée, tient au fait que les trois
19 Conseil d’État, Étude annuelle 2017, eod. loc. 21 FLI, « Asilomar AI Pirnciples », 2017,
20 Oren Etzioni, “How to regulate Artificial https://futureoflife.org/ai-principles/.
intelligence”, The New York Times, 1er sept. 2017. 22Yann Le Cun, conférence à Station F, Paris, 23 janvier
2018.
11F. Macrez – Les lois de la robotique, modèle pour le système juridique ?
Lois s’adressent non aux hommes, mais… aux
robots. C’est une des raisons pour laquelle une
III.- Les lois de la
étude commandée par la Commission robotique, modèle
européenne et conclu que la référence aux lois
d’Asimov « est inopportune pour des raisons utile
scientifiques et culturelles »23.
13.- Des lois immuables et inaltérables ? Dans 14.- L’utilité du modèle. Les Lois d’Asimov
Les Robots, il n’est pas question de pouvoir sont instructives en ce que le modèle demeure
supprimer les Lois, tout au plus voit-on les une référence qui dispose d’un important
concepteurs de l’US Robots pouvoir diminuer pouvoir d’évocation (A) dont il est nécessaire
l’importance de l’une par rapport aux autres. de prendre la mesure (B).
Cela est fondamental, car la méfiance des
humains envers les robots est telle que A. Un modèle évocateur
l’hypothèse d’un robot pouvant ne pas
respecter les Lois mettrait en péril l’existence 15.- Pouvoir cognitif du modèle. La puissance
de l’ensemble des robots, qui seraient rejetés du modèle est sans doute là : il constitue un
par l’humanité. Ainsi, l’univers d’Asimov ne outil pédagogique formidable. Les histoires de
connaît pas le hacker… Cette possibilité est fictions en général, et celles de robots en
exploitée dans la série suédoise « Real Humans particulier, donnent à voir : que ces robots
: 100 % humain » (2012-2014) : des robots soient aimés ou craints, il y a un élément
androïdes, les hubots, ayant accédé à la affectif indéniable qui permet de passer un
conscience essaient de débloquer le « code message aisément. Ainsi, la question de la
Asimov » pour accéder à la liberté. Dans régulation de l’intelligence artificielle est plus
l’œuvre d’Asimov, l’écrivain joue souvent avec facilement posée auprès d’un public qui
l’interprétation des lois pour voir s’il est connaît les histoires d’Asimov, de Philip K.
possible de les contourner. Mais leur Dick, A. Huxley ou G. Orwell. En réalité, ces
implémentation demeure infalsifiable. En cela, œuvres nous semblent appartenir à
les Lois constituent un idéal que nous ne l’inconscient collectif, si bien qu’on peut par
saurions atteindre aujourd’hui en l’état de la exemple constater que la référence aux Lois
technique : dans la réalité, tout est code… et d’Asimov est récurrente quasiment dans tout
tout code peut être renversé par un autre code. débat sur la question de la construction du
C’est la raison pour laquelle, dans la législation droit de l’intelligence artificielle. Comme toute
sur les mesures techniques de protection, ont métaphore, la référence à l’univers de science-
été créées des dispositions anticontournement, fiction permet de transmettre, une idée, un
c’est-à-dire des obligations juridiques venant message ou encore les termes d’une
renforcer le « verrou » technique en interdisant problématique, avec une efficacité
de le « crocheter » pour passer outre remarquable.
l’interdiction technique24. 16.- Un outil d’anticipation du réel. La
Ainsi, le modèle des trois Lois apparaît bien science-fiction, ou plus précisément le genre de
hypothétique, y compris dans leur caractère le l’anticipation permettent précisément de se
plus séduisant, l’immuabilité dans leur mise en figurer un futur plus ou moins lointain. Sans
œuvre. Ce modèle n’en reste pas moins d’une être des œuvres divinatoires, l’univers imaginé
utilité particulière pour penser le droit et ses par l’écrivain invite à imaginer le devenir de la
potentialités d’évolution. société, ce qui à l’évidence constitue une
fonction importante pour celui qui veut penser
le Droit, tourné vers l’avenir. Ainsi, la lecture
23N. Nevejans, Règles européennes de droit civil en 24 V. supra n°7.
robotique, étude réalisée pour la Commission Juri, PE
571.379, octobre 2016.
12Revue Francophone de la Propriété Intellectuelle, Numéro Spécial, Mars 2020
de Conflit évitable d’Asimov25, sans constituer négliger leur importance : les trois Lois servent
une description exacte d’un réel, permet de de modèle à un niveau fondamental de
réaliser le caractère inévitable de la prise création de la règle de droit.
d’importance des algorithmes dans le
18.- Une « source programmatique du
fonctionnement de notre société. Dans un autre
droit » ? Finalement, à raisonner en termes de
registre, les univers de 1984 de Orwell et du
source de droit, le modèle est peut-être utile
Meilleur des Mondes de Huxley invitent à
quelque peu au-delà du simple niveau éthique.
prendre conscience avec une acuité particulière
C’est ce qui fait dire à un auteur à un auteur
de problématiques essentielles à notre société.
que ces trois lois de la robotique seraient une
Peut-être le rôle du juriste, et du législateur, est
« source programmatique du droit »29, qui en
d’éviter que la réalité ne rejoigne la dystopie…
fixe les grandes lignes. Cela implique de
Ainsi que de s’interroger sur le degré de
comprendre le terme de « source » de la
réalisation de cette dystopie ! Le rôle de ces
manière la plus large, ce qui se conçoit
œuvres d’anticipation est néanmoins difficile à
aisément : les sources de droit sont l’ensemble
évaluer : Pierre Boucher26 ou les
des « forces d’où surgit le Droit »30. Mais il
parlementaires ayant voté la loi informatique
nous semble qu’elle est une source indirecte :
et libertés de 1978 avaient-ils lu Orwell ?...
plutôt une source d’inspiration qu’une source
En tout état de cause, l’œuvre de fiction de droit. Finalement, les trois Lois pourraient
dispose d’un pouvoir cognitif important être une source d’inspiration d’une source
particulièrement précieux dans le cadre d’une réelle31, pour un texte juridique qui pourrait
réflexion de lege ferenda. Mais leur utilité n’en aller au-delà du code éthique, une norme
est pas moins circonscrite. fondamentale qui viendrait réglementer
l’ensemble des comportements des acteurs de
B. Une utilité circonscrite l’intelligence artificielle.
17.- Un modèle pour des règles éthiques, mais Conclusion
non juridiques. Pour en revenir aux Lois
d’Asimov, nous avons constaté l’impossibilité 19.- Les trois Lois : immuables, mais
concrète de les mettre en œuvre dans un texte « inimplémentables ». En fin de compte, la
légal ou un code informatique27. Cela a pour question de savoir sur les Lois de la robotique
conséquence que la juridicité des Lois fait d’Asimov peuvent constituer un modèle pour
défaut : si elles constituent un modèle, ce ne le Droit appelle une réponse nuancée. Les trois
peut être un modèle pour un texte juridique. Lois paraissent bien constituer un modèle
Tout au plus ces Lois pourraient-elles relever normatif, qui « indique ce qui doit être », mais
d’un code éthique, se situant donc en amont du seulement en ce qu’elles sont immuables. Cela
texte de loi. C’est d’ailleurs le phénomène que étant, elles ne servent ainsi qu’à affirmer un
l’on peut constater aujourd’hui : les chercheurs vœu pieu qui revient à souhaiter d’une bonne
en intelligence artificielle expriment un besoin règle demeure règle pour l’éternité… Mais les
de se doter de règles éthiques28. trois Lois ne sauraient constituer un modèle
Cette limite ne doit néanmoins pas conduire à normatif quant à leur contenu, car elles ne
25 The Evitable Conflict, 1950. M.-Ch. Dizès), coll. « Colloques & Essais», Institut
26« Safari ou la chasse aux français », Le Monde 21 mars Universitaire Varenne, 2018, p. 9.
1974. 30 Association Henri Capitant, Vocabulaire juridique,
27 Supra n°12. par G. Cornu (dir.), PUF, 2003, p.846.
28 P. ex. les vingt-trois règles d’Asilomar, supra n°11. 31 Sur la distinction « sources réelles » / « sources
29 F. Defferrard, « La science-fiction, source littéraire du formelles », v. P. Roubier, « L’ordre juridique et la
droit. L'exemple des Trois Lois de la Robotique», in Les théorie des sources du droit », in Le droit privé
fictions en droit (sous la dir. de F.-X. Roux-Demare et français au milieu du xxe siècle, Études offertes à G.
Ripert, LGDJ, tome I, 1950, p.9 et s.
13F. Macrez – Les lois de la robotique, modèle pour le système juridique ?
correspondent pas aux problématiques d’être déçu. Ce sont plutôt les
contemporaines. questionnements que les trois Lois induisent
qui font la richesse du modèle : le symbole est
Par ailleurs, la difficulté technique - pour ne
fort et la puissance cognitive de l’œuvre de
pas dire l’impossibilité – d’implémenter de
fiction particulièrement précieuse pour guider
telles règles de manière inaltérable relègue ces
des réflexions quant à la possible
Lois au rang de modèle symbolique. En
réglementation de l’intelligence artificielle.
somme, si le juriste voulait y trouver un
modèle proposant des solutions, il risque F. M.
14Revue Francophone de la Propriété Intellectuelle, Numéro Spécial, Mars 2020
Le robot, responsable ? À propos de la Première Loi
de la Robotique d’Asimov
Nathalie NEVEJANS
Maître de conférences en droit privé, HDR, Faculté de droit de Douai
Directrice de la Chaire IA Responsable, Université d'Artois
Centre Droit, Ethique et Procédures (EA n° 2471)
Membre du Comité d’éthique du CNRS (COMETS)
Introduction l’autorisait. Elle pouvait travailler à la
condition de placer dans sa bouche un message
La notion de robot. Les robots du Cycle des portant le nom secret de Dieu et de l’y retirer le
robots de l’écrivain américain d’origine russe vendredi soir pour respecter le shabbat. Les
Isaac Asimov (1920-1992) ne sont pas très récits rapportent une créature fabriquée par le
éloignés de la définition qui en est rabbin Laew de Prague au XVIe siècle, qui
généralement retenue par les roboticiens, à aurait échappé à sa vigilance et provoqué de
savoir une machine matérielle dotée d’une formidables destructions dans la ville. Cette
architecture dédiée lui offrant la possibilité de dévolution de la créature au travail n’échappa
se mouvoir dans le monde réel, et de pas à l’écrivain tchèque Karel Čapek qui
programmes d’intelligence artificielle lui inventa pour sa pièce de théâtre Rossum’s
permettant de décider, parfois en toute Universal Robots (1920) le terme « robot » à
autonomie, voire d’apprendre par elle-même partir du mot tchèque robota, qui signifie
et d’interagir avec l’homme1. Même si le robot « corvée » ou « travail forcé ». Dans cette pièce,
des nouvelles d’Asimov est le plus souvent de les robots humanoïdes, intelligents mais sans
forme humanoïde, ce modèle correspond conscience, finissent par se révolter contre les
également à la vision pragmatique des humains devenus décadents. Le thème de la
roboticiens. En effet, la forme du robot étant créature dangereuse a également nourri le
fonction de son usage, s’il est utilisé aux côtés roman de Mary Shelley Frankenstein ou le
d’un humain ou dans un environnement Prométhée moderne (Frankenstein or The Modern
humain, comme dans l’œuvre d’Asimov, la Prometheus) (1818). L’un des récits peuplant
forme humanoïde peut être plus avantageuse. cette œuvre porte sur le jeune Victor
On peut toutefois mentionner la nouvelle Frankenstein qui, après avoir fabriqué une
Conflit évitable2, dans laquelle l’auteur met en créature composée de morceaux d’êtres
scène une « Machine » dont on ne sait rien, sauf humains, était parvenu à l’animer au moyen de
qu’elle dirige le monde. Il ne s’agit pas du robot l’électricité, pour finir par trouver
classique du répertoire asimovien, puisqu’il insupportable de contempler son monstre. Un
s’apparente plutôt à une sorte de programme autre récit évoque ensuite le sort de cette
d’intelligence artificielle. créature qui, rejetée par l’humanité, finit par
concevoir une haine féroce contre son créateur.
Du Golem au robot. Le Golem de la Bible était Le Golem et cette créature composite sont les
une créature en argile sans intelligence et libre ancêtres romanesques des robots. D’ailleurs,
arbitre, façonnée par l’homme à l’image de Asimov reconnaît ce lien en tentant de mettre
l’homme, comme la tradition talmudique
1 V. N. Nevejans, « Les robots : tentative de définition », coll. « Presses Universitaires de Sceaux », 2015, p. 79-
in Les robots, A. Bensamoun, dir., éd. Mare et Martin, 117.
2 The Evitable Conflict, 1950.
15N. Nevejans – Le robot, responsable ?
fin à ce qu’il appelle le complexe de artificielle du 8 avril 2019 qui estime que
Frankenstein, dont souffrent les personnages l’intelligence artificielle est digne de confiance
de son œuvre qui considèrent les robots si elle est licite, éthique, et robuste tant d’un
comme des créatures dangereuses, en point de vue technique que social7.
cherchant un moyen littéraire pour empêcher
La Première Loi selon laquelle « un robot ne peut
la révolte de ses machines. La solution apparaît
porter atteinte à un être humain, ni, en restant
avec ses Lois de la Robotique, qui voient le jour
passif, permettre qu’un être humain soit exposé au
dans sa nouvelle Runaround3. Les robots,
danger » présente une importance centrale
fabriqués par l’homme pour travailler pour
pour remplir les objectifs de l’auteur
l’homme, ne sont que des machines dotées
concernant la sécurité humaine. Présentée
d’un dispositif de sécurité composé de règles
comme un devoir du robot envers l’humain
de logique contraignantes implantées dans le
dans L’homme bicentenaire8, elle s’apparente
cerveau positronique au moment de leur
davantage à une obligation contraignante pour
fabrication, et les rendant insusceptibles « de
la machine qu’à un simple devoir. L’intérêt de
causer le moindre préjudice aux hommes »4.
cette Première Loi est de rendre un robot
La sécurité des êtres humains face aux robots. acceptable par l’humain, car on sait qu’il ne
Asimov a une vision très réaliste des robots, pourra jamais le blesser. Elle présente donc une
puisqu’il estime qu’ « en tant que machine, un fonction préventive contre les atteintes à la
robot comportera sans doute des dispositifs de sécurité de l’humain (I). Toutefois, comme le
sécurité aussi complets que possible. Si les robots dispositif de sécurité est créé par l’homme, il
sont si perfectionnés qu’ils peuvent imiter le connaît nécessairement des imperfections, ce
processus de la pensée humaine, c’est que la nature qui génère de précieuses histoires chez
de ce processus aura été conçue par des ingénieurs Asimov. Dès lors, il convient d’en examiner sa
humains qui y auront incorporé des dispositifs de fonction curative en cas d’atteinte à la sécurité
sécurité. Celle-ci ne sera peut-être pas parfaite. de l’humain (II).
(Mais la perfection est-elle de ce monde ?)
Cependant elle sera aussi complète que les hommes I. La fonction préventive de la
pourront la réaliser »5. Asimov considère que ses Première Loi de la Robotique contre
Lois constituent un code moral contraignant
encadrant fermement le robot pour lui
les atteintes à la sécurité de l’humain
interdire toute atteinte à la sécurité de
Un dispositif de sécurité. Asimov explique
l’humain. Il est à rapprocher des principes
éthiques en cours d’élaboration en Europe dans sa préface que ses Lois forment un
« dispositif de sécurité » pour protéger les
pour rendre le robot et l’intelligence artificielle
sûrs et acceptables pour l’humain. S’il convient humains. La Première Loi, qui prédomine sur
d’évoquer sur ce point la résolution du 16 toutes les autres9, remplit une fonction
février 2017 sur les règles de droit civil sur la préventive en ce qu’elle a pour objet d’interdire
robotique6, c’est surtout le « Guide éthique au robot de porter atteinte à un être humain. La
formulation de cette Loi est telle que chaque
pour une IA de confiance » du Groupe
d’experts de haut niveau sur l’intelligence mot est d’une richesse qui permet à l’écrivain
de décliner à loisir les récits autour des notions
3 Runaround, mars 1942. sur l’intelligence artificielle, Commission européenne,
4 Préface à son Cycle des robots. avril 2019. p. 6.
5 Ibid.
8 Chapitre 1, The Bicentennial Man, février 1976.
6 Résolution du Parlement européen du 16 février 2017 9 Les Lois d’Asimov forment une pyramide de Kelsen
contenant des recommandations à la Commission selon F. Defferard, « La science-fiction, source littéraire
concernant des règles de droit civil sur la robotique du droit. L’exemple des Trois Lois de la Robotique »,
(2015/2103(INL)). in Les fictions en droit, F.X, Roux-Demare et M.-C. Dizès,
7 « Lignes directrices en matière d’éthique pour une IA
dir., 2018, p. 11.
digne de confiance », Groupe d’experts de haut niveau
16Vous pouvez aussi lire
