UNE ÉCOSPHÈRE D'IA REGULÉE POUR CONCILIER L'INNOVATION ET LA CONFIANCE - DLGA
←
→
Transcription du contenu de la page
Si votre navigateur ne rend pas la page correctement, lisez s'il vous plaît le contenu de la page ci-dessous
JURIDIQUE
© AI par metamorworks
UNE ÉCOSPHÈRE D’IA REGULÉE POUR CONCILIER
L’INNOVATION ET LA CONFIANCE
Les conditions sont réunies pour une évolution généralisée des techniques d’IA :
disponibilité et diversité des données, développement des offres et performance
des équipements informatiques. L’IA génère des inquiétudes quant
aux conséquences sociétales de son emploi dans toutes les activités
et sa supposée prépondérance dans la sphère décisionnelle.
Sa gouvernance juridique est considérée par certains auteurs comme impérative.
Faut-il encore en cerner le périmètre. Les domaines de la responsabilité,
de la propriété intellectuelle et de la protection de la vie privée méritent
l’exploration de nouvelles voies juridiques et éthiques pour accompagner
ou anticiper les effets de systèmes d’IA complexes et évolutifs.
Cependant, si l’IA est une activité concurrentielle et stratégique, la disparité
des régimes légaux régionaux ne préjuge pas d’une norme internationale
dans l’immédiat. Cependant, l’Europe dégage naturellement une vision éthique.
Un contrôle humain, le respect de la vie privée, la transparence,
la non-discrimination et la responsabilisation sous-tendent les recommandations
expresses de ses experts. Sur le plan international, L’OCDE milite pour la création
d’un écosystème d’AI de confiance et centré sur l’humain régulé par
des dispositifs éthiques et réglementaires. La confiance ne pourra résulter à terme
que de la construction d’une norme internationale qui, sans entraver l’innovation,
préserve les libertés individuelles.
210 Revue de la Gendarmerie Nationale 1er trimestre 2021
DROIT
L’intelligence artificielle
centrée sur l’humain : droit ou éthique ?
Par Sabine Marcellin
L
Les progrès accomplis par l’intelligence
artificielle permettent à des machines
d’effectuer des tâches cognitives
qui étaient réservées aux humains
gence artificielle (IA), la définition de l’OCDE
d’un système d’IA est un système automati-
sé qui, pour un ensemble donné d’objectifs
définis par l’homme, est en mesure d’établir
par le passé. L’IA peut contribuer des prévisions, de formuler des recomman-
à renforcer la cybersécurité ou assister dations ou de prendre des décisions influant
les médecins dans l’élaboration de leur sur des environnements réels ou virtuels.
diagnostic. Les applications sociales de
l’IA sont sources de progrès mais aussi Aujourd’hui, les conditions sont réunies
de risques. Certains chercheurs, comme pour une évolution généralisée des tech-
Stephen Hawking, ont exprimé la crainte niques d’IA : disponibilité et diversité
que l’IA ne devienne une menace pour des données, développement des offres
l’humanité. Face à ces risques, de et performance des équipements
nombreux gouvernements et organi- informatiques.
sations ont entamé
(1) Un biais
des réflexions sur les algorithmique La maîtrise de l’IA
est le fait que le
principes de cadrage représente des enjeux
résultat produit par
de l’IA. Ces principes d’innovation et de
l’algorithme ne soit
pas neutre, loyal ou
prendront-ils la forme productivité. Entre
équitable. Cela peut
provenir du fait
de règles juridiques que les données fascination et inquiétude,
ou éthiques ? utilisées reflètentils s’accompagnent
des interprétations
SABINE
MARCELLIN et valeurs également des risques
existantes.
Parmi les nombreuses parmi lesquels la difficile
Avocat associé
DLGA conceptions de l’intelli- explicabilité des décisions, les effets des
1er trimestre 2021 Revue de la Gendarmerie Nationale 211DROIT
L’INTELLIGENCE ARTIFICIELLE CENTRÉE SUR L’HUMAIN : DROIT OU ÉTHIQUE ?
biais des algorithmes1, l’atteinte à la vie sabilité semblent pouvoir être exploités.
privée et la dépendance technique Les parties impliquées peuvent aménager
de quelques acteurs incontournables. les contours de leur responsabilité par
Les nombreuses études françaises un contrat. Cependant, ces conditions
et internationales sur le thème de l’IA contractuelles ne sont pas opposables,
évoquent également d’autres risques : en droit français, ni aux consommateurs ni
les accidents, la limitation des emplois, à un tiers qui subirait un dommage. Si un
l’automatisation de la prise de décision, robot piloté par une IA génère un préjudice,
le frein à la réflexion, la discrimination et le qui sera responsable ? La question de la
renforcement de la fracture technologique. détermination de la responsabilité sera
complexe, comme l’est celle de la chaîne
L’IA représente de tels enjeux et génère de responsabilité. Du concepteur du sys-
tant de transformations que sa gouver- tème jusqu’à son utilisateur, sans oublier
nance mérite d’être élaborée, alors que ceux qui vont maintenir et entraîner ce
des interrogations demeurent quant système apprenant, qui seront les acteurs
à la forme de cette gouvernance. Le droit responsables ?
actuel est-il suffisant et faut-il développer
des règles juridiques ou éthiques ? L’IA remet aussi en
(2) Ensemble de
règles opératoiresquestion les principes de
dont l’application
Le droit actuel peut-il s’appliquer à l’IA ? permet de résoudre
la propriété intellectuelle.
L’intelligence artificielle a des incidences un problème énoncéLa protection des
au moyen d’un
profondes et généralisées qui transforment composants de l’IA
nombre fini d’opéra-
tions. Un algorithme
les modes de travail. Comment peut être traduit,(logiciels, données et
en assurer un développement maîtrisé grâce à un langagealgorithmes2) est cruciale
de programmation,
sans freiner l’innovation ? Les règles en un programme pour permettre la protec-
exécutable par
juridiques actuelles peuvent-elles un ordinateur tion des investissements.
(Dictionnaire
s’y appliquer ? Il existe déjà des normes Larousse).
Les logiciels sont protégés
utiles pour réguler l’IA comme la gouver- par le droit d’auteur, à
nance responsable des entreprises condition de comporter une part d’originali-
et la gestion de la cybersécurité. té. Les données peuvent bénéficier de la
Cependant, des pans entiers du droit protection sui generis des bases de
classique sont remis en question par l’IA, données, à condition de prouver un
parmi lesquels la responsabilité, la proprié- investissement substantiel du producteur et
té intellectuelle et la protection de la vie d’être conformes au droit des données
privée. personnelles. Si les algorithmes ne sont
pas protégeables en tant que tels, leur
Les instruments classiques de la respon- mise en forme pourrait être protégée par le
212 Revue de la Gendarmerie Nationale 1er trimestre 2021DROIT
L’INTELLIGENCE ARTIFICIELLE CENTRÉE SUR L’HUMAIN : DROIT OU ÉTHIQUE ?
droit d’auteur quand ils sont intégrés à un
logiciel. Il faut préciser que les méthodes
mathématiques ne sont pas protégeables,
ni par le brevet ni par le
(3) Article L611-10 droit d’auteur3. La mise en
du Code de la pro-
priété intellectuelle. œuvre de ces protections
(4) Rapport peut se complexifier
« Donner un sens
à l’intelligence
quand le système d’IA
artificielle », sous la génère lui-même de
direction de Cédric
Villani, 8 mars 2018. nouvelles données. A qui
appartient l’ensemble
de données généré par une intelligence
artificielle ? Et si le système d’IA génère
une création artistique, qui est titulaire
de cette création ? Ici, l’IA défie les notions
juridiques traditionnelles d’originalité et
d’auteur. « Beaucoup de ces enjeux
soulevés par les algorithmes constituent
aujourd’hui un angle mort du droit » selon
© Marcellin
le rapport Villani4.
Pour protéger ces L’IA s’inscrit naturellement dans une sphère
(5) Loi du 30 juillet résultats, la protection éthique du fait de la protection des données,
2018 sur le secret du régime de la responsabilité et de son impact
des affaires. par la loi sur le secret algorithmique discriminatoire. La perception
(6) Loi pour une des affaires5 peut être variable de son périmètre juridique et la disparité
République
une solution mais les des approches tant scientifiques que politiques
numérique du 7 rendent nécessaire mais délicate l’émission
octobre 2016 et exigences de transpa- d’une norme internationale.
décret n° 2017-330
du 14 mars 2017 rence prévues par la
relatif aux droits des
personnes faisant protection des données et transparence des algorithmes, l’équilibre
l’objet de décisions personnelles peuvent se est à construire.
individuelles prises
sur le fondement heurter à ce mécanisme.
d’un traitement
algorithmique. De plus, la loi pour une Les règles de protection des données per-
République numérique6 sonnelles sont également mises à l’épreuve
prévoit que les codes sources des face au développement de l’IA. Le RGPD
algorithmes utilisés par l’administration et la « Loi Informatique et Libertés mo-
soient des documents communicables. difiée » encadrent l’usage des données
Entre protection de l’innovation personnelles et interdisent la prise de
1er trimestre 2021 Revue de la Gendarmerie Nationale 213DROIT
L’INTELLIGENCE ARTIFICIELLE CENTRÉE SUR L’HUMAIN : DROIT OU ÉTHIQUE ?
décision par la seule machine. La loi pour Comment encadrer ce courant d’innovation
une République numérique s’inscrit dans sans le brider ? Le débat sur la préémi-
la même logique que le RGPD, dès lors nence de l’éthique ou du droit
qu’elle renforce l’obligation faite à ceux pour encadrer l’IA est ouvert.
qui déploient des algorithmes d’en informer
les personnes concernées. En effet, face Rappelons que l’éthique est la science des
aux biais pouvant entraîner une discrimina- principes moraux qui interviennent dans
tion, comment exploiter l’IA tout en main- l’action humaine. A la différence du droit,
tenant l’impératif de protéger les libertés l’éthique n’impose pas de sanctions. La
individuelles, permettre un droit d’accès norme éthique, sans caractère obligatoire,
dans un système dont la complexité est néanmoins une préfiguration de la
peut échapper à la compréhension norme juridique. La réflexion philosophique
humaine et enfin appliquer le principe et morale peut inspirer l’élaboration
de normes à caractère obligatoire.
de transparence quand les systèmes
De plus, le caractère éthique influe
sont complexes et évolutifs ?
sur l’attrait des consommateurs pour
La question se pose de l’obligation
un produit ou service.
de normer par anticipation ou de prendre
le temps d’observer si la mise en œuvre
Quant au droit, c’est l’ensemble des dis-
opérationnelle de l’IA nécessite une évolu-
positions qui, à un moment et dans un État
tion des régimes actuels du droit ?
déterminés, règle le statut des personnes
et des biens, ainsi que les rapports que
La gouvernance de l’IA doit-elle
les personnes publiques ou privées
se structurer autour de règles juridiques
entretiennent. Le droit, de par son carac-
ou éthiques ? tère contraignant, pourrait-il freiner les
La confrontation des nouveaux usages travaux de recherche en IA ? Sachant
de l’IA aux règles juridiques classiques que les régimes juridiques varient entre
a ouvert un large débat et encouragé les les États et régions du monde, il est pos-
réflexions de différents organismes autour sible de penser que l’encadrement
de la normalisation de l’IA. Jamais juridique pourrait influer sur le développe-
un thème n’a autant suscité d’études ment de l’IA dans un État plutôt
et de discussions. Il est vrai que le carac- qu’un autre. Comme l’IA est une activité
tère disruptif de l’IA suscite de nombreux par nature internationale et concurren-
questionnements. Les systèmes cognitifs, tielle, une normalisation juridique mondiale
demain basés sur des neurones artificiels, semble utopique au regard des disparités
modifient la façon dont les organisations des régimes légaux régionaux. L’IA fait
innovent et fonctionnent. l’objet d’enseignements et de recherches
214 Revue de la Gendarmerie Nationale 1er trimestre 2021DROIT
L’INTELLIGENCE ARTIFICIELLE CENTRÉE SUR L’HUMAIN : DROIT OU ÉTHIQUE ?
dans de nombreux pays, et les technolo- l’éthique ? Cette question est au centre
gies qui en sont à la base y sont similaires. des réflexions de nombreuses institutions
Les algorithmes représentent un langage publiques en France, au plan européen
universel et les États veulent conserver et international. Quelles sont les réflexions
l’équilibre entre innovation et gouvernance. majeures ?
Cette préconisation de se garder d’une Les travaux français
contrainte juridique trop forte sur la Dès 2014, le Conseil d’État consacre son
recherche en IA, est présente dans étude annuelle au numérique et aux droits
différentes études. Par exemple, dans son fondamentaux. L’étude invite notamment
document de réflexion relatif à l’IA dans à « repenser les principes fondant la pro-
le secteur financier7, tection des droits fondamentaux ».
(7) ACPR,
« Intelligence l’ACPR8 indiquait, en
artificielle : enjeux
pour le secteur
2018 : « Il peut y avoir un Le Sénat publie, le 29 mars 2017,
financier », Docu- risque à édicter trop tôt un rapport intitulé « Pour une intelligence
ment de réflexion,
décembre 2018. des normes qui fassent artificielle maîtrisée, utile et démystifiée ».
(8) L’ACPR (Autorité
obstacle au développe- Les principes majeurs énoncés sont
de Contrôle Pruden- ment de certains usages de favoriser des algorithmes et des robots
tiel et de Résolution)
est chargée de la de l’IA dans le secteur sûrs, transparents et justes.
supervision des
secteurs bancaires financier. Inversement,
et d’assurance.
Elle veille à la
il apparaît toutefois Fruit d’un débat public animé par la CNIL,
préservation de la important que le dévelop- en décembre 2017, une publication explore
stabilité du système
financier et à la pro- pement de l’usage les promesses et les risques associés à
tection des clients.
de l’IA s’accompagne ces technologies. Les recommandations
d’une réflexion pratique de la CNIL sont de rendre les systèmes
sur les formes adaptées de leur gouver- compréhensibles en renforçant le droit
nance, au regard d’objectifs réglementaires existant, de promouvoir le design des al-
technologiquement neutres. » gorithmes au service de la liberté humaine,
de construire une plate-forme nationale
Par ailleurs, le temps du législateur d’audit et d’encourager le développement
n’est pas celui du chercheur en IA. de l’éthique.
Les normes envisagées doivent assez
souples pour s’adapter à une technologie Le 28 mars 2018, le Parlement propose
en rapide mutation. un autre rapport : « Une stratégie pour la
France en matière d’IA ». Selon Cédric
Pour accompagner l’IA en plein dévelop- Villani, son rapporteur : « La France doit ré-
pement, faut-il légiférer ou promouvoir affirmer sa souveraineté et définir un cadre
1er trimestre 2021 Revue de la Gendarmerie Nationale 215DROIT
L’INTELLIGENCE ARTIFICIELLE CENTRÉE SUR L’HUMAIN : DROIT OU ÉTHIQUE ?
de confiance pour l’utilisation de l’IA (AI HLEG) qui partage ses lignes direc-
au bénéfice de ses citoyens, en tenant trices sur l’éthique de l’IA. La Commission
compte du cadre européen. » Le rapport encourage notamment le contrôle humain,
formule diverses recommandations la sécurité et la robustesse, le respect
notamment celles de penser des droits de la vie privée, la transparence, la non-
collectifs sur les données et de promouvoir discrimination et l’équité ainsi que
une gouvernance spécifique de l’éthique la responsabilisation.
en IA.
Le Conseil de l’Europe
Pour le secteur de la banque (9) igh-Level Experta décidé de la création
Group on Artificial
et de l’assurance, l’ACPR publie en juin d’un Comité IA ad hoc9
Intelligence (CAHAI).
2020 un document de réflexion : pour examiner l’opportuni-
« Gouvernance des algorithmes d’intelli- té de développer des règles propres à l’IA,
gence artificielle dans le secteur financier au sein de ses 47 États membres.
». Sa rédaction, soumise au débat public, L’objectif de ce comité est d’« examiner
encourage à s’assurer de la fiabilité des la faisabilité et les éléments potentiels,
algorithmes et à définir une gouvernance sur la base de larges consultations
appropriée. multipartites, d’un cadre juridique pour
le développement, la conception
Les réflexions européennes et l’application de l’intelligence artificielle ».
Le Conseil européen propose,
le 3 décembre 2018, une Charte éthique Les initiatives internationales
sur l’utilisation de l’IA dans les systèmes Comme chaque rupture technologique, l’IA
judiciaires. aura des implications majeures sur le plan
international. Elle constitue
(10) Julien Nocetti,
Une résolution du Parlement européen « Intelligence déjà une zone de compé-
sur une Politique industrielle quant à l’IA artificielle et politique tition10, tout particulière-
internationale :
et la robotique est rendue publique les impacts d’une ment entre les États-Unis
rupture technolo-
le 12 février 2019. Le Parlement veut pro- gique », Études et la Chine. Et l’Europe
de l’Ifri, Ifri,
mouvoir un environnement réglementaire novembre 2019.
reste dans la course.
favorable au développement de l’IA
(11) Recomman-
et envisager avec précaution toute loi dation du Conseil L’OCDE a publié, en juin
sur l’intelligence
ou réglementation globale de l’IA. artificielle. 2019, une Recomman-
https://unesco.
delegfrance.org./
dation du Conseil sur
Le 8 avril 2019, c’est la Commission Intelligence-Arti- l’intelligence artificielle11,
ficielle-des-initia-
européenne, au travers de son groupe tives-et-normes- à l’occasion du sommet
international-3405
d’experts en intelligence artificielle d’Osaka. Il s’agit de la
216 Revue de la Gendarmerie Nationale 1er trimestre 2021DROIT
L’INTELLIGENCE ARTIFICIELLE CENTRÉE SUR L’HUMAIN : DROIT OU ÉTHIQUE ?
première norme intergouvernementale -e
t favoriser la coopération internationale
sur l’IA. au service d’une IA digne de confiance.
Son objectif est de stimuler l’innovation L’OCDE publiera ensuite en juillet 2020,
et de renforcer la confiance dans l’IA un rapport « Examples of AI National
en promouvant une approche responsable. (12) Examples of
Policies »12 qui présente
La Recommandation indique que : « si elle AI National Policies, l’état des travaux dans
Report for the G20
présente des avantages, l’IA ne va pas Digital Economy une vingtaine de pays,
Task Force, July
sans poser aux sociétés et aux économies 2020.
dont la France. La plupart
un certain nombre de défis, notamment des politiques nationales
en termes de mutations économiques sont récentes, avec pour volonté de
et d’inégalités, de concurrence, construire un écosystème d’AI de
de transitions sur les marchés du travail confiance et centré sur l’humain. Certaines
et de conséquences sur la démocratie questions reviennent régulièrement sur les
et les droits de l’homme. » thèmes d’accès aux données et d’écosys-
tème de l’IA. L’OCDE relève que peu
Le texte de cette recommandation énonce de politiques semblent mettre l’accent
cinq principes majeurs : une croissance sur les principes de robustesse, de sécurité
inclusive, des valeurs centrées et de responsabilité. L’OCDE encourage
sur l’humain, l’explicabilité, la robustesse l’innovation en IA tout en exigeant
et la responsabilité. Ces principes des garanties de protection des droits
s’accompagnent de recommandations humains, par des dispositifs éthiques
pour une IA digne de confiance, à savoir : ou réglementaires.
(13) Organisation
- investir dans la recherche des Nations Unies
De par sa dimension
et le développement en matière d’IA, internationale, l’UNESCO13
pour l’éducation, la
science et la culture.
affiche également
- favoriser l’instauration d’un écosystème son ambition de définir les principes
numérique pour l’IA, éthiques fondamentaux qui encadreront
les développements de l’IA. Dans le cadre
- façonner un cadre d’action favorable d’une conférence, « Principes pour l’IA :
à l’IA, vers une approche humaniste ? »
organisée à Paris le 4 mars 2019, Audrey
- renforcer les capacités humaines Azoulay, directrice générale de l’institution,
et préparer la transformation du monde prend position : « Il est certainement
du travail, prématuré de vouloir réglementer l’IA
au niveau mondial, mais il est plus que
1er trimestre 2021 Revue de la Gendarmerie Nationale 217DROIT
L’INTELLIGENCE ARTIFICIELLE CENTRÉE SUR L’HUMAIN : DROIT OU ÉTHIQUE ?
temps de définir un socle de principes
éthiques qui encadreraient cette
disruption ». L’Unesco annonce être prête
à élaborer des règles éthiques sur l’IA
et deux réunions intergouvernementales
sont prévues en 2021 pour finaliser le texte
de cet instrument normatif.
Aujourd’hui, la gouvernance de l’IA
est à un stade expérimental mais actif
dans de nombreux pays. Au cœur
des discussions politiques internationales,
cette gouvernance se construit essentielle-
ment autour de dispositifs éthiques.
AUTEURE
Sabine Marcellin est avocat associé
au sein du cabinet DLGA, en charge
du droit de la cybersécurité
et du numérique.
Elle est lieutenant-colonel (RC)
dans la Réserve de Cyberdéfense
de la Gendarmerie et chargée de cours
à HEC.
218 Revue de la Gendarmerie Nationale 1er trimestre 2021Vous pouvez aussi lire
