Rapport de projet recherche - En quoi l'Intelligence Artificielle est-elle une menace et un défi à relever pour l'Homme ?
←
→
Transcription du contenu de la page
Si votre navigateur ne rend pas la page correctement, lisez s'il vous plaît le contenu de la page ci-dessous
2019 – 2020
3e Année – Polytech Angers
Spécialité SAGI
Rapport de projet recherche
Florian BOURGUILLAULT
En quoi l’Intelligence Artificielle est-elle
une menace et un défi à relever pour
l’Homme ?
Encadrant : Mehdi Lhommeau
Engagement de non plagiat Je, soussigné(e) Florian BOURGUILLAULT déclare être pleinement conscient(e) que le plagiat de documents ou d’une partie d’un document publiée sur toutes formes de support, y compris l’internet, constitue une violation des droits d’auteur ainsi qu’une fraude caractérisée. En conséquence, je m’engage à citer toutes les sources que j’ai utilisées pour écrire ce rapport ou mémoire. signé par l'étudiant le 29/05/2020
Liste des sigles - IA : Intelligence artificielle - ANI : Artificial Narrow Intelligence - AGI : Artificial General Intelligence - ASI : Artificial Superintelligence - PDG : Président Directeur Général - GPS : Global Positioning System - SF : Science-fiction
Table des matières
1 Introduction .................................................................................... 1
1.1 Justification du choix du sujet ..................................................... 1
1.2 Présentation de la problématique ................................................. 2
2 État de l’art ..................................................................................... 3
3 Action mise en place ....................................................................... 10
3.1 Présentation et mise en œuvre de l’action ................................... 10
3.2 Résultats et discussion ............................................................. 11
4 Lecture d’articles ............................................................................ 17
4.1 Résumé de l’article 1 ............................................................... 17
4.2 Résumé de l’article 2 ............................................................... 19
4.3 Résumé de l’article 3 ............................................................... 21
5 Conclusion et réponse à la problématique .......................................... 24
6 Bibliographie ................................................................................. 25
Liste des figures
Figure 1 : Illustration trouvée sur FutureTimeline.net .................................. 5
Figure 2 : Illustration publiée par La Tribune Montesquieu ............................ 5
Figure 3 : Image provenant du site FuturaTech .......................................... 6
Figure 4 : Image du site Usbek&Rica .................. Erreur ! Signet non défini.
1 Introduction
1.1 Justification du choix du sujet
Dans le cadre de la validation du quitus, nous devons réaliser un travail de
recherche bibliographique afin de remplacer notre stage à l’étranger, annulé à
cause du covid-19.
J’ai choisi de travailler sur le sujet de l’intelligence artificielle. C’est un sujet
très vaste que j’ai jugé en rapport avec mes études et la spécialisation Systèmes
Automatisés et Génie Informatique. L’intelligence artificielle est un sujet qui fait
actuellement débat et qui alimentera l’actualité dans un futur proche.
C’est pourquoi j’ai choisi ce sujet, car je sais que je trouverai beaucoup
d’articles et de sources traitant de l’intelligence artificielle dans toutes ses formes
et de tous les points de vues possibles, et je ne me suis pas trompé. Depuis mon
enfance, je suis aussi fasciné par tout ce qui touche au domaine de la science-
fiction et de la robotique, ce qui a conforté mon choix. Je voulais aussi en profiter
pour entretenir mes connaissances et en apprendre plus sur le sujet.
Florian BOURGUILLAULT 1
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?
1.2 Présentation de la problématique
Le sujet introduit, il faut maintenant définir une problématique. Pourquoi
l’intelligence artificielle fait-elle et fera débat ? La réponse est simple, nous
l’entendons partout dans le milieu scientifique : l’IA pourrait peut être s’avérer
dangereuse dans un futur proche. C’est pourquoi nous nous intéresserons aux
dangers de l’IA qui menace l’humanité.
En effet, nous avons tous déjà vu au moins un film de science-fiction
mettant en scène un monde post-apocalyptique. On peut par exemple prendre
l’exemple de la trilogie Matrix [26], où tous les humains ont été mis dans un
sommeil profond, s’épanouissant dans un monde virtuel dans lequel ils vivent
une vie normale. Personne n’est conscient que leur vrai corps est pendant ce
temps drainé afin d’alimenter en énergie les machines qui ont pris le contrôle de
la Terre. Il en est de même pour la trilogie Terminator [25]. Dans ces films, la
planète Terre du futur a entièrement été ravagée par Skynet, une intelligence
artificielle créée à l’origine pour automatiser la riposte nucléaire américaine,
mais qui a fini par agir de son propre chef et retourner toutes les armes et robots
du monde contre les humains afin de les exterminer. Ces films ne restent bien
sûr que de la fiction, mais on ne peut s’empêcher de se demander si cela finira
par arriver un jour si nous n’endiguons pas l’évolution exponentielle de l’IA.
C’est pourquoi je suis parvenu à la problématique suivante : En quoi
l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?
Je tâcherai de donner ma réponse à la question en analysant différents articles
scientifiques, articles, interviews et sites internet traitant du sujet.
Tout en m’aidant des articles que j’aurai étudié, j’essaierai aussi d’apporter aussi
des éléments issus de mes connaissances personnelles.
Florian BOURGUILLAULT 2
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?
2 État de l’art
La notion d’intelligence artificielle voit le jour dans les années 1950 grâce au
mathématicien Alan Turing à travers ses travaux qui soulèvent la question
d'apporter aux machines une forme d'intelligence. L’IA a bien évoluée depuis ses
travaux. Aujourd’hui, l’intelligence artificielle permet de réaliser des tâches
habituellement dévolues à des humains, et cela grâce à des automates, logiciels
ou mécaniques.
C’est un concept large allant des assistants aux appareils ménagers intelligents,
et elle se retrouve implémentée dans de nombreux domaines d'application. Elle
nous entoure partout, comme dans nos smartphones par exemple, dotés d’outils
de traduction, de synthèse et de reconnaissance vocale.
Les informaticiens la désignent comme techniques de programmation ou de
gestion d’informations, inspirées du fonctionnement du cerveau humain,
notamment l’apprentissage, qui permettent à un automate logiciel d’enrichir
dynamiquement ses connaissances et donc ses capacités de résolution de
problèmes.
De SIRI à la voiture à conduite autonome, l’IA progresse rapidement. Alors que
la science-fiction la dépeint souvent comme des robots aux caractéristiques
humaines, l'IA peut englober tout, des algorithmes de recherche de Google aux
armes autonomes.
Alors qu'en 2015 le marché de l'intelligence artificielle pesait 200 millions de
dollars, on estime qu'en 2025, il s'élèvera à près de 90 milliards de dollars. C’est
donc en marché en pleine expansion.
Néanmoins, ce domaine en croissance exponentielle attise les débats. En
effet, Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates et de nombreux
autres grands noms de la science et de la technologie ont récemment exprimé
leur inquiétude dans les médias sur les risques posés par l'IA, rejoints par de
nombreux chercheurs de premier plan dans ce domaine.
Elon Musk, président de SpaceX et Tesla, dont tout le monde a au moins entendu
le nom une fois, a déclaré que c’était la plus grave menace pour la survie de la
race humaine. Selon lui, les dangers potentiels ne sont pas si imaginaires et les
gouvernements devraient s'efforcer de réglementer l'IA.
D’un autre côté, d’autres sont plus optimistes. Mark Zuckerberg, PDG de
Facebook, pense que l'IA permettra de grandes avancées technologiques, et
qu'elle pourra sauver des vies dans le domaine médical et dans le domaine de
l’autonomie des véhicules, en réduisant le risque d’accident par exemple. Les
partisans de l'intelligence artificielle affirment que des catastrophes n'arriveront
jamais car les programmeurs vont mettre en place des mesures.
Florian BOURGUILLAULT 3
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?
Après avoir étudié diverses sources, j’ai pu me faire une idée sur les différents
dangers actuels et futurs de l’intelligence artificielle à travers différents points.
- L’emploi et le profit
Au fur et à mesure que l'intelligence artificielle se développe, il est évident
qu'elle va prendre le relais des tâches qui étaient autrefois effectuées par les
humains. Elle coûtera des emplois à beaucoup de gens. Il y a des domaines dans
lesquels l’IA est plus efficace et coute moins cher qu’une personne normale. Par
exemple, on teste déjà des caisses de supermarché sans personnel humain.
Dans les usines, les robots remplaceront la main d’œuvre. Même dans le
domaine médical, on commence à envisager des diagnostics à distance sans
contact avec le médecin.
Cependant, il est vrai que de nouvelles professions émergent dans ce domaine
afin d’équilibrer la balance. La plupart des nouveaux emplois créés par l'IA ont
des exigences complètement différentes et souvent plus élevées que celles qui
ont été éliminées. On passerai d'emplois physiques et répétitifs à des emplois
plus intellectuels, créatifs et stratégiques.
Mais ce point pose un nouveau problème car cela pousse donc les futurs
travailleurs à faire plus d’études, et ceux qui sont déjà dans le monde du travail
et qui sont trop vieux pour refaire des études seront délaissé par ce nouveau
système. Le fossé entre les riches et les pauvres pourrait ainsi s'élargir encore
davantage, et la classe moyenne pourrait être amenée à disparaitre.
En termes financiers, l’IA est très rentable pour les entreprises qui substituent
des automates à des humains. Du personnel payé cher, parfois lent et pas très
efficace, pouvant par moment se plaindre de ses conditions de travail, sera
remplacé par des machines efficaces, qui ne se plaignent pas et aux coûts
moindres, le rêve de tout employeur. Dans le but de faire le plus de bénéfices
possible, les employeurs négligeront les principes éthiques et moraux.
- La dépendance
On pourrait à l’avenir trop se reposer sur les machines et se sentir démuni
si on y a plus accès. Le recours à l’IA modifiera certaines des aptitudes
humaines, l’évolution faisant disparaître les organes et fonctions devenues
inutiles. Il se pourrait que les humains deviennent dépendants de prothèses.
Un exemple flagrant est notre capacité d’orientation, en effet, nous utilisons
tous maintenant le GPS, ce qui nous a poussé à négliger notre capacité
d’orientation avec une carte routière.
Florian BOURGUILLAULT 4
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?
- Les armes autonomes
Les fonctions de guidage et de navigation sont depuis longtemps automatisées,
comme le pilotage automatique des avions et des drones par exemple. Le
problème concerne les fonctions d’identification et d’engagement automatiques
de cibles. Les armes autonomes ou "robots tueurs" sont des robots militaires
qui peuvent rechercher leurs cibles et viser de manière indépendante selon des
instructions préprogrammées.
Presque tous les pays techniquement avancés dans le monde développent ces
robots. Il se pourrait même que la course aux armements nucléaires soit
remplacée par une course aux armements autonomes. Outre la crainte que les
armes autonomes puissent acquérir un esprit propre, une préoccupation plus
imminente est le danger que les armes autonomes pourraient avoir avec un
individu ou un gouvernement qui n'accorde aucune valeur à la vie humaine.
Une fois déployées, elles seront probablement difficiles à démanteler ou à
combattre.
Ce type d’arme est controversé car d’un coté, elles peuvent amener à gagner
une guerre plus facilement tout en limitant les pertes humaines et militaires,
mais de l’autre côté son utilisation présente de nombreux dangers. Elles
pourraient ne pas faire la distinction entre les cibles et des innocents, les tuant
par erreur.
Depuis 2014, le débat est engagé à l’ONU sur la question d’une interdiction ou
d’une limite sur le développement de telles armes. Plusieurs organisations
internationales appellent à ce qu’une arme dite autonome soit toujours sous
contrôle humain, c’est-à-dire que la décision d’engager une cible soit toujours
prise par un être humain. C’est pourquoi il a été décidé en 2018 que les robots
autonomes devraient toujours prendre le commandement final d'un humain pour
attaquer.
Concept d’arme autonome futuriste Robot militaire américain Maars
Florian BOURGUILLAULT 5
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?
- Le terrorisme
Si l'intelligence artificielle peut apporter une immense contribution au
monde, elle peut malheureusement aussi aider les terroristes dénués de
morale à commettre des attentats. S’ils parvenaient à obtenir certaines de ces
technologies, les conséquences seraient très grave. On peut imaginer dans le
pire des cas l’attaque d’un endroit peuplé de civils par des drones armés, ou
bien un véhicule autonome rempli de bombes.
Une autre facette du terrorisme est aussi la vulnérabilité de l’IA aux
cyberattaques. Ils pourraient par exemple s’introduire dans certains systèmes
de défense et retourner des armes militaires contre nous.
- L’humanisation des machines
Ce point provient principalement des assistants numériques, qui apparaissent
dans notre mode de vie. Nous parlons à nos appareils, posons des questions,
donnons des ordres et obtenons des réponses, comme Siri ou l’assistant Google.
Les sociologues voient le danger d'humaniser les dispositifs techniques et les
systèmes complexes. La machine reste toujours une machine. L'humanisation
détruit la distance entre l'homme et la machine et peut créer une dépendance
sur le plan émotionnel. Cet aspect peut sembler un peu détaché et abstrait, mais
cela peut entraîner des problèmes psychologiques à long terme pour de
nombreuses personnes.
Et si les machines étaient beaucoup trop humanisé, peut être dans un futur
proche ne parviendrons nous plus à la différencier d’un humain, comme on peut
le voir dans beaucoup de films de science-fiction.
Florian BOURGUILLAULT 6
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?- La perte de contrôle
Le développement d'une nouvelle technologie signifie toujours que les
chercheurs et les ingénieurs ont le contrôle sur l'orientation à suivre. La situation
de l'intelligence artificielle est quelque peu différente car elle peut se développer
davantage sans que l'homme n'en détermine son orientation.
Une fois que nous aurons construit des systèmes aussi intelligents que les
humains, ces machines intelligentes seront capables de construire des machines
plus intelligentes à leur tour, tel un cercle vicieux. Le taux de croissance et
d'expansion des machines augmenterait alors de manière exponentielle.
Au début, les problèmes seraient minimes mais gérables, comme une machine
causant des blessés sur une ligne de production. Mais ces problèmes pourraient
s'intensifier rapidement et devenir plus graves, voire cataclysmiques. Imaginons
un robot médical, programmé à l'origine pour éliminer le cancer, qui pourrait
conclure que le meilleur moyen d'éradiquer le cancer est d'exterminer les
humains atteint par la maladie.
L'apprentissage non supervisé dans lequel l'IA analyse, traite et tire des règles
d'un ensemble de données sans aide humaine, est encore très long et erroné.
Cependant, la situation actuelle ne durera pas trop longtemps, et il sera alors
crucial d'enseigner les limites et les limites de l'IA.
- Contrôle social et invasion de la vie privée
L’IA cible notre vie privée d'une manière entièrement nouvelle grâce à leurs
algorithmes autonomes. Avec l'aide des médias sociaux, elle peut savoir
beaucoup de choses sur nous, comme nos goûts, nos intérêt, qui nous
sommes, etc. Nous sommes ciblés par des stratégies marketing et
psychologiques, et donc influencé d'acheter une chose qui nous plaît.
Il est aujourd’hui possible de vous suivre facilement dans vos activités
quotidiennes. Les dernières technologies, comme la reconnaissance faciale,
peuvent vous repérer dans une foule et toutes les caméras de sécurité en sont
équipées. Les capacités de collecte de données de l'IA signifient également
qu'il est possible de créer un calendrier de vos activités quotidiennes en
accédant à vos données depuis divers sites et réseaux sociaux.
En diffusant de la propagande à des individus identifiés par des algorithmes et
des données personnelles, l'IA peut les cibler et diffuser les informations qu'ils
aiment, sous le format qui leur paraîtra le plus convaincant. Cela met donc
notre vie privée en danger et nous expose fortement, nos données peuvent
être utilisées et revendues entre plusieurs organismes.
Florian BOURGUILLAULT 7
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?- Répression dans la société
Le point précedent fait une excellente introduction à celui-ci. Toute
technologie puissante peut être utilisée à mauvais escient. Aujourd'hui,
l'intelligence artificielle est utilisée pour de nombreuses bonnes causes,
notamment pour nous aider à faire de meilleurs diagnostics médicaux, à
trouver de nouveaux moyens de guérir le cancer et à rendre nos voitures plus
sûres. Malheureusement, à mesure que nos capacités en matière d'intelligence
artificielle se développeront, nous verrons aussi qu'elle sera utilisée à des fins
dangereuses ou malveillantes.
L’IA peut reconnaître des personnes en quelques secondes, même dans une
grande foule. Il y a des entreprises qui peuvent identifier leurs employés par la
façon dont ils déplacent le pointeur de la souris sur un ordinateur, surveiller
leur utilisation d’internet, les enregistrer à leurs insus, etc. Il est désormais
possible de suivre et d'analyser chaque mouvement d'un individu en ligne ainsi
que ses activités quotidiennes. Par exemple, la Chine travaille actuellement sur
un système de crédit social qui sera alimenté par l'intelligence artificielle. Ce
système donnera à tous les citoyens chinois un score basé sur leur
comportement. Il peut s'agir de comportements tels que fumer dans des zones
non-fumeurs, traverser les passages piétons au rouge, etc. Un score faible
peut signifier une interdiction de voyager, un statut social inférieur, un refus de
prêt, etc. Il ne s'agit pas seulement d'une atteinte à la vie privée, mais d’une
forme d’oppression sociale, et je trouve cela très grave qu’un gouvernement
veuille prendre de telles mesures.
Toutes ces données peuvent être recherchées, filtrées et analysées rapidement
et efficacement en utilisant l’IA. Les gouvernements, les despotes et les régimes
autoritaires disposent ainsi d'outils beaucoup plus puissants pour contrôler et
surveiller leur propre population, la privant ainsi de liberté.
- La discrimination
Les préjugés contre les autres religions, sexes, nationalités, etc, peuvent
aussi inconsciemment entrer dans les systèmes d'intelligence artificielle qui
sont développés par les êtres humains. J’ai pu repérer deux exemples illustrant
parfaitement ceci. Amazon a récemment découvert que son algorithme de
recrutement basé sur l'apprentissage automatique était biaisé contre les
femmes. Cet algorithme était basé sur le nombre de CV soumis au cours des
dix dernières années et sur les candidats embauchés. Et comme la plupart des
candidats étaient des hommes, l'algorithme favorisait également les hommes
par rapport aux femmes. Pour le deuxième exemple, Google Photos a qualifié
deux Afro-Américains de "gorilles" en utilisant la reconnaissance faciale. Il
s'agissait d'une indication claire de préjugés raciaux qui ont conduit
l'algorithme à étiqueter les humains de manière erronée.
Florian BOURGUILLAULT 8
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?Comme l’humain cherche à créer une machine qui lui ressemble, il faut donc
s’attendre à ce qu’elle possède ses qualités, mais aussi ses défauts.
- Déséquilibre entre nos objectifs et ceux de la machine
L'IA est programmée pour faire quelque chose de bénéfique, mais elle
pourrait développer une méthode destructrice pour atteindre son objectif. Une
partie de la valeur que les humains accordent aux machines alimentées par l'IA
est leur efficacité, mais, si nous ne sommes pas clairs sur les objectifs que
nous fixons pour les machines à IA, il pourrait être dangereux qu'une machine
ne soit pas armée des mêmes objectifs que nous. Par exemple, un ordre
"Emmène-moi à l'aéroport aussi vite que possible" pourrait avoir des
conséquences désastreuses. Elle remplira son objectif en amenant la personne
à l’aéroport, mais provoquera des accidents sur la route. Cet aspect là est donc
un véritable défi pour les chercheurs.
C’étaient les principaux problèmes auxquels l’humanité est et sera confrontée
dans un futur proche. Même si on peut voir que l’IA comporte beaucoup de
défauts, elle n’est pas exempté d’avantages. Elle améliore notre confort de vie
et pourrait nous permettre de sauver l’humanité. Je pourrais faire une liste de
tous ces avantages, mais je m’écarterai et ce n’est pas le sujet.
L’IA doit cependant répondre à plusieurs enjeux : la responsabilité, l’égalité en
droit, le respect de la vie privée, l’autonomie, les responsabilités sociétales, etc.
Elles vont profondément modifier le mode de vie des humains. C’est pourquoi il
est nécessaire que les futurs utilisateurs s’y initient et les expérimentent afin
d’en faire des outils au bénéfice de l’Humain.
Florian BOURGUILLAULT 9
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?3 Action mise en place
3.1 Présentation et mise en œuvre de l’action
Ce rapport doit comprendre la mise en place d’une action. N’ayant pas
vraiment d’idées ni de matériel à disposition, j’ai décidé de réaliser un sondage
sur Google Form. Ce sondage comprend dix questions, portant sur l’Intelligence
artificielle, à choix multiples et uniques. Le but de ce sondage est de voir si une
population donnée a des connaissances sur le sujet, et de connaître leurs
craintes et leur avis sur l’IA. En fonction des résultats obtenus, j’essaierai
d’analyser et de comprendre ce qui les a poussé à faire un choix ou un autre en
priorité.
Je vais maintenant lister les différentes questions. La première est une
question générale et basique afin de voir si les personnes vont bien distinguer le
réel de la fiction, qu’est ce que l’IA ? Les deux questions suivantes vont ensemble
et concernent les films de SF. Avez-vous déjà vu des films de SF, et si oui, pensez
vous que ces scénarios pourraient se produire ? Les deux prochaines sont des
questions à choix multiples sur l’utilisation d’appareil contenant de l’IA et des
raisons pour lesquelles selon eux elle serait dangereuse. Il y a ensuite une
question sur l’impact de l’IA sur l’emploi, puis sur la confiance d’un utilisateur
s’il montait dans une voiture autonome. La suivante est : à quoi ressemblera l’IA
du futur, puis ce qu’elle apporte actuellement. Enfin, la dernière question est la
problématique reformulée : Pensez-vous que l’IA provoquera un jour la
destruction de l’humanité ?
Florian BOURGUILLAULT 10
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?3.2 Résultats et discussion
J’ai obtenu un total de 27 réponses. J’analyserai les questions une par une
pour essayer de voir pourquoi les sujets on fait de tels choix.
La plupart des personnes n’est pas tombée dans le piège et a répondu la bonne
réponse (en bleue). La mauvaise réponse en rouge correspond parfaitement à
l’image qu’on peut se faire de l’IA à travers la science-fiction. Ces personnes ont
dû être influencée ainsi. En effet, l’IA n’est qu’à la base qu’une mise en œuvre
de techniques permettant aux machines d’imiter une forme d’intelligence réelle.
Florian BOURGUILLAULT 11
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?On peut remarquer que la SF est un genre assez populaire, car 85% des
personnes ont au moins vu un film. Cependant, quasiment 60% ne croient pas
en ces scénarios, contre 26% (de ceux qui ont vu). Ces résultats montrent que
pour beaucoup cela ne reste que de la fiction et du divertissement, et peu sont
inquiets pour l’avenir.
Florian BOURGUILLAULT 12
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?Parmi toutes les propositions, on se doute bien que toutes ces fonctionnalités
utilisent l’intelligence artificielle. Nous l’utilisons inconsciemment. Beaucoup de
personnes ne se rendent pas compte que l’IA est présente partout, même sur
Netflix, Spotify et Youtube, elle nous entoure au quotidien. Par exemple, c’est
grâce à elles que chaque jour vous pourrez retrouver des vidéos que vous
aimerez dans vos recommendations, car l’IA sait quelle genre de contenu vous
appréciez. On peut ainsi voir que toutes les personnes testés sont en contact
avec de l’IA.
J’ai mis en proposition les problèmes qui je pense selon moi seront les plus
récurrents à l’avenir. L’emploi arrive sans surprise en tête. On l’entend souvent,
que ce soit à la télé, en cours, etc. En effet, on commence déjà à voir l’impact
des robots sur le travail. Viens ensuite l’invasion de la vie privée. Nous en
sommes tous les jours victimes à travers les réseaux sociaux notamment, c’est
donc quelque chose de concret pour les jeunes d’aujourd’hui. Les armes
autonomes et la perte de contrôle sont des sujets qui parle d’eux même. On sait
tous ce qui pourrait se passer si cela arrivait, et ces problèmes vont de pair avec
le sujet de la SF abordé plus haut. Le contrôle social est peut être abstrait dit
comme ça, mais les personnes qui l’ont choisi sont sans doute au courant de ce
qui se passe en Chine actuellement, et ce ne sont que des prémices. Les sujets
sont peut être un peu moins conscient des discriminations que pourrait
provoquer l’IA, car ce sont des choses qui sont difficiles pour nous d’imaginer.
Florian BOURGUILLAULT 13
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?Dans cette question orientée sur l’IA et l’emploi, on peut voir que les sujets sont
assez pessimistes sur ce point. En effet, la plupart pense que l’IA provoquera
une vague massive de chômage tandis que le peu qui reste pense que cela va
s’équilibrer. Un point intéressant à relever est qu’aucune personne n’est assez
optimiste pour penser que ça ira dans le bon sens et que plus d’emplois seront
créés. Il est vrai que je suis d’accord avec eux, l’IA ne remplacera jamais tous
les emplois qui seront détruits.
Sur la question de la voiture autonome, les réponses sont très variées. C’est
quasiment un 50/50. Actuellement, nous ne sommes qu’aux prémices des
voitures autonomes. Elles sont hors de portée pour certains d’entre nous, ce qui
expliques ces résultats car personne n’en a vraiment testé. Les seules
informations que nous avons peut être pu avoir concerneraient des accidents
Florian BOURGUILLAULT 14
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?provoqués par ces voitures, donc rien de rassurant. Il faudrait reposer cette
question dans 20 ans quand elles seront plus accessible au grand public.
Pour la majorité, l’IA sera principalement intégrée dans des appareils que nous
utilisons quotidiennement. Ils se projettent plus sur cet aspect là car elle est
actuellement déjà bien présente, il est donc facile d’imaginer que ce sera encore
plus important prochainement. Ils ne sont pas vraiment influencés par la vision
des films de SF concernant les robots, il y en aura certainement, mais pas
comme nous nous l’imaginons.
Florian BOURGUILLAULT 15
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?De nos jours, il y a plus de personnes qui pensent que l’IA est bénéfique que le
contraire. Il est vrai que dans le vie de tous les jour, elle nous aide au quotidien :
utilisation des GPS, appareils connectés, etc. Pour l’instant ses mauvais côtés
sont encore loin pour nous, même si nous en sommes conscient.
Enfin, pour la question finale, les sujets sont plutôt optimistes pour l’avenir.
Seulement 25% pensent l’IA dangereuse tandis que le double pense le contraire.
Pour bien voir les dangers à l’avenir, il faut être un minimum informé et se tenir
au courant des actualités. Avant d’écrire ce rapport j’aurais surement répondu
non, mais avoir fait beaucoup de recherches m’a permi de me forger un avis et
maintenant je répondrai oui.
Pour conclure, sur une population donnée, on remarque que la plupart ne sont
pas vraiment inquiets de l’expansion de l’IA dans un futor proche. Mais ils sont
cependant assez averti concernant certains points comme la destruction de
l’emploi par exemple. L’IA est un domaine assez récent pour des personnes plus
vieilles et éloignées de la technologie, et il leur faudra du temps pour en
comprendre les mécanismes.
Florian BOURGUILLAULT 16
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?4 Lecture d’articles
4.1 Résumé de l’article 1
• Titre : « Stifling artificial intelligence : Human perils»
• Auteurs : Gonenc Gurkaynak, Ilay Yilmaz, Gunes Haksever
• Journal : Computer Law & Security Review, p.749-758, Volume 32, Issue 5
• Éditeur : ELSEVIER
• Année : 2016
Notre monde est en proie à de nombreux changements. Les technologies qui
nous entourent sont de plus en plus perfectionnés, ce qui améliore notre confort
de vie, mais pourrait en contrepartie aussi la mettre en danger. Prenons
l’exemple du jeu chinois « go »[p.749], un jeu stratégique très complexe.
Récemment, un ordinateur est parvenu à battre un joueur professionnel, ce qui
a permis de soulever un sujet sensible : doit-on se sentir menacé dans un futur
proche par l’évolution exponentielle de l’IA, et quels sont les solutions afin
d’empêcher une potentielle catastrophe de se produire ?
C’est la question que Gonenc Gurkaynak, Ilay Yilmaz et Gunes Haksever se sont
posé. Les trois co-auteurs turcs se sont penchés sur celle-ci à travers cet article
scientifique, en fournissant une introduction philosophique à l’intelligence
artificielle accessible à tous. Ils apporteront leur point de vue personnel à travers
différents sujets tels que l’essence même de l’objectif d’une IA, la question du
droit juridique, des limites qu’il faudrait leur imposer, mais aussi ce qu’elle
pourrait apporter à l’espèce humaine.
Les auteurs qualifient en premier lieu l’IA de « Tabula rasa », selon le
terme de Descartes [p.750]. Cela désigne le fait de suivre des programmes
préétablis. C’est en suivant ce concept qu’ont été créées les premières IA.
On peut maintenant distinguer l’IA en trois groupes différents. Il y a tout d’abord
l’ Artificial Narrow Intelligence ("ANI")[p.751]. Ce sont des IA simples spécialisés
Florian BOURGUILLAULT 17
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?dans un domaine, qui reprennent parfaitement le concept précédent. Elles sont
assez limités dans l’ensemble et nous entoure dans notre quotidien, par exemple
un aspirateur autonome. Le deuxième groupe comprend les "AGI", ou Artificial
General Intelligence[p.751]. Elles repésentent ce qu’il y a de plus proche du
niveau humain. Elles sont capables d’accomplir les mêmes taches que nous, mais
restent cependant limités dans certains domaines. L’IA qui intéresse plus
particulièrement les auteurs sont les Artificial Superintelligence ("ASI")[p.752].
Ce sont des AGI plus perfectionnées. Ils parlent de « singularité », selon la loi
de Moore qui affirme que leur puissance de calcul double tous les deux ans. Ce
sont elles qui sont au centre de tous les débats, car elles évoluent de manière
exponentielles.
Les auteurs ayant d’abord décrit les différents types d’IA et les fonctions qu’elles
remplissaient, ils s’attarde ensuite sur un sujet faisant débat, l’IA doit-elle être
réglementer ? En effet, les lois nationales et internationales ne reconnaissent
pas l'IA comme une personne morale. Par conséquent, les systèmes juridiques
actuels ne peuvent les tenir pour responsables des dommages qu'elles
pourraient causer. Par exemple, si une IA (comme une voiture autonome)
provoquait la mort accidentelle d’une personne, qui serait tenu pour
responsable ? Certains pays on modifiés leur loi afin d’inculper le créateur de
cette IA, et non l’IA elle-même. Les auteurs indiquent qu’il est encore trop tôt
pour donner une conscience morale à une IA. Ils soulèvent ensuite une question
importante ? Faut-il réglementer les IA ? Même si certains spécialistes dans le
domaine insistent sur le fait qu’il faut réguler le développement des IA, les
auteurs ne sont pas du même avis. En effet, trop de réglementations pourrait
entraver des développements essentiels pour l'existence humaine.
Les auteurs concluent sur une note assez positive : non, l’IA n’est pas une
menace pour l’espèce humaine. Même si selon eux les prédictions sont
impossibles pour le moment car les humains sont loin de créer une ASI très
puissante. Tous les problèmes que nous pourrions rencontrer avec les IA
résulteront probablement de l'incapacité de l'humanité à les orienter
efficacement vers nos besoins. La solution qu’ils proposent seraient d’introduire
des reglementations spécifiques à chaque type d’IA, tout en évitant qu’elles soit
trop contraignantes. Elles devront atteindre les objectifs fournis par leurs
programmeurs. La recherche devra aussi examiner comment fixer des objectifs
sûrs, et couvrir toutes les questions philosophiques, éthiques et scientifiques
entourant le développement et le comportement de l'IA.
Florian BOURGUILLAULT 18
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?Je trouve personnellement l’article très bien construit. Il bénéficie d’une
introduction claire, d’une mise en place du problème, puis de différents
arguments pour et contre, et enfin d’une proposition de solution. De plus, le
vocabulaire employé était parfaitement compréhensible, je n’ai pas eu de réelles
difficultés à comprendre le texte. Il était agréable à lire car je pouvais sentir
l’optimisme des auteurs sur le futur de l’IA tout au long de ma lecture. Ils restent
cependant vague par moment. En effet, il y a beaucoup de « pour le moment,
nous ne pouvons pas savoir », assez récurrents dans l’article. Mais cela reste
compréhensible, je suis du même avis qu’eux : en effet, il est encore trop tôt
pour se faire un avis sur le potentiel danger de l’IA.
4.2 Résumé de l’article 2
• Titre : « Why the world wants controls over Artificial Intelligence »
• Auteur : Roger Clarke
• Journal : Computer Law & Security Review p.423-433, Volume 35, Issue 4
• Éditeur : ELSEVIER
• Année : 2019
L’IA a envahi notre vie quotidienne, et notamment celle des entreprises, qui
ont vu en elle sa valeur commerciale. Comme c’est une technologie nouvelle,
elle pose des problèmes majeurs en matière de compréhensibilité, de contrôle
et d'auditabilité. Elle n’est pas encore totalement maîtrisé et certaines personnes
ont été affecté par des disfonctionnement de systèmes autonomes, et des
questions se posent quant à la responsabilités des entreprises.
Le Dr Roger Clarke ; consultant spécialisé dans les aspects stratégiques et
politiques du commerce électronique, les infrastructures d'information, la
surveillance des données et la protection de la vie privée ; aborde le sujet d’une
manière différente du premier article. Son objectif est de délimiter les menaces
inhérentes à l'IA, et de prouver la nécessité de faire preuve de responsabilité
par rapport à son développement et à son déploiement, tout en apportant sa
propre solution sur la question.
Florian BOURGUILLAULT 19
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?L’auteur débute par un état de l’art de l’IA, puis sur une mise en garde de
ses capacités. En effet, celle-ci a dépassé le niveau de l'expertise humaine dans
certains domaines et pourrait bientôt remplacer des fonctions humaines dans les
organisations. Les organisations doivent identifier les technologies d'IA qui ont
une valeur pratique, et concevoir des moyens de les appliquer de manière à en
tirer des avantages sans encourir de désavantages disproportionnés. Une
caractéristique essentielle doit être sa compréhension par des personnes ayant
une formation technique approprié.
Tout comme l’article précédent, l’auteur nous présente les IA concernés. La
robotique, de plus en plus présente dans notre vie quotidienne et au travail. La
cyborgisation, processus d'amélioration des individus par des moyens
technologiques, sujet à de nombreux débats car cela implique une intervention
directe de la technologie sur le corps humain. Les « Rule-based expert
systems », qui consistent à stocker et manipuler les connaissances afin
d'interpréter les informations.
Les menaces engendrées nous sont ensuite présentées. L’IA est de plus en plus
autonome. Les logiciels tirent des conclusions, prennent des décisions et
agissent. L’auteur utilise l’exemple du crash d’un boeing en conduite autonome
comme mise en garde. La connaissance qu'a une IA de son environnement
dépend des données qui lui sont fournies. Toute déficience dans la qualité de ces
données compromet la pertinence des conclusions, des décisions et des actions
de l'objet. Elle peut aussi s’introduire dans les affaire humaines. Un des
problèmes majeurs est le manque de transparence. Lorsque la transparence des
décisions est absente, la responsabilité des organisations pour leurs décisions
est compromise.
Pour conclure, Roger Clarke propose une solution à tous ces problèmes.
Selon lui, il faut repenser l’IA. Elle ne doit plus être vue comme une entité a part
entière, mais comme une technologie complémentaire à l’Homme. Elle doit
étendre les capacités humaines, comme par exemple effectuer des tâches que
les Hommes font mal ou ne peuvent pas faire, tout en restant en collaboration
avec lui. L’auteur souhaite rediriger l’idée d’une « machine qui pense » vers l’idée
d’une « informatique qui fait ».
Il termine par une ouverture brève sur sa crainte du monopole de l’IA par des
organisations déjà puissantes, avides de bénéfices. Il exige des réglementations
et un comportement responsable des organisations, ce qui lui parait vital pour
l'avenir de l'humanité.
Florian BOURGUILLAULT 20
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?L’article suit la même forme que le précédent. Il y a une mise en place du
problème à travers l’introduction, un développement sur différents points puis
une proposition de solution. Cependant, le développement a été fait
différemment. Cette fois, j’ai pu constaté que la plupart des arguments
montraient les mauvais côtés de l’IA, sans vraiment chercher à la défendre.
En effet, comparé à l’article précédent, l’auteur aborde le sujet de façon plus
pessimiste. Mais cela ne m’a pas empêché de trouver son point de vue très
intéressant et enrichissant.
Cet article utilisait des termes plus compliqués et un vocabulaire plus complexe
que l’article précédent. Par exemple, il ne parlait pas vraiment d’IA mais
d’« artefacts et systèmes basés sur l'IA ». L’auteur prévient dans son
introduction qu’il s’adresse à un lectorat techniquement compétent ayant des
connaissances modérées sur le sujet.
4.3 Résumé de l’article 3
• Titre : « The Impacts of Robotics, Artificial Intelligence On Business and
Economics »
• Auteur : Cüneyt Dirican
• Journal : Procedia - Social and Behavioral Sciences p.564-573, Volume 195
• Éditeur : ELSEVIER
• Année : 2015
L’ascension fulgurante des nouvelles technologies n’affecte pas seulement
l’humain, elle touche aussi l’ économie mondiale. Mais quelles sont les menaces
qui planent sur le monde du travail dans un futur proche ? Cette fois-ci, c’est le
consultant en business et management à l’université AREL à Istanbul, Cüneyt
Dirican, qui apportera son analyse et sa réponse à la question. Son objectif est
de discuter de l’impact de la robotique et de l'intelligence artificielle sur
l'économie et les entreprises ; et les changements qui vont se produire dans un
futur proche. L’article précédent sert de tremplin, pour cette fois aborder plus en
profondeur le domaine de l’économie et de l’entreprise.
Florian BOURGUILLAULT 21
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?L’auteur fait tout d’abord un parallèle avec le révolution industrielle, qui a
entrainé une modification du mode de vie de la société et un impact énorme sur
l’économie et le mode de vie des Hommes. L’introduction de la robotique et l’IA
dans le monde du travail ne déroge pas à la règle. Elles vont également apporter
de nouveaux modes de vie et des effets secondaires sociologiques. L’ère
industrielle a basculé vers l’ère du numérique, et a mis en place un nouveau
type d’activité : l’e-business. L’hypothèse de l’auteur est qu’une « Space
economy » [p.565] est née. L'évolution de la forme de la monnaie à l'ère
numérique commence à jouer un rôle actif sur les marchés financiers. Il sera
beaucoup plus facile de financer un projet ou de trouver des capitaux et des
prêts pour les investissements.
Les entreprises voudront utiliser les nouvelles technologies pour maximiser leur
profit. Cela amène donc au problème que nous connaissons tous. Pour gagner
en profit et en productivité, la main d’œuvre humaine sera remplacé par des
robots. Le taux de chômage montera forcément, les entreprises préféreront le
profit aux relations sociales. Mais ces menace de chômage seraient compensées
par une coopération homme-machine, qui améliorerait les compétences
opérationnelles de la main-d'œuvre humaine pour plus d’efficacité et de
productivité. Les anciens postes seront optimisés, améliorés, et des nouveaux
postes seront créés, des postes plus qualifiés demandant un niveau d’étude plus
important.
Un problème majeur se formera selon l’auteur. En effet, des postes seront
supprimés, ce qui donnera moins de pouvoir d’achat aux classes sociales les plus
basses, donc moins de demande du client. Les entreprises seront donc obligé
d’innover pour se démarquer, elles remplaceront alors la main-d'œuvre peu
qualifiée par une main-d'œuvre hautement qualifiée, et ainsi de suite tel un
cercle vicieux, ce qui provoquera une césure dans la société.
Mais ces nouvelles technologies pourront aussi jouer un rôle majeur dans le futur
de l’humanite, notamment sur des questions environmentales, comme par
exemple le remplacement de voitures à carburant par des voitures électrique.
Florian BOURGUILLAULT 22
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?L’auteur conclue sur une note pessimiste. Le monde de demain sera
différent du monde d’aujourd’hui. Toutes ces technologies n’auront pas qu’un
impact sur l’économie et les entreprises, mais aussi sur la vie quotidienne.
L'innovation et les développements technologiques entraîneront le chômage de
la main-d'œuvre peu qualifiée. Les foyers pousseront donc leur enfants a faire
plus d’étude pour réussir dans leur vie professionnelle. Un gouffre social
important sera créé et la classe moyenne, dominante actuellement, pourrait
disparaitre. Le monde du travail changera, il y aura des gains, mais aussi des
pertes.
Dans son article, l’auteur propose une version différente des risques de
l’IA par rapport aux articles précédents. Ces arguments rejoignent beaucoup les
menaces de l’IA que nous connaissons bien, c’est-à-dire son impact sur le monde
du travail. On peut sentir qu’il maîtrise son sujet, il a une grande connaissance
de l’économie mondiale d’hier, d’aujourd’hui et potentiellement demain. Il ne
manque pas d’exemples pour illustrer ses propos.
Après avoir analysé les arguments des deux articles précédents, l’auteur
parvient encore à une version différente des risques de l’IA. Ces arguments
rejoignent beaucoup les menaces de l’IA que nous connaissons bien et dont nous
sommes les plus avertis, c’est-à-dire son impact sur le monde du travail.
Cependant, cet article était très différent des deux autres par sa forme. Il était
condensé, un peu fouillis par moment. Il n’y avait pas vraiment de plan directeur,
juste une introduction, puis des arguments mis bout à bout, pour ensuite finir
par une conclusion.
Son originalité par rapport aux autres que j’ai étudié est qu’il ne traite pas
seulement de l’IA, mais du numérique et des nouvelles technologies en général,
ce qui permet d’agrandir notre champ de vision sur la question.
Florian BOURGUILLAULT 23
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?5 Conclusion et réponse à la problématique
Après avoir étudié les sources situées dans la bibliographie et m’être aidé de
mes connaissances personnelles, j’en suis parvenue a la conclusion suivante.
L’intelligence artificielle n’est pour le moment pas un danger. Elle pourrait
cependant le devenir dans un futur proche si elle se dévelloppe sans contrôle et
exponentiellement. On sait tous qu’elle aura un impact majeur sur notre vie
sociale comme professionnelle. Elle pourrait créer un déséquilibre dans la société
en créant une vague de chômage importante ; les pays pourraient rentrer en
guerre et utiliser des armes autonomes, tout comme les terroristes ; on pourrait
perdre le contrôle de ces technologies qui se retourneraient contre nous ; les
gouvernements pourraient aussi l’utiliser pour nous surveiller à notre insu et
nous garder sous contrôle. J’ai cité plusieurs des problèmes majeurs, mais il y
en encore bien d’autres, et il y en aura sans doute de nouveaux qui apparaitront.
C’est pourquoi l’IA est un véritable défi pour l’Homme. Il est nécéssaire qu’elle
soit contrôlée et soumise à des règles spécifiques. Elle ne soit rester qu’une
« extension » en collaboration avec l’Homme afin de réaliser des choses
auparavant impossibles. Mais pour cela, il faut que toutes les organisations
jouent le jeu et ne cèdent pas à la tentation d’avoir le monopole sur tout. Il faut
voir le bon côté de l’IA. Elle pourrait nous permettre au contraire de prolonger
la survie de notre existence et de répondre à des enjeux qui nous sont
aujourd’hui impossible de concevoir. C’est un domaine ayant fait son apparition
récemment dans l’Histoire, et il nous faudra du temps pour nous adapter et la
maîtriser.
Florian BOURGUILLAULT 24
En quoi l’intelligence artificielle est-elle une menace et un défi à relever pour l’Homme ?Vous pouvez aussi lire
