Intelligence artificielle - Promesses et menaces - Unesco
←
→
Transcription du contenu de la page
Si votre navigateur ne rend pas la page correctement, lisez s'il vous plaît le contenu de la page ci-dessous
Courrier
LE
D E L’ U N E S CO juillet-septembre 2018
Intelligence
artificielle
Promesses
et menaces
2UJDQLVDWLRQ
GHV1DWLRQV8QLHV
SRXUO¶pGXFDWLRQ
ODVFLHQFHHWODFXOWXUH
Découvrez Abonnez-vous
et faites à la version numérique
découvrir le
Courrier 100%
GRATUIT
de l’UNESCO ! http://fr.unesco.org/courier/subscribe
Publié en 9 langues Jouez un rôle
Anglais, arabe, chinois, majeur !
espagnol, esperanto, français, Participez activement
portugais, russe et sarde. à la réussite du Courrier de l’UNESCO
Devenez un partenaire actif en en encourageant sa diffusion et son
proposant de nouvelles éditions utilisation selon la politique de libre accès
linguistiques du Courrier de l’UNESCO. de l’Organisation.
Contact : i.denison@unesco.org http://fr.unesco.org/open-access
Abonnez-vous à la version papier
• 1 an (4 numéros) : 27 € • 2 ans (8 numéros) : 54 €
La publication ne poursuivant aucun Plus de détails sur : http://publishing.unesco.org
but lucratif, ce prix couvre les coûts réels
d’impression et d’expédition. DL Services – C/O Michot Entrepôts
Tarif préférentiel pour les abonnements Chaussée de Mons 77,
groupés : 10% de remise à partir B 1600 Sint Pieters Leeuw, Belgique
de cinq abonnements. Tél.: (+ 32) 477 455 329 E-mail: jean.de.lannoy@dl-servi.com
2018 • n° 3 • Publié depuis 1948 Assistante administrative et éditoriale : © UNESCO 2018
Carolina Rollán Ortega ISSN 2220-2269 • e-ISSN 2220-2277
Le Courrier de l’UNESCO est un trimestriel publié
Rédacteurs :
par l’Organisation des Nations Unies pour
l’éducation, la science et la culture. Il promeut Anglais : Shiraz Sidhva
les idéaux de l’Organisation, en diffusant des Arabe : Anissa Barrak
Périodique publié en libre accès sous la licence
échanges d’idées sur des thèmes de portée Chinois : S un Min et China Translation & Attribution-ShareAlike 3.0 IGO (CC-BY-SA 3.0 IGO)
internationale en lien avec son mandat. Publishing House (http://creativecommons.org/licenses/by-sa/3.0/igo/).
Espagnol : Beatriz Juez Les utilisateurs du contenu de la présente publication
Le Courrier de l’UNESCO est publié grâce au Français : Régis Meyran acceptent les termes d’utilisation de l’Archive ouverte
généreux soutien de la République populaire Russe : Marina Yartseva de libre accès UNESCO (https://fr.unesco.org/open-
de Chine. access/terms-use-ccbysa-fr).
Traduction : Françoise Arnaud-Demir,
Directeur : Vincent Defourny La présente licence s’applique exclusivement aux
Marina Colson, Xavier Perret textes. L’utilisation d’images devra faire l’objet d’une
Directrice éditoriale : Jasmina Šopova
Maquette : Corinne Hayworth demande préalable d’autorisation.
Directeur de la production et Les désignations employées dans cette publication et
Illustration de la couverture : © Francesc Roig
de la promotion : Ian Denison la présentation des données qui y figurent n’impliquent
Secrétaire de rédaction : Katerina Markelova Impression : UNESCO de la part de l’UNESCO aucune prise de position
Rédactrice : Chen Xiaorong Co-éditions : P ortugais : Ana Lúcia Guimarães quant au statut juridique des pays, territoires, villes
Esperanto : Trezoro Huang Yinbao ou zones, ou de leurs autorités, ni quant au tracé de
Rédactrice numérique : Malahat Ibrahimova Sarde : Diegu Corràine leurs frontières ou limites. Les idées et les opinions
Iconographe : Danica Bijeljac exprimées dans cette publication sont celles des
Renseignements et droits de reproduction : auteurs ; elles ne reflètent pas nécessairement les
Production numérique : Denis Pitzalis courier@unesco.org points de vue de l’UNESCO et n’engagent en aucune
Relations médias : Laetitia Kaci 7, place de Fontenoy, 75352 Paris 07 SP, France façon l’Organisation.
Courrier
LE
D E L’ U N E S C O
Pour une de éthique
la recherche en intelligence artificielle
à l’échelle mondiale
Ces dernières années les progrès ont été De quoi est capable l'IA au stade actuel de Un robot obéit à un ensemble de routines
spectaculaires en matière d’intelligence son évolution ? Jusqu'où va son autonomie ? qui permettent son interaction avec
artificielle (IA) et donnent lieu à des Qu’en est-il de la décision humaine ? nous autres humains mais, pour autant,
inventions qu'on n'aurait pas pensées en‑dehors du cadre bien précis au sein
Plus qu’une quatrième révolution industrielle,
possibles. Ordinateurs et robots sont duquel il est censé interagir, il ne peut pas
l’IA est en train de provoquer une révolution
capables d'apprendre à améliorer leur travail nouer de véritable relation sociale.
culturelle. Elle est indéniablement appelée à
et même de prendre des décisions – ce qui
transformer notre futur, mais nous ne savons Il n’empêche que, d’ores et déjà, certaines
se fait bien entendu par le truchement d'un
pas encore de quelle façon. C'est pourquoi des applications de l’IA sont contestables :
algorithme et sans conscience individuelle.
elle fascine et effraie. collecte de données qui empiètent sur la vie
Mais, tout de même, on ne peut manquer
privée, algorithmes de reconnaissance faciale
de se poser des questions. Est-ce qu'une Le Courrier a mené l'enquête et présente
supposés identifier des comportements
machine peut penser ? au lecteur ce qu'il faut retenir de ce
hostiles ou imprégnés de préjugés
nouvel objet de recherche qui se situe à la
raciaux, drones militaires et armes létales
frontière de l'informatique, de l'ingénierie
autonomes... Les problèmes éthiques que l’IA
Œuvre numérique de l’artiste Evgenija et de la philosophie. Au passage, il remet
soulève et ne manquera pas de poser demain
Demnievska, représentant Janus, dieu quelques pendules à l'heure. Car, soyons
– avec une gravité accrue – sont nombreux.
romain pourvu de deux visages, l'un clairs, en l'état actuel des choses l'IA ne
regardant le passé, l’autre, l’avenir. Il préside pense pas. Et nous sommes très loin de Tandis que la recherche avance à toute
à toute transition d'un état à un autre. pouvoir télécharger toutes les composantes allure, pour ce qui est des aspects
d’un être humain dans un ordinateur ! techniques de l’IA, elle piétine, quand il
s’agit de ses aspects éthiques. Certes, de
nombreux chercheurs s’en inquiètent et
certains pays ont entamé une réflexion
sérieuse sur la question, mais aucun cadre
légal n'existe à ce jour pour orienter la
recherche future à l’échelle mondiale.
« Il est de notre responsabilité de mener un
débat universel et éclairé, afin d’entrer
dans cette nouvelle ère les yeux grands
ouverts, sans sacrifier les valeurs
qui sont les nôtres, et permettre
d’aboutir à un socle commun
de principes éthiques », déclare
dans ce numéro du Courrier la
Directrice générale de l’UNESCO,
Audrey Azoulay (voir pp. 36-39).
Un instrument normatif
international est indispensable
au développement responsable
de l’IA : une tâche à laquelle
l'UNESCO est en train de s'atteler
et que ce numéro du Courrier
s’efforce de soutenir, en proposant
des pistes de réflexion.
© Evgenija Demnievska
(evgenijademnievska.com) Le Courrier de l’UNESCO • juillet-septembre 2018 |3
Sommaire
GRAND ANGLE
7 Intelligence artificielle :
entre mythe et réalité
Jean-Gabriel Ganascia
10 La main qui voit
Chen Xiaorong
11 Des robots et des hommes
Vanessa Evers
14 Le chef Giuseppe annonce
une nouvelle ère culinaire
Beatriz Juez
15 Miguel Benasayag : La pensée
n’est pas dans le cerveau !
Propos recueillis par R. Meyran
18 Yoshua Bengio : Contrer
la monopolisation de la recherche
Propos recueillis par J. Šopova
20 Moustapha Cissé :
Démocratiser l’IA en Afrique
Propos recueillis par K. Markelova
22 Yang Qiang :
La quatrième révolution
25
Propos recueillis par W. Chao
La menace des robots tueurs
Vasily Sychev
6-41
29 À notre service,
et non à nos dépens
Tee Wee Ang et Dafna Feinholz
31 Marc-Antoine Dilhac :
Quels risques éthiques ?
Propos recueillis par R. Meyran
42-49
32 Karl Schroeder :
ZOOM
Et si ce n’était que pour le meilleur ?
Propos recueillis par How much can you carry ?
M.C. Pinault Desmoulins ou Le poids de la vie
Floriane de Lassée et
34 Apprendre à vivre à l'ère de l'IA Sibylle d’Orgeval
Leslie Loble
36 Audrey Azoulay :
tirer le meilleur parti de l’IA
Propos recueillis par J. Šopova
40 Glossaire
de l'intelligence artificielle
4 | Le Courrier de l’UNESCO • juillet-septembre 2018
50-55
IDÉES
Danser l’innommable
ou la question de l’influence de
la mémoire de l’esclavage sur
la création artistique contemporaine
Alain Foix
56-59
60-66 NOTRE INVITÉ
Malek Bensmaïl : Filmer le réel
Propos recueillis par J. Šopova
ACTUALITÉS
61 L’archipel de Colomb :
les habitants se mobilisent
62 L’homme et la nature réconciliés
Luc Jacquet
64 Des secrets de Tiwanaku
dévoilés par un drone
Lucía Iglesias Kuntz
SPÉCIAL 70 ANS
67-70 Le seul journal que Nelson Mandela
lisait à Robben Island
Annar Cassam
Le Courrier de l’UNESCO • juillet-septembre 2018 |5
Promesses et menaces
Grand angle
Reconnaissance faciale, selon
l’artiste américain Tony Oursler.
© Avec l’aimable autorisation de l’artiste
et de la Galerie Lehmann Maupin,
New York et Hong Kong
6 | Le Courrier de l’UNESCO • juillet-septembre 2018
Grand angle
Intelligence artificielle :
entre mythe
et réalité
Jean-Gabriel Ganascia
Cette idée, qui renvoie à des mythes et Plus précisément, cette discipline scientifique
des légendes anciennes, comme celle du reposait sur la conjecture selon laquelle
Les machines risquent-elles Golem, a récemment été réactivée par des toutes les fonctions cognitives, en particulier
de devenir plus intelligentes personnalités du monde contemporain l’apprentissage, le raisonnement, le calcul,
que les hommes ? Non, répond comme le physicien britannique Stephen la perception, la mémorisation, voire même
Jean‑Gabriel Ganascia : il s'agit Hawking (1942-2018), l’entrepreneur la découverte scientifique ou la créativité
américain Elon Musk, le futuriste américain artistique, peuvent être décrites, avec
là d'un mythe inspiré par Ray Kurzweil ou encore par les tenants de une précision telle qu’il serait possible
la science-fiction. Il rappelle ce que l’on appelle aujourd’hui l’« IA forte » de programmer un ordinateur pour les
les grandes étapes de ce ou l’« IA générale ». Nous ne ferons toutefois reproduire. Depuis plus de soixante ans que
pas plus état, ici, de cette acception seconde, l’IA existe, rien n’a permis ni de démentir, ni de
domaine de recherche, les
car elle atteste uniquement d’un imaginaire démontrer irréfutablement cette conjecture
prouesses techniques actuelles foisonnant, inspiré plus par la science-fiction qui demeure à la fois ouverte et féconde.
et les questions éthiques qui que par une réalité scientifique tangible
requièrent des réponses de plus confirmée par des expérimentations et des
observations empiriques.
Une histoire
en plus urgentes. en dents de scie
Pour John McCarthy et Marvin Minsky,
L’intelligence artificielle (IA) est une comme pour les autres promoteurs de Au cours de sa courte existence, l’IA a connu
discipline scientifique qui a vu officiellement l’école d’été du Dartmouth College, l’IA de nombreuses évolutions. On peut les
le jour en 1956, au Dartmouth College, à visait initialement à la simulation, par des résumer en six étapes.
Hanovre, aux États-Unis, lors d’une école machines, de chacune des différentes
facultés de l’intelligence, qu’il s’agisse de Le temps des prophètes
d’été organisée par quatre chercheurs
américains : John McCarthy, Marvin Minsky, l’intelligence humaine, animale, végétale, Tout d’abord, dans l’euphorie des origines
Nathaniel Rochester et Claude Shannon. sociale ou phylogénétique. et des premiers succès, les chercheurs
Depuis, le terme « intelligence artificielle », s’étaient laissé aller à des déclarations un
qui à l’origine avait sans doute été inventé peu inconsidérées qu’on leur a beaucoup
pour frapper les esprits, a fait fortune, Ce bébé robot, baptisé CB2, a été reprochées par la suite.
puisqu’il est devenu très populaire au point construit par Minoru Asada (Japon) pour
qu’aujourd’hui plus personne ne l’ignore, comprendre le processus d’apprentissage
que cette composante de l’informatique des machines. Ici, CB2 apprend à ramper.
a pris de plus en plus d’ampleur au fil
du temps et que les technologies qui en
sont issues ont grandement contribué à
changer le monde pendant les soixante
dernières années.
Cependant, le succès du terme « intelligence
artificielle » repose parfois sur un
malentendu lorsqu’il désigne une entité
artificielle douée d’intelligence et qui, de
ce fait, rivaliserait avec les êtres humains.
© Max Aguilera-Hellweg / INSTITUTE
Le Courrier de l’UNESCO • juillet-septembre 2018 |7
Grand angle
Cela donna naissance à des applications
industrielles (identification d’empreintes
digitales, reconnaissance de la parole,
etc.), où des techniques issues de l’IA, de
C’est ainsi qu’en 1958, l’Américain Herbert L’IA sémantique l’informatique, de la vie artificielle et d’autres
Simon, qui deviendrait par la suite prix
Les travaux ne s’interrompirent pas pour disciplines se côtoyaient pour donner des
Nobel d’économie, avait déclaré que d’ici à
autant, mais on axa les recherches dans systèmes hybrides.
dix ans les machines seraient championnes
de nouvelles directions. On s’intéressa à la
du monde aux échecs, si elles n’étaient pas De l’IA aux interfaces
psychologie de la mémoire, aux mécanismes
exclues des compétitions internationales. homme‑machine
de compréhension, que l’on chercha à
Les années sombres simuler sur un ordinateur, et au rôle de À partir de la fin des années 1990, on
la connaissance dans le raisonnement. coupla l’IA à la robotique et aux interfaces
Au milieu des années 1960, les progrès
C’est ce qui donna naissance aux homme-machine, de façon à produire
tardaient à se faire sentir. Un enfant de
techniques de représentation sémantique des agents intelligents qui suggèrent la
dix ans avait battu un ordinateur au jeu
des connaissances, qui se développèrent présence d’affects et d’émotions. Cela
d’échecs en 1965 ; un rapport commandé
considérablement dans le milieu des années donna naissance, entre autres, au calcul des
par le Sénat américain faisait état, en 1966,
1970, et conduisit aussi à développer émotions (affective computing), qui évalue
des limitations intrinsèques de la traduction
des systèmes dits experts, parce qu’ils les réactions d’un sujet ressentant des
automatique. L’IA eut alors mauvaise presse
recouraient au savoir d’hommes de métiers émotions et les reproduit sur une machine,
pendant une dizaine d’années.
pour reproduire leurs raisonnements. et surtout au perfectionnement des agents
Ces derniers suscitèrent d’énormes conversationnels (chatbots).
espoirs au début des années 1980 avec de
multiples applications, par exemple pour Renaissance de l’IA
le diagnostic médical. Depuis 2010, la puissance des machines
Le premier calculateur numérique Néo-Connexionnisme et permet d’exploiter des données de
électronique programmable connu, masse (big data) avec des techniques
apprentissage machine
l'ENIAC (Electronic Numerical Integrator d’apprentissage profond (deep learning),
and Computer), inauguré en 1946, avait Le perfectionnement des techniques qui se fondent sur le recours à des réseaux
un volume de 30 m3 et pesait 30 tonnes. conduisit à l’élaboration d’algorithmes de neurones formels. Des applications très
Mis au point à l'université de Pennsylvanie d’apprentissage machine (machine learning), fructueuses dans de nombreux domaines
(États‑Unis), il a été utilisé jusqu’en 1955, qui permirent aux ordinateurs d’accumuler (reconnaissance de la parole, des images,
d'abord pour des calculs balistiques de des connaissances et de se reprogrammer compréhension du langage naturel, voiture
l’armée américaine et ensuite pour la automatiquement à partir de leurs autonome, etc.) conduisent à parler d’une
résolution de problèmes de physique propres expériences. renaissance de l’IA.
nucléaire et de météorologie.
Photo: Domaine public / Photo de l’armée des États-Unis
8 | Le Courrier de l’UNESCO • juillet-septembre 2018
Grand angle
Quels risques éthiques ?
Avec l’IA, non seulement, la plupart des
dimensions de l’intelligence – sauf peut-
être l’humour – font l’objet d’analyses et
de reconstructions rationnelles avec des
ordinateurs, mais de plus les machines
outrepassent nos facultés cognitives dans
la plupart des domaines, ce qui fait craindre
à certains des risques éthiques. Ces risques
sont de trois ordres : la raréfaction du travail,
qui serait exécuté par des machines à la
© BBP/EPFL 2015
place des hommes ; les conséquences pour
l’autonomie de l’individu, en particulier pour
sa liberté et sa sécurité ; le dépassement
de l’humanité qui disparaîtrait au profit de
machines plus « intelligentes ».
Simulation d’activité dans un microcircuit
de neurones virtuels de rat (2015), Or, un examen de détail montre que le
par l’équipe du Blue Brain Project travail ne disparaît pas, bien au contraire,
Applications (BBP), un pan du Human Brain Project mais qu’il se transforme et fait appel à
européen (HBP). Selon les scientifiques, de nouvelles compétences. De même,
Beaucoup de réalisations mettant à il s’agit d’une étape vers la simulation du l’autonomie de l’individu et sa liberté
profit des techniques d’IA dépassent les fonctionnement d’un cerveau humain. ne sont pas inéluctablement remises en
facultés humaines : une machine a vaincu, cause par le développement de l’IA, à
au jeu d’échecs, le champion du monde condition toutefois de demeurer vigilants
en titre en 1997 et, plus récemment, en Par ailleurs, les scientifiques utilisent ces face aux intrusions de la technologie dans
2016, d’autres l’ont emporté sur l’un des techniques pour déterminer la fonction de la vie privée.
meilleurs joueurs au monde au jeu de certaines macromolécules biologiques, en
go et sur d’excellents joueurs de poker ; particulier de protéines et de génomes, à Enfin, contrairement à ce que certains
des ordinateurs démontrent ou aident à partir de la séquence de leurs constituants prétendent, les machines ne constituent
démontrer des théorèmes mathématiques ; – acides aminées pour les protéines, bases aucunement un risque existentiel pour
on construit automatiquement des pour les génomes. Plus généralement, l’humanité, car leur autonomie n’est que
connaissances à partir de masses immenses toutes les sciences subissent une rupture d’ordre technique, en cela qu’elle ne
de données dont le volume se compte épistémologique majeure avec les correspond qu’à des chaînes de causalités
en téraoctets (1012 octets), voire en expérimentations dites in silico, parce matérielles qui vont de la prise d’information
pétaoctets (1015 octets), avec les techniques qu’elles s’effectuent à partir de données à la décision ; en revanche, les machines n’ont
d’apprentissage machine. massives, grâce à des processeurs puissants pas d’autonomie morale, car, même s’il arrive
dont le cœur est fait de silicium, et qu’elles qu’elles nous déroutent et nous fourvoient
Grâce à ces dernières, des automates dans le temps de l’action, elles n’ont pas
s’opposent en cela aux expérimentations
reconnaissent la parole articulée et la de volonté propre et restent asservies aux
in vivo, sur le vivant, et, surtout, in vitro,
transcrivent, comme les secrétaires objectifs que nous leur avons fixés.
c’est-à-dire dans des éprouvettes de verre.
dactylographes d’antan, et d’autres
identifient avec précision des visages ou des Ces applications de l’IA affectent presque
empreintes digitales parmi des dizaines de tous les domaines d’activités, en particulier Professeur d’informatique à Sorbonne
millions et comprennent des textes écrits dans les secteurs de l’industrie, de la banque, Université, Jean-Gabriel Ganascia (France)
en langage naturel. Toujours grâce à ces des assurances, de la santé, de la défense : en est également chercheur au LIP6, EurAI
techniques d’apprentissage machine, des effet, de nombreuses tâches routinières sont fellow, membre de l’Institut Universitaire de
voitures se conduisent seules ; des machines désormais susceptibles d’être automatisées, France et président du comité d’éthique du
diagnostiquent mieux que des médecins ce qui transforme bien des métiers et CNRS. Ses activités de recherche portent
dermatologues des mélanomes à partir de éventuellement en supprime certains. actuellement sur l’apprentissage machine,
photographies de grains de beauté prises sur la fusion symbolique de données, l’éthique
la peau avec des téléphones portables ; des computationnelle, l’éthique des ordinateurs
robots font la guerre à la place des hommes et les humanités numériques.
(voir p. 25-28) ; et des chaînes de fabrication
dans les usines s’automatisent toujours plus.
Le Courrier de l’UNESCO • juillet-septembre 2018 |9
Grand angle
La main qui voit
Chen Xiaorong
Conçue par
des ingénieurs
biomédicaux
de l'université de
Newcastle (Royaume‑Uni),
cette main bionique intuitive,
capable de « voir » les objets
et de les saisir avec précision
et fluidité, va changer la vie
des personnes handicapées
des membres supérieurs.
Jusqu’à présent, il fallait que la personne Ses recherches sont aujourd’hui motivées
Cette main bionique est capable d’attraper équipée voie l’objet, stimule physiquement par l’espoir de pouvoir restaurer les
aisément et rapidement n’importe quel objet, les muscles de son bras et insuffle un fonctions des personnes atteintes de
grâce à une caméra qui le photographie et mouvement à la prothèse. Dans la nouvelle déficience sensorimotrice.
en évalue la forme et la dimension. version, une minuscule caméra (d’un coût
Le schéma électromécanique et le
© Newcastle University, UK inférieur à 1,50 dollar), fixée sur la main
programme informatique de la nouvelle
bionique, photographie l’objet, en évalue
main bionique, tous deux disponibles en
la forme et la dimension et déclenche une
ligne, pourront être installés, ou si nécessaire
Lorsque Doug McIntosh, un amputé prenant série de mouvements fluides pour l’attraper,
adaptés, sur différents types de prothèses de
part à l’essai clinique, est parvenu, pour la tout cela en l’espace de quelques secondes.
membres supérieurs.
première fois depuis vingt ans, à s’emparer
Il suffit à l’individu d’un coup d’œil dans la
d’un objet rapidement, précisément et sans « Nous fabriquons le système de commande
bonne direction. La main sélectionne alors,
effort, la joie a illuminé son visage. Pour de l’appareil et du logiciel, mais pas celui
grâce à l’intelligence artificielle, l’un des
le concepteur de la main bionique dont il de la main artificielle », indique Kianoush
quatre modes de préhension – saisir une
était équipé, il n’y avait pas de plus grande Nazarpour, qui précise que le matériel
tasse, tenir une télécommande, prendre
récompense. informatique nécessaire ne coûte qu’un
un objet entre le pouce et deux doigts, ou
dollar. Au-delà de l’intérêt évident
« C’était le signe que j’avais vu juste », rayonne en pinçant le pouce et l’index. L’appareil
qu’elle présente pour les handicapés,
le docteur Kianoush Nazarpour, ingénieur en est dix fois plus rapide que les membres
cette main bionique, couplée à un robot
biomédecine à l’Institut de neurosciences de bioniques existants.
intelligent, pourrait intéresser l’industrie et
l’Université de Newcastle, au Royaume-Uni.
« La sensibilité a toujours été l’un des les entreprises.
Sa main bionique vient de décrocher un prix
principaux obstacles en matière de prothèses.
de l’innovation à la Netexplo 2018. On compte au Royaume-Uni environ
Leur utilisation exigeait de la pratique, de
600 nouveaux amputés des membres
Cette nouvelle génération de membres la concentration et du temps », explique
supérieurs chaque année, et aux États-Unis
artificiels permet aux appareillés de Kianoush Nazarpour. « Les prothèses ont
ce chiffre monte à 500 000. « Notre projet est
saisir un objet sans l’aide du cerveau, très peu évolué depuis un siècle : le design
de coopérer avec de nombreux fabricants de
automatiquement et sans y penser. Et cela, s’est amélioré, les matériaux sont plus légers
prothèses et nous avons besoin de construire
exactement comme avec une vraie main... et plus solides, mais le fonctionnement reste
des réseaux », note Kianoush Nazarpour.
le même. Ce dispositif est bien plus flexible
« J’espère que cela pourra aider des milliers de
puisque la main est capable de saisir des objets
personnes à travers le monde ».
inconnus : une avancée cruciale », ajoute‑t‑il.
Kianoush Nazarpour, qui se consacre
depuis 1999 à l’amélioration des prothèses,
a grandi en Iran où il rêvait d’être docteur
en médecine.
10 | Le Courrier de l’UNESCO • juillet-septembre 2018Grand angle
Des robots et
des hommes
© Pascal Meunier / Cosmos
Les résidents de la maison de retraite
Tsukui, dans la ville de Kawasaki au
Vanessa Evers Japon, font un peu de gymnastique avec
Nous vivons à une époque où des robots leur coach Pepper (2015).
font le ménage, transportent des personnes,
Pour qu'un agent artificiel désamorcent des bombes, construisent
endosse un véritable rôle social des prothèses, secondent des chirurgiens, Nos emplois auront radicalement changé :
fabriquent des produits, nous divertissent, certains auront disparu et d’autres seront
et établisse une relation sensée
nous enseignent et nous surprennent. De créés, comme par exemple dans le domaine
avec un être humain, il devrait même que la connectivité actuelle des du développement d’applications destinées
être doté d’un profil à la fois smartphones et des médias sociaux dépasse aux plateformes robotiques pour nos
psychologique, culturel, social notre imagination d’antan, on s’attend foyers. L’éducation, elle aussi, devra changer
à ce que les futurs robots soient dotés radicalement (voir p. 34-35). Nos sens et nos
et émotionnel. Les méthodes de capacités physiques, et l’intelligence cerveaux pourraient être artificiellement
actuelles d’apprentissage des artificielle (IA) d’aptitudes cognitives, augmentés, et notre capacité de réfléchir
machines ne permettent pas totalement impensables aujourd’hui, aux perspectives offertes sera probablement
un tel développement. Les robots leur permettant de résoudre de graves améliorée par l’analyse automatisée de
problèmes comme le vieillissement de la grandes quantités de données : tout cela
de demain seront nos humbles société, les menaces écologiques et les exigera un autre traitement de l’information
assistants, sans plus. conflits mondiaux. dans les écoles.
À quoi ressembleront nos journées dans Mais qu’en sera-t-il de nos rapports humains ?
un avenir prochain ? Nous vivrons sans Comment évoluera la façon dont nous nous
doute plus longtemps, puisque des organes rencontrons, vivons ensemble, élevons nos
synthétiques viendront remplacer les enfants ? Et dans quelle mesure la fusion
parties défaillantes de notre corps, que les entre robots et hommes aura-t-elle lieu ?
interventions médicales nanométriques
Nous sommes nombreux à nous demander si
cibleront les maladies et les gènes et que
l’IA pourra un jour devenir brillante et experte
les véhicules autonomes limiteront les
en communication humaine, au point que
accidents de la circulation.
plus rien ne permettrait de distinguer l’être
humain de son jumeau artificiel.
Le Courrier de l’UNESCO • juillet-septembre 2018 | 11Grand angle
S’il devenait possible de communiquer
naturellement avec un agent artificiel, de se
sentir épaulé au point de s’en remettre à lui
et de nouer une relation sensée et durable,
subsisterait-il une distinction entre nos
relations interhumaines et nos relations avec
la technologie ? Et quand nos corps et nos
esprits auront été augmentés par l’IA et la
robotique, quel sera le sens de l’humain ?
Astuces
Du point de vue de l’ingénierie, on est encore
bien loin de telles avancées. Il nous faudra
d’abord surmonter plusieurs obstacles
sérieux. Le premier est lié au fait que la
plupart des robots et ordinateurs sont reliés
à des sources d’énergie : cela complique
l’intégration d’éléments robotiques dans
les tissus organiques humains. Un second
écueil est la complexité de la communication
humaine. S’il est envisageable qu’un
robot puisse converser en langage naturel
© Pascal Meunier / Cosmos
ponctuellement et dans une situation
spécifique, c’est autre chose que de
l’imaginer engager une communication
à la fois verbale et non verbale au fil des
conversations et des contextes.
Si, par exemple, vous appeliez un agent
artificiel responsable des objets trouvés
dans un aéroport, un échange satisfaisant
serait possible : l’objet de l’appel est
circonscrit, l’interaction structurée et les
objectifs de l’appelant limités. Par contre, Or, pour nouer avec lui une relation sensée, Lorsqu’on entre l’une de ces séquences
pour instaurer une relation plus poussée capable de s’intensifier et d’évoluer avec vidéos dans un ordinateur, celle-ci se voit
avec un robot animal de compagnie, le le temps dans le contexte varié de la vie attribuer une mention indiquant si la
modèle à produire est bien plus complexe. quotidienne, comme le font entre eux les personne filmée est ou non à son aise – cet
Le robot doit avoir des objectifs internes, humains, il faut doter le robot d’une vie étiquetage peut être réalisé par des experts
de grandes capacités de mémoire pouvant intérieure riche. en psychologie ou en culture locale.
relier chaque expérience aux divers
Cet apprentissage permet ensuite à
contextes, personnes, objets et animaux
rencontrés, et il doit pouvoir développer de
Comment les machines l’ordinateur de « raisonner » à partir de
telles capacités dans le temps. apprennent-elles ? ces vidéos étiquetées, et d’identifier les
principaux traits associés au sentiment
Un certain nombre d’« astuces » permettent La difficulté, pour créer cette vie intérieure de bien-être : posture corporelle, timbre
à un robot de paraître plus intelligent artificielle, tient au mode d’apprentissage de voix, rougeur de la peau. Lorsque la
et capable qu’il ne l’est réellement : des machines. machine a identifié les traits associés au
par exemple en y introduisant des bien-être, l’algorithme ainsi créé, capable
L’apprentissage machine est basé sur
comportements aléatoires, qui rendent le de les détecter sur une vidéo, peut être
l’exemple. On nourrit l’ordinateur d’exemples
robot animal de compagnie intéressant plus entraîné et perfectionné lorsqu’on lui fournit
du phénomène qu’on souhaite qu’il
longtemps. À cela s’ajoute que nous autres d’autres séries de séquences. L’algorithme
comprenne, comme, par exemple, le bien-
humains avons une tendance à interpréter devient finalement robuste et un ordinateur
être chez l’être humain. Pour enseigner à la
le comportement d’un robot comme celui équipé d’une caméra peut, avec précision,
machine à reconnaître cet état de bien-être,
d’un humain, tout comme nous le faisons distinguer une personne en situation de
on lui fournit des données personnelles
avec les animaux, du reste. bien-être d’une autre qui ne l’est pas. Bien
connexes : images, vidéos, enregistrements
sûr, l’ordinateur n’est pas fiable à 100 % et
de paroles, pulsations cardiaques, messages
commettra nécessairement des erreurs
postés sur les médias sociaux, et autres
d’appréciation.
types d’échantillons.
12 | Le Courrier de l’UNESCO • juillet-septembre 2018Grand angle
Il est possible de créer un agent convaincant On voit l'IA accomplir d’incroyables exploits,
comme l’Alexa d’Amazon ou le Siri d’Apple, lire tout l’Internet, gagner au jeu de go,
à qui on peut s’adresser en langage naturel diriger une usine entièrement automatisée.
et avec qui on peut avoir une interaction Mais, tout comme le physicien britannique
sensée dans le cadre précis de son utilisation : Stephen Hawking (1942-2018) se sentait
régler l’alarme d’un réveil, dresser une liste, encore à mille lieues de comprendre
commander un produit, baisser le chauffage. l’univers, nous sommes à mille lieues de
comprendre l’intelligence humaine.
Néanmoins, dès qu’on sort de ce contexte,
la communication tourne court. Le robot
trouvera des réponses acceptables à un Ce n’est pas pour demain
large éventail de questions, mais sera
incapable de poursuivre une conversation Les capacités exceptionnelles des robots et
d’une heure sur un sujet complexe. Deux des systèmes artificiellement intelligents
parents, par exemple, peuvent entamer pourront faciliter et améliorer nos prises
de longues discussions pour décider de de décision, notre compréhension des
l’attitude à adopter face à un enfant qui n’est situations et nos façons d’agir. Les robots
pas attentif à l’école. Cette conversation sera pourront alléger le travail ou automatiser
extrêmement riche, les parents y apportant les tâches. Une fois les obstacles surmontés,
non seulement leur compréhension la robotique sera peut-être physiquement
de leur enfant, mais aussi tout ce qui intégrée au corps humain. Nous nouerons
constitue leur personnalité : émotions, aussi avec des agents artificiels des
psychologie, histoire personnelle, contexte relations comparables à celles que nous
socioéconomique, bagage culturel, bagage entretenons entre nous : nous pourrons ainsi
génétique, habitudes de comportement et communiquer avec eux en langage naturel,
compréhension du monde. observer leurs comportements, comprendre
leurs intentions. Mais aucune relation
Si nous voulons qu’un agent artificiel sensée comparable à celle des humains,
endosse un rôle social aussi vaste et avec ses conversations et ses rituels, son
établisse une relation sensée avec un être approfondissement et son évolution au fil
humain, nous devons le doter d’un profil du temps dans le cadre foisonnant de la vie
Les robots, une main-d’œuvre nouvelle synthétique, construit à la fois du point quotidienne, n’est possible si l’on ne dote
génération, remédient à la pénurie de de vue psychologique, culturel, social et pas l’IA d’une vie intérieure conséquente.
personnel soignant dans les hôpitaux au émotionnel. Nous devons aussi le rendre
Japon. Riba, inventé par Toshiharu Mukai, capable d’apprendre avec le temps à Tant que nous saurons seulement en
est capable de porter des patients de 80 kilos. « ressentir » et à réagir aux situations à partir reproduire ou surpasser certaines fonctions,
de cette construction synthétique interne. et non créer cette globalité de l’intelligence
humaine placée dans le riche contexte du
Maintenant que nous savons comment Cela exige une approche fondamentalement quotidien, on a peu de chances d’assister
apprend une machine, qu’est-ce qui différente de l’apprentissage machine que à la pleine intégration des hommes et des
s’oppose à ce qu’on crée une vie intérieure l’on connaît actuellement. Il s’agirait de bâtir machines.
convaincante permettant à un agent un système artificiellement intelligent qui se
artificiel de s’intégrer harmonieusement développerait à peu près comme un cerveau
dans la société humaine ? humain, en étant capable d’intérioriser la Spécialisée dans le développement des
richesse des expériences humaines et d’avoir solutions robotiques, Vanessa Evers
Vers un profil un raisonnement sur elles. La manière dont
les gens communiquent entre eux et en
(Pays-Bas) est professeur titulaire en
informatique au sein du groupe Human
synthétique complexe viennent à comprendre le monde qui les Media Interaction de l’université de Twente
entoure est un processus extraordinairement et directrice scientifique du DesignLab. Elle
Pour qu’un agent artificiel soit capable compliqué à synthétiser. Les modèles d’IA a publié près de 200 publications revues
de nouer une relation réellement durable disponibles ou envisagés s’inspirent du par les pairs et est rédactrice en chef à
avec une personne, il faut qu’il soit doté cerveau humain ou d’une partie de son l’International Journal of Social Robotics et
d’une personnalité et de comportements fonctionnement, mais ne constituent pas un rédactrice associée au Journal of Human-
convaincants, qu’il comprenne la personne, modèle plausible de cerveau humain. Robot Interaction.
la situation dans laquelle tous deux se
trouvent et l’histoire de leur communication.
Il doit surtout être capable de poursuivre
celle-ci sur des sujets divers et dans des
situations variées.
Le Courrier de l’UNESCO • juillet-septembre 2018 | 13Grand angle
Le chef Giuseppe annonce une
nouvelle
ère culinaire
Giuseppe ne cesse de surprendre par ses
mélanges d’ingrédients, auxquels nul être
humain n’aurait pensé. « Pour la mayonnaise,
nous utilisons le lupin, qui, mélangé à certains
© Cristhian Guzmán / Paula Magazine
composants du pois chiche, donne une
émulsion très proche de celle de l’œuf. Nous
avons utilisé des champignons pour rehausser
la sensation de sucré dans un chocolat et des
graines d’alpiste pour modifier la densité de
certains laits », révèle le cofondateur.
NotCo veut révolutionner l’industrie
alimentaire en lançant sur le marché des
Karim Pichara, Matías Muchnick aliments sains et goûteux obtenus à partir
et Pablo Zamora, fondateurs de Il a été baptisé en l’honneur de Giuseppe de plantes, d’un prix abordable et dont la
The Not Company. Arcimboldo (1527-1593), le peintre italien production ne nuise pas à l’environnement.
dont les portraits à base de fleurs, de Pour l’instant, il n’est présent que sur le
fruits, de plantes et d’animaux ont fait la marché chilien, mais NotCo espère bientôt
renommée. « Ses tableaux nous disent qu’on s’étendre à l’Argentine, au Brésil et à
peut tout résoudre avec de l’intelligence, du la Colombie.
Beatriz Juez
talent et beaucoup de fruits et de légumes »,
explique Pablo Zamora, biochimiste, docteur Mayonnaise végétale
Giuseppe peut changer en biotechnologie et cofondateur, avec
Au Chili, l’entreprise commercialise déjà
fondamentalement nos habitudes Matías Muchnick et Karim Pichara, de NotCo.
« NotMayo », un assaisonnement végétalien
alimentaires. Ce grand chef La passion de notre Giuseppe n’est pas la proche de la mayonnaise, sans OGM, ni lactose,
cuisinier futuriste n’est autre peinture, mais la cuisine. Pour trouver la ni gluten, ni œufs, ni soja. Tout dans l’aspect
bonne recette, ce chef intelligent fouille une et le goût rappelle la célèbre sauce, sauf que,
qu’un algorithme ! Il a été créé base de données de plantes et d’aliments comme le dit l’étiquette, elle est « préparée à
par l’entreprise chilienne The Not et détecte les plantes qui doivent être partir d’ingrédients végétaux, et rien d’autre ».
Company (NotCo), une start-up combinées et les proportions nécessaires D’autres produits seront lancés bientôt : yaourt,
fondée à Santiago du Chili en pour produire le goût et la texture désirés. lait, fromage, chocolat et céréales.
2015 par trois jeunes Chiliens. « Il trouve des liens insolites entre des plantes Pablo Zamora assure que 85 % de leurs
Grâce à l’intelligence artificielle, qu’il a préalablement caractérisées au niveau clients ne sont ni véganes ni végétariens, et
moléculaire, nutritionnel, sensoriel et physico- qu’ils achètent ses produits parce qu’ils les
ils produisent des substituts chimique », explique Pablo Zamora, qui apprécient et qu’ils savent qu’ils sont bons
alimentaires à partir d’ingrédients était présent au Forum 2018 de Netexplo, pour la santé et pour l’environnement. Chez
végétaux, reconstituant avec observatoire indépendant qui étudie les NotCo, on est persuadé que c’est le début
tendances du numérique et leur impact sur d’une nouvelle ère culinaire. Leur devise :
précision non seulement le goût
la société et les entreprises. Le Forum était « Changeons sans changer ! », autrement dit,
mais aussi la couleur, la texture organisé en février au Siège de l’UNESCO mangeons mieux et autrement, sans nous
et les nutriments des aliments à Paris (France). rendre compte que c’est différent.
d’origine animale. Tout cela fait de Mais Giuseppe n’est pas seul aux L’industrie alimentaire doit elle aussi
Giuseppe l’un de dix lauréats de fourneaux. Il est soutenu par une équipe de modifier ses modes de production, estime
Netexplo Innovation 2018. scientifiques et de chefs cuisiniers chargés le biochimiste, qui rappelle que, selon
de perfectionner la recette. « Il fait parfois l’Organisation des Nations Unies pour
des erreurs », reconnaît le biochimiste. l’alimentation et l’agriculture (FAO), il faut
« Il est capable de nous fabriquer un lait 1 500 litres d’eau pour produire un kilo de blé
parfait… mais rose ! L’équipe informe alors et dix fois plus pour produire un kilo de viande.
Giuseppe du problème et celui-ci recalcule Il en est convaincu : appliquée aux aliments,
l’algorithme de la recette du lait, qui retrouve l’intelligence artificielle nous permettra de
sa couleur habituelle ». contribuer au développement durable.
14 | Le Courrier de l’UNESCO • juillet-septembre 2018Grand angle
La pensée
n’est pas dans le cerveau !
Miguel Benasayag répond
aux questions de Régis Meyran
Dans l’expression « intelligence
artificielle » (IA), le mot « intelligence »
n'est qu'une métaphore. Car, si sa
capacité calculatoire dépasse celle
de l’homme, l’IA est incapable
© Jordi Isern (www.jordiisern.net)
de donner une signification à ses
propres calculs. Pour le philosophe
et psychanalyste argentin Miguel
Benasayag, réduire toute la
complexité du vivant à un code
informatique est illusoire, tout
Œuvre de la série Constellations (2014) de
comme l’idée qu’une machine peut l’artiste espagnol Jordi Isern.
se substituer à l'homme est absurde.
Qu’est-ce qui distingue l’intelligence Deux ordinateurs du programme Google Mais peut-on avoir une relation amoureuse
humaine de l’artificielle ? Brain seraient parvenus à communiquer avec un robot ? Non, car l’amour et l’amitié
entre eux dans une « langue » qu’ils auraient ne se réduisent pas à un ensemble de
L’intelligence vivante n’est pas une machine
eux-mêmes créée et qui serait indéchiffrable transmissions neuronales dans le cerveau.
à calculer. C’est un processus qui articule
pour l’homme... Qu’en pensez-vous ?
l’affectivité, la corporéité, l’erreur. Elle suppose L’amour et l’amitié existent au-delà de
la présence du désir et d’une conscience Cela n’a tout simplement aucun sens. En l’individu, au-delà même de l’interaction
chez l’être humain de sa propre histoire sur réalité, à chaque fois qu’on lance ces deux entre deux personnes. Quand je parle, je
le long terme. L’intelligence humaine n’est machines, elles répètent systématiquement participe à quelque chose que nous avons
pas pensable en dehors de tous les autres la même séquence d’échange d’informations. en commun, la langue. Il en va de même
processus cérébraux et corporels. Et cela n’a rien d’une langue, cela ne pour l’amour, l’amitié et la pensée : ce sont
communique pas. C’est une mauvaise des processus symboliques auxquels les
Contrairement à l’homme, ou à l’animal,
métaphore, comme celle consistant à dire humains participent. Personne ne pense
qui pense à l’aide d’un cerveau situé
que la serrure « reconnaît » la clé. en soi. Un cerveau donne son énergie pour
dans un corps, lui-même inscrit dans un
participer à la pensée.
environnement, la machine produit des calculs Dans le même ordre d’idées, certaines
et des prédictions sans être capable de leur personnes disent qu’elles sont « amies » avec À ceux qui croient que la machine peut
donner une signification. La question de savoir un robot. Il existe même des applications penser, nous devons répondre : ce serait
si une machine peut se substituer à l’homme, pour smartphone qui sont supposées vous étonnant qu’une machine pense, puisque
est en réalité absurde. C’est le vivant qui crée permettre de « dialoguer » avec un robot. même le cerveau ne pense pas !
du sens, pas le calcul. Nombre de chercheurs Voyez le film Her, de Spike Jonze (2013) :
en IA sont convaincus que la différence entre après une série de questions posées à un
intelligence vivante et intelligence artificielle homme, qui permettent de cartographier
est quantitative, alors qu’elle est qualitative. son cerveau, une machine fabrique une
voix et des réponses qui déclenchent un
sentiment amoureux chez cet homme.
Le Courrier de l’UNESCO • juillet-septembre 2018 | 15Grand angle
Selon vous, le fait de réduire le vivant à un
code constitue le défaut principal de l’IA.
En effet, certains spécialistes de l’IA
sont tellement éblouis par leurs
prouesses techniques, un peu comme
des petits garçons fascinés par leur jeu
de construction, qu’ils perdent la vue
d’ensemble. Ils tombent dans le piège
du réductionnisme.
Le mathématicien américain et père de la
cybernétique Norbert Wiener écrivait en
1950, dans The Human Use of Human Beings
(Cybernétique et société), qu’on pourra un jour
« télégraphier un homme ». Quatre décennies
plus tard, l’idée transhumaniste du mind
uploading est élaborée sur le même fantasme,
selon lequel le monde réel tout entier
peut être réduit à des unités d’information
transmissibles d’un hardware à un autre.
L’idée que le vivant peut être modélisé en
unités d’information se retrouve aussi chez
le biologiste français Pierre-Henri Gouyon,
par exemple, avec qui j’ai publié un livre
d’entretiens, Fabriquer le vivant ? (2012).
Il voit dans l’acide désoxyribonucléique
© Laurent Philippe / Divergence
(ADN) le support d’un code qu’on peut
déplacer sur d’autres supports. Mais quand
on estime que le vivant peut être modélisé
en unités d’information, on oublie que la
somme d’unités d’information n’est pas la
chose vivante, et on ne s’inquiète pas de
faire des recherches sur le non-modélisable.
La prise en compte du non-modélisable
ne renvoie pas à l’idée de Dieu, ni à Pour le philosophe grec, la vraie vie n’était J’y vois l’émergence d’une nouvelle forme
l’obscurantisme, quoi qu’en pensent certains. pas dans le monde physique, elle était dans de conservatisme, alors même que c’est moi
Les principes d’imprédictibilité et d’incertitude les idées. Pour les transhumanistes, vingt- qui passe pour un bioconservateur, car je
sont présents dans toutes les sciences exactes. quatre siècles plus tard, la vraie vie n’est pas m’oppose à la philosophie transhumaniste.
C’est pourquoi l’aspiration à la connaissance dans le corps, elle est dans les algorithmes. Mais lorsque mes adversaires me traitent
totale des transhumanistes s’inscrit dans un Le corps n’est pour eux qu’un simulacre : il de réactionnaire, ils utilisent le même type
discours technolâtre, parfaitement irrationnel. faut en extraire un ensemble d’informations d’arguments que les hommes politiques
Si elle connaît un grand succès, c’est qu’elle est utiles, et se débarrasser de ses défauts qui prétendent moderniser ou réformer,
capable d’étancher la soif de métaphysique naturels. C’est ainsi qu’ils entendent pendant qu’ils détruisent les droits sociaux
de nos contemporains. Les transhumanistes atteindre l’immortalité. d’un pays et qu’ils taxent de conservateurs
rêvent d’une vie dans laquelle ils auraient ceux qui veulent conserver leurs droits !
chassé toute incertitude. Or, dans le quotidien, J’ai eu l’occasion, lors de colloques
comme dans la recherche, il faut bien se scientifiques, de rencontrer plusieurs L’hybridation entre l’homme et la machine
coltiner les incertitudes, l’aléatoire… membres de l’Université de la Singularité est déjà une réalité.
[à orientation transhumaniste] qui C’est aussi un idéal transhumaniste.
Selon la théorie transhumaniste, nous serons portaient un médaillon autour du cou,
un jour capables d’atteindre l’immortalité Tout reste à faire pour comprendre le
pour signifier qu’en cas de décès, leur tête
grâce à l’IA. vivant et l’hybridation, car le monde
sera cryogénisée.
de la technique biologique ignore
Dans le bouleversement postmoderne aujourd’hui encore presque tout de la vie,
actuel, où la relation entre les choses n’est qui ne se réduit pas aux seuls processus
plus pensée, où le réductionnisme et physicochimiques modélisables. Cela
l’individualisme dominent, la promesse dit, le vivant est déjà hybridé avec la
transhumaniste prend la place de machine et il le sera certainement encore
la caverne de Platon. davantage avec les produits issus des
nouvelles technologies.
16 | Le Courrier de l’UNESCO • juillet-septembre 2018Vous pouvez aussi lire
