Les robots représentent-ils une menace pour les humains ? - ICN

ICN 2015/2016 - Lycée du pays de Soule

    Les robots représentent-ils une menace
              pour les humains ?
Après avoir lu le dossier documentaire ci-dessous, et en vous aidant de vos connaissances personnelles et de
quelques recherches internet, identifier et classer des arguments vous permettant de défendre votre point de
vue.

                       OUI                                                    NON

Extrait de “Déficit d’intelligence : que se passera-t-il le jour où les ordinateurs seront plus
intelligents que les humains ?”
Alex Hutchinson, The Walrus, mensuel canadien de Toronto, avril 2015

Un jour dans le siècle qui vient – et peut-être plus tôt que vous ne croyez, commence Hutchinson – des
chercheurs arriveront sans doute à créer une intelligence artificielle plus performante que la nôtre. Ce qui
adviendra ensuite, c’est la question que tout le monde se pose – et nous ne sommes tout simplement pas
assez intelligents pour comprendre, ou seulement prédire, ce qu’une intelligence surhumaine choisira de
faire. Mais il y a une chance raisonnable pour que cette intelligence artificielle éradique l’humanité, soit par
pure malveillance, soit dans une tentative maladroite de se rendre utile. La Fondation Lifeboat de Minden,
dans le Nevada, cherche à repousser cette possible calamité en développant une “Intelligence artificielle
amicale”.

Vernor Vinge, mathématicien et informaticien américain, avait nommé ce moment de l’histoire
la “Singularité technologique” et il l’imaginait advenir avant 2030. Ray Kurzweil, autre penseur bien connu
de la Singularité, estime qu’elle se produira en 2045. Quant à l’auteur de science-fiction canadien Robert J.
Sawyer, l’auteur de la trilogie WWW (Wake, Watch, Wonder, du nom des trois volumes de la série
consacrée à la Singularité), il la voit arriver à l’automne 2012.
C’est à ce dernier que s’intéresse particulièrement cet article, car Sawyer, non content d’être un auteur de
science-fiction à succès, siège à la Fondation Lifeboat. Et comme Sawyer est connu pour un travail de
romancier très documenté, ça rend les objectifs de la Fondation Lifeboat moins farfelus qu’il n’y paraît.
Alex Hutchinson résume ensuite les intrigues de la trilogie WWW de Sawyer (dont seulement les deux
premiers tomes – L’éveil suivit de veille -sont disponibles en français dans la célèbre collection de SF
“Ailleurs et Demain” de Robert Laffont), qui reposent principalement sur l’idée qu’une conscience
émergerait spontanément des réseaux, d’une manière que certains chercheurs estiment plausible d’ailleurs.
La trilogie pose deux questions qui sont reliées, mais néanmoins distinctes. Si l’émergence d’une conscience
dans les réseaux advenait : que feraient les humains ? Et que devraient-ils faire ?
En principe, l’avènement d’une intelligence artificielle capable de diriger le monde serait plutôt une bonne
nouvelle. Le mathématicien britannique Irving John Good a écrit en 1965 dans un papier qui a fait date : “La
première machine ultra-intelligente sera la dernière invention de l’homme”. La raison qu’il avance est la
suivante : toute machine plus intelligente que nous sera aussi plus capable que nous de construire une
intelligence artificielle, elle sera donc en mesure d’améliorer toute seule ses propres capacités, dans une
sorte de processus de perfectionnement auto-généré. Good a appelé ce phénomène intelligence explosion,
“l’explosion intelligente”, Vernor Vinge lui a donné un autre nom hard take off, le “décollage difficile”. En
un court laps de temps, toute super intelligence artificielle évoluerait d’un état à peine supérieur au nôtre à
un état très largement supérieur – et l’équilibre des pouvoirs entre les hommes et leurs anciens outils
basculerait tout aussi vite.
Et on peut tout à fait voir là une menace pour l’humanité. Sawyer a écrit un jour dans un article : “si nous
fabriquons des machines plus intelligentes que nous, pourquoi accepteraient-elles d’être nos esclaves ? [...]
Les ordinateurs doués de pensée sont une vraie menace pour la perpétuation de notre espèce.”
Cela dit, il semble assez simple de prévenir cette menace, par exemple en appliquant les trois règles de la
Robotique, qu’Isaac Asimov a édictées en 1942 :
1. Un robot ne peut blesser un être humain ni, restant passif, laisser cet être humain exposé au danger.
2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction
avec la Première Loi.
3. Un robot doit protéger sa propre existence tant que cette protection n’entre pas en conflit avec la Première
Loi ou la Seconde.
Sauf qu’appliquer ces règles pose tout un tas de problèmes qu’Asimov a lui-même relevés. Un robot peut-il
nuire à un être humain si cela permet de ne pas nuire à un grand nombre d’êtres humains ? Si oui, selon quel
critère doit-il l’évaluer ? Ou encore – comme Jack Williamson, un autre auteur de science-fiction l’a proposé
dans sa série Les Humanoïdes – que faire si des robots programmés pour prémunir les hommes de toute
destruction décidaient d’emprisonner toute l’humanité parce que nombre d’activités quotidiennes portent en
elles le risque de la destruction ?

La Fondation Lifeboat divise les menaces potentielles en trois grandes catégories.

La première est une intelligence artificielle délibérément programmée pour faire le mal, sous les ordres d’un
créateur malfaisant. Un danger qui est réel, mais pas très différent de tous ceux qui accompagnent beaucoup
d’autres formes de technologies avancées.

La deuxième catégorie est une intelligence artificielle dévoyée qui se retournerait contre ses créateurs, un
scénario courant dans la science-fiction (comme HAL 9000 dans 2001, L’Odyssée de l’espace). Mais les
analyses de Lifeboat estiment cette hypothèse assez improbable, car elle supposerait qu’une intelligence
artificielle serait lestée de tout le bagage psychologique propre à l’humanité. Or, l’agressivité, la jalousie, la
préservation de soi sont toutes des propriétés qui se sont forgées dans le creuset de l’évolution, et ne seraient
pas les caractéristiques d’une intelligence artificielle, à moins qu’on ne les ait délibérément programmées.

Mais il existe une troisième catégorie de menace, moins évidente, et plus difficile à rejeter : une super
intelligence artificielle qui est bien intentionnée, mais nous balaie par inadvertance, comme un chiot trop
vite grandi renverse une table d’un coup de queue enthousiaste. La Fondation Lifeboat donne un exemple
simple : un ordinateur programmé pour éradiquer la malaria qui accomplit sa mission en supprimant tous les
mammifères. Et on entre là dans un débat qui agite bien au-delà de Lifeboat. Car cette question est bien
compliquée, nous dit Hutchinson.
D’abord, une intelligence artificielle consciente d’elle-même est qualitativement différente d’un ordinateur
le plus puissant soit-il. On peut demander à Google Maps le meilleur trajet pour aller chez Grand-Maman, et
nous avons des GPS qui prennent en compte le trafic et le prix des péages. Mais même si les ordinateurs
parviennent de mieux en mieux à nous dire comment faire les choses, et même s’il faut les faire, ils
demeurent incapables de formuler leur propre jugement sur le fait de savoir si faire ces choses est bien ou
mal. Ceux qui craignent la Singularité avancent que nous sommes incapables de programmer des ordinateurs
avec des valeurs humaines pour la simple raison que les valeurs humaines ne peuvent pas se réduire à un
algorithme.
Tout cela est connu sous le nom de “problème de l’intelligence artificielle amicale”. Savoir s’il est insoluble,
s’il est compliqué, mais soluble, s’il relève de la pure paranoïa, tout cela constitue un débat récurrent et
acharné au sein de la communauté des chercheurs en intelligence artificielle. Mais ce débat sera caduc si les
développeurs de la première intelligence artificielle de niveau humain ne font pas l’effort d’incorporer des
règles semblables à celles d’Asimov dans leurs créations. Etant donné qu’aujourd’hui, les machines les plus
avancées naissent des laboratoires privés et militaires, il n’est pas certain que ce soit le cas.

Pepper, le robot français dont raffolent les Japonais
Jérôme Colombain, 10 novembre 2014, Nouveau Monde

Il s’appelle Pepper. Ce petit robot est français est en passe de devenir
une star au Japon.
1m20 de haut, tout blanc, une grosse tête très sympathique et des bras qui
s’agitent tout le temps quand il parle… Pepper est le dernier robot de
l’entreprise française Aldebaran. Cette entreprise française, qui est l’un des
champions mondiaux de la robotique, s’est fait connaître avec le petit robot
Nao, capable de danser, chanter et discuter. Son grand frère, Pepper, va
encore plus loin. On peut discuter avec lui et lui poser plein de
questions (Quel est ta chanson préférée ? Qui est le président français ? Est-
ce que tu crois en Dieu ?). C’est un système d’intelligence artificielle un peu
comme Siri, le système vocal de l’iPhone. Il a en plus un écran sur la
poitrine qui lui permet d’afficher des images, par exemple, si l’on joue avec
lui au jeu Akinator qui consiste à deviner des personnages connus.

A quoi sert ce robot ?

C’est un robot d’accueil. Pepper a été conçu pour
recevoir les clients dans les magasins. On le trouve, au
Japon, dans les boutiques de l’opérateur télécom
Softbank et, depuis peu, dans les magasins de café de
la marque Nestlé. Il reçoit les visiteurs, leur souhaite la
bienvenue et les oriente dans le magasin.
Ce qui est étonnant, quand on discute avec lui, c’est
qu’avec ses grands yeux qui clignotent et ses bras qui
bougent comme ceux d’un italien quand il parle, Pepper suscite très vite de l’affection. Il est sympathique.

Est-il disponible en France ?

Pour l’instant, Pepper n’est pas encore présent en France (sauf à l’Atelier Aldebaran à Issy les Moulineaux
où on peut le rencontrer). Il coute environ 1500 Euros pièce, ce qui n’est pas très cher. La société Aldebaran
(société française mais dont l'actionnaire majoritaire est le groupe Japonais Softbank) a déjà enregistré
10000 commandes à travers le monde.

Le fondateur d’Aldebaran, Bruno Maisonnier, pense que dans 5 ans il y aura vraiment des robots partout.
Même s’ils ne sont tous aussi fort et débrouillards que dans les films de science-fiction, ces robots
humanoïdes, ils serviront au moins d’interface conviviale entre nous et tous les équipements numériques qui
nous entourent. Les robots « vont nous prendre nos emplois », reconnaît Bruno Maisonnier, mais ils en
« créeront d’autres ». Et de citer en exemple les pays où les robots sont aujourd’hui les plus nombreux –
Allemagne, Japon, Corée, Chine – qui sont aussi ceux qui ont le moins de chômage. Aldebaran travaille par
ailleurs à un projet de robot d’assistance aux personnes âgées.

Trois nouveaux robots agents pour réguler la circulation à Kinshasa
Le Parisien, 03 Mars 2015

Trois nouveaux robots destinées à
réguler la circulation routière aux
carrefours encombrés de la ville de
Kinshasa ont été remis mardi aux
autorités    de      la   République
démocratique du Congo, ont constaté
des     journalistes    de     l'AFP.
L'association congolaise d'ingénieurs
Women's technology a remis ces trois
nouveaux robots - surnommés
Tamuke, Mwaluke et Kisanga - aux
autorités.

Chaque robot de 250 kg et de 2,50 m,
doté de panneaux solaires, a coûté
27.500 dollars. Ils viennent s'ajouter aux
deux prototypes déjà installés à
Kinshasa depuis 2013 mais en sont "une
version améliorée".

Comment fonctionnent-ils? Le robot lève les bras, comme le ferait un agent de circulation humain, pour
bloquer une voie et laisser passer les voitures sur l'autre voie, avec son plastron qui passe du vert au
rouge."Le robot réagit beaucoup plus vite aux commandes. Bref, les composants électroniques sont
beaucoup plus performants que la première génération" de machines, a expliqué à l'AFP l'ingénieur Thérèse
Izay, chef de projet à Women's Technology."Nous avons amélioré notre technologie" en ajoutant "des feux
statiques au niveau des cuisses", en plus de ceux qui sont sur le thorax, pour prendre le relais en cas de
panne, a souligné Mme Izay.En aluminium et conçus pour résister aux rigueurs du climat équatorial, ces
                                                            robots peuvent filmer les violations au code de la
                                                            route grâce à des caméras de surveillance, qui
                                                            fonctionnent même si le robot est hors-service.Les
                                                            images sont envoyées en temps réel à la police, qui
                                                            peut analyser tous les mouvements dans un
                                                            périmètre d'au moins 200 mètres. "Ces informations
                                                            permettront de poursuivre les gens qui ont commis
                                                            des infractions sur la route", a expliqué Mme Izay.
                                                            Les infractions sont nombreuses, et souvent
                                                            mortelles. Depuis 2007, "9.717 accidents de la route
                                                            dont 2.276" mortels, ont été enregistrés à Kinshasa, a
                                                            indiqué le général Célestin Kanyama, chef de la
                                                            police dans la capitale congolaise. "Ces robots seront
d'un apport important pour la police", a-t-il estimé. Cependant, le robot "ne remplace pas l'agent de police
qui se trouve sur le site. Il ne va pas poursuivre les inciviques qui brûlent le feu" ni les éduquer ou encore les
sanctionner, a averti le gouverneur de Kinshasa, André Kimbuta.Women's Technology a proposé aux
autorités l'achat de 30 machines semblables pour les grands carrefours de la capitale. Cinq machines ont
d'ores et déjà été envoyées dans la province du Katanga (sud-est), dont trois pour la capitale provinciale,
Lubumbashi.

Les serveurs de bar efficacement remplacés par des robots « communicants » dans un
avenir proche, selon le MIT
Anne Dolhein, 18 août 2015

La récente présentation de
nouveaux robots communicants
capables      de réaliser   plus
efficacement les tâches des
serveurs de bar par le
Massachussetts Institute of
Technologie      (MIT)    laisse
prévoir que les emplois dans
l’hôtellerie    pourront    être
occupés dans un avenir proche
par des machines – et pas
seulement dans des hôtels
« gadget » comme celui ouvert
récemment au Japon.
La nouveauté ? Ces robots
peuvent communiquer entre eux
sans être soumis à une
surveillance humaine.

Les serveurs remplacés par des robots

Les chercheurs du Computer Science & Artificial Intelligence Laboratory (CSAIL) ont fait une
démonstration qui montraient plusieurs robots en action autour d’un bar : deux chargés de prendre les
commandes et de les transmettre au robot barista qui préparait les commandes afin qu’ils puissent les porter
aux clients.

Les robots plus efficaces que les hommes pour servir un bar plein de clients, selon le MIT

La démonstration qui s’est déroulée à Rome le mois dernier a apporté la preuve qu’avec les bons
algorithmes, les équipes robotiques sont plus efficaces que les serveurs humains lorsqu’il s’agit de servir une
salle pleine de clients assoiffés, et « savent » travailler en équipe. Les robots ajustent leur comportement à
celui de leurs coéquipiers, un peu comme des êtres humains assurent leurs concepteurs, alors que
traditionnellement on a programmé les robots pour accomplir leurs tâches à la manière de fourmis, chacun
pour soi.

L’idée, selon Ariel Anders, l’un des étudiants participant au projet, est d’obtenir une bonne interaction entre
les robots serveurs, les clients et le robot qui prépare les commandes, sans avoir à « surveiller » l’action des
machines. Le défi, a expliqué Chris Amato, qui est à l’origine du projet et qui est aujourd’hui professeur à
l’université du New Hampshire, est de parvenir à ce que les robots communiquent entre eux.

Les robots « communicants », c’est pour l’avenir proche

Ils doivent aussi être capables d’entendre les clients dans un environnement bruyant, malgré les bruits
parasites, et les comprendre malgré les difficultés de communication avec des utilisateurs lambda
s’exprimant de manières différentes.

 A terme, la technologie que mobilise ce projet pourrait être utilisée dans des environnements
« imprévisibles » tels l’hôpital ou une zone de catastrophe difficile d’accès.

Et c’est ainsi que progresse la mise en place d’une interaction homme-machine qui prépare le recours à
l’« intelligence artificielle » de demain.

En dehors de l’absence de pourboires, on voit mal quel peut être l’agrément de ce Meilleur des mondes.

Au Japon, les chiens robots Aibo, nouveaux « animaux » de compagnie
Source : Agence France Presse

Au Japon, un temple bouddhiste, des fumées d’encens, un moine qui scande des sutras (prières) pour offrir
la paix de l’âme aux défunts: en apparence, voilà une cérémonie funéraire on ne peut plus classique, si ce
n’est qu’elle est destinée à honorer des chiens robots Aibo.
Le populaire animal de compagnie a beau avoir cessé d’être produit en 2006, abandonné par son créateur
Sony en pleine restructuration, les spécimens vendus auparavant restent chéris de nombreux maîtres.

Imaginé en 1999 par le fleuron nippon de
l’électronique – première société à faire pénétrer
des robots relativement sophistiqués dans la vie
quotidienne des gens -, Aibo avait fait sensation à
sa naissance:3.000 chiots avaient été adoptés en
20 minutes, malgré son prix de 250.000 yens
(1.850 euros au taux de change actuel).
Le canidé, capable de développer sa propre
personnalité, d’exprimer des émotions, de se
déplacer et même de parler (dans une ultime
version), a séduit au fil des ans quelque 150.000 riches technophiles, aujourd’hui un peu démunis alors que
le service « vétérinaire », dit « Aibo clinic », a fermé ses portes en mars 2014.
Les robots sont souvent vus comme des amis par de nombreux Japonais – et pas seulement des jeunes – qui
s’y attachent facilement.

                                                  ‘Pouvez-vous l’ausculter?’
                                                  Hideko Mori, une pharmacienne retraitée de 70 ans, a
                                                  paniqué quand son robot complice depuis huit ans -acquis
                                                  peu de temps après le décès de son mari-, a subitement
                                                  perdu connaissance en mai dernier. « Je ne pensais pas
                                                  qu’il y avait une limite à sa vie », confie-t-elle.
                                                  Quel ne fut pas son soulagement quand elle a découvert
                                                  qu’un petit groupe d’ex-ingénieurs de Sony avait pris le
                                                  relais, au sein d’une compagnie dédiée à la réparation de
                                                  ces machines.
                                                  En deux mois, son chien était de nouveau sur pattes.
« J’étais tellement heureuse de l’avoir de retour à la maison, en pleine forme », lance la septuagénaire en
souriant. « Les personnes qui l’élèvent ressentent sa présence et sa personnalité, donc nous pensons que
quelque part, Aibo possède bel et bien une âme », souligne Nobuyuki Narimatsu, directeur de la société A
Fun, entouré de douzaines d’Aibo mal en point.

« J’ai été surpris la première fois que j’ai parlé directement à un client. Il m’a dit: « il ne va pas très bien,
pouvez-vous l’ausculter? » Je me suis rendu compte que cette personne ne voyait pas Aibo comme un robot
mais comme un membre de sa famille », relate un autre ingénieur, Hiroshi Funabashi, qui dit « soigner » ces
bêtes attachantes plus qu’il ne les « répare ».
Mais les propriétaires d’Aibo en péril doivent s’armer de patience: la liste d’attente est longue (de plus de
180 noms actuellement) et les soins peuvent prendre des semaines, voire des mois, pour cause de pénurie de
pièces détachées.
Car la seule et unique source d’approvisionnement provient des Aibo mourants dont les familles acceptent
« le don d’organes », une fois le dernier hommage rendu au temple.
Mieux qu’un vrai chien.

Le prêtre Bungen Oi, qui a officié fin janvier pour la première « cérémonie Aibo« , dans le temple multi-
centenaire Kofukuji d’Isumi (à l’est de Tokyo), explique avoir été « enthousiasmé par l’intéressant décalage
consistant à honorer une technologie de pointe par un rituel très traditionnel ».

Au Japon, la robotique n’est pas un vain mot: si Sony a jeté l’éponge, 300 sociétés ont décidé de se
regrouper l’an passé pour former un consortium destiné à développer d’ici à 2020 une centaine de machines
ultra-sophistiquées pensées comme des amis ou assistants.
Le fondateur et patron de SoftBank, Masayoshi Son,
particulièrement convaincu du potentiel du secteur, s’apprête à
rendre disponible son robot semi-androïde Pepper, conçu par le
français Aldebaran, à raison d’un premier lot de 300 exemplaires
pour les développeurs.