Automatisation, Intelligence Artificielle et Robotique : quelles ruptures et quelles continuités pour l'activité humaine ?

Automatisation, Intelligence Artificielle
et Robotique : quelles ruptures et
quelles continuités pour l’activité
humaine ?

Moustafa Zouinar – Orange/CNAM

         Journée @ctivités : IA, ROBOTIQUE, AUTOMATISATION : QUELLES
                  EVOLUTIONS POUR L'ACTIVITE HUMAINE ?
                               Cnam, Paris, 18 mai 2018

Contexte : le « grand retour » de l’Intelligence
     Artificielle (IA)

      Les origines de l’IA
                                                                 Cybernétique

Machine universelle                      Neurone formel (1943)            Workshop à l’université de Darmouth (1956)

   « The study is to proceed on the basis of the conjecture that every aspect of learning or any
   other feature of intelligence can in principle be so precisely described that a machine can be
   made to simulate it. » J. McCarthy, M. L. Minsky, N. Rochester, and C.E. Shannon (1955)

             Résolution de problèmes, compréhension du langage, traduction automatique, perception
             artificielle, systèmes experts, etc.

Contexte : le « grand retour » de l’Intelligence
Artificielle (IA)

                                              Milieu 70’ – 90’

                                              « Hiver de l’IA »

Réduction drastique des financements, échecs (programme ordinateurs de 5ème génération, objectifs non atteints), etc.

Contexte : le « grand retour » de l’Intelligence
        Artificielle (IA)

                                    Apprentissage profond (Deep learning)

(Pietrowska et Benoit, 2017)

                                 BIG DATA
           L’apprentissage automatique (machine learning) devient dominant.

Contexte : diffusion croissante de l’IA et des
robots dans nos environnements quotidiens

Contexte : « L’industrie 4.0 »

                     https://www.economie.gouv.qc.ca/objectifs/ameliorer/industrie-40/

« The term Industry 4.0 means in essence the technical integration of cyber physical
systems (CPS) into production and logistics and the use of the ‘internet of things’
(connection between everyday objects) and services in (industrial) processes. (…) The
introduction of AI in the service sector distinguishes the fourth industrial revolution from
the third. » (Wisskirchen et al., 2017)

Quelles questions ? Quels
enjeux pour l’activité
humaine ?

I. Les situations de travail

1. Généralisation et accroissement de
l’automatisation

1. Généralisation et accroissement de
l’automatisation

1. Généralisation et accroissement de
l’automatisation

 Remplacement généralisé des humains par des machines, « fin » de
  l’emploi ?
 De nombreux métiers concernés, peu ou très « qualifiés » mais controverse
  sur l’ampleur des effets sur l’emploi et du rôle de la technologie

                            47%
                                                                              9%

    Frey et Osborne, 2013                                OCDE, 2016

1. Généralisation et accroissement de
 l’automatisation

   Ré-humanisation du travail ?

« Toyota has found that the race to reduce the human element can end up making
processes less efficient. » Quartz, 2014

« So far, people taking back work done by robots at over 100 workspaces reduced
waste in crankshaft production by 10%, and helped shorten the production line.
Others improved axel production and cut costs for chassis parts. » Quartz, 2014

1. Généralisation et accroissement de
l’automatisation

 Mythe de la substitution (Carr, 2017)

 Déqualification, « érosion » des compétences

 Limitation du rôle des opérateurs, par exemple, comme « simple »
  fournisseur de données aux machines

 Appauvrissement du travail

 Perte de contact avec le monde « naturel »

 Risques de biais liés à l’automatisation comme la sur-confiance
  (overreliance)

 Comment répartir le travail entre l’humain et les machines ?

1. Généralisation et accroissement de
l’automatisation

 Des questions « anciennes » bien documentées dans de nombreux
  domaines, en particulier l’aéronautique (Bainbridge, 1983; Sarter, Woods et
  Billings, 1997; Parasuraman et Wickens, 2008; etc.)

     –   ironies et paradoxes de l’automatisation (Bainbridge, 1983) : les systèmes
         « experts » aident les experts à faire ce qu'ils savent déjà faire, mais les laissent
         démunis face aux situations inhabituelles.

     –   l’automatisation est performante pour les situations routinières mais implique
         un « coût » lorsqu’elle dysfonctionne et exige l’intervention des opérateurs
         (Wickens, 2013)

     –   stagnation de la performance et de la sécurité malgré l’automatisation qui peut-
         être source d’erreurs (Amalberti, 2002)

     –   modèles « appauvris » de l’opérateur et de son activité : principalement vus
         comme sources de défaillances et d’erreurs (Amalberti, 2002)

     –   problèmes de confiance notamment quand les automatismes fonctionnent de
         façon opaque

1. Généralisation et accroissement de
l’automatisation

 Orientations de conception

    – concevoir des automatismes qui reposent sur des modèles plus
      « écologiques » de l’activité humaine (Amalberti, 2002)

    – garder l’humain dans la boucle de contrôle des systèmes

    – rendre les systèmes automatisés plus intelligibles

    – l’automatisation comme « aide », centrée sur l’humain

    – définir la meilleure répartition possible des « tâches » entre l’humain
      et la machine

1. Généralisation et accroissement de
        l’automatisation

          Sheridan et Verplanck (1978, in, Deroo 2012)

« The question for successful automation is not "who has control
over what or how much". It is "how do we get along together".
Indeed, where designers really need guidance today is how to
support the coordination between people and automation. »

« system developers should abandon the traditional “who does
what” question of function allocation. Instead, the more pressing
questiontoday is how to make humans and automation get along
together.»                                                          Parasuraman, Sheridan et Wickens, 2000

(Dekker et Woods, 2002)

2. Cobotique/robotique collaborative

 Cobots (Peshkin & Colgate, 1996 ; 1999) ou robots collaboratifs

     – « l’interaction réelle, directe ou téléopérée, entre un humain et un
       système robotique asservi ou pseudo-autonome » (Claverie et al., 2013)

    – une alternative au paradigme de la substitution : approche collaborative,
      « augmentative », extension du pouvoir d’agir de l’humain

    – conception centrée autour de l’interaction avec les humains (Kleinpeter,
      2013)

    – réduction de la pénibilité au travail (manutention de charges lourdes,
      travail répétitif quotidien, etc.)

    – « C’est l’enjeu de la cobotique : tendre vers cette perspective de
       revalorisation de l’homme en entreprise et répondre à cette tendance du
       « mieux vivre en entreprise » (HumaRobotics)

2. Cobotique/robotique collaborative

 Quelle collaboration ? Quelle coordination ?

 De nouvelles tâches pour les opérateurs ?
    « Auparavant, on programmait un robot, une intelligence artificielle, pour qu'elle
    accomplisse une tâche précise. Aujourd'hui, ce sont des femmes et des hommes qui
    vont devoir passer du temps à apprendre à la machine à bien travailler, à communiquer,
    à devenir plus intelligente.» (J.-P. Desbiolles, IBM Watson Group)

 Partage des responsabilités en cas d’erreurs, d’incidents ou accidents
  (Kleinpeter, 2015)

    « les données fournies par le cobot sur l’état du patient étaient-elles
    suffisamment claires ? Le praticien a-t-il su les interpréter correctement
    ? A-t-il eu un accès suffisant à l’état interne du cobot pour éviter la faute
    ? etc. » (Kleinpeter, 2015)

2. Cobotique/robotique collaborative

 Partage de l’espace entre opérateurs et robots mobiles autonomes
    – quel comportement le robot doit suivre lorsqu’il se déplace dans un
      espace physique fréquenté par des humains ? Comment rendre ses
      comportements perceptibles, compréhensible, anticipables par les
      humains ? Questions de sécurité

2. Cobotique/robotique collaborative

 Problème de l’interaction : illusion de la simplicité d’usage
    « Une grande banque française avait installé le robot conversationnel
    Pepper dans son siège social. Et les employés se sont rendu compte
    que c'était en décalage avec ce qu'on leur avait vendu. Car on ne
    s'adresse pas au petit robot n'importe comment et, si on ne lui parle pas
    comme il faut, il ne répond pas. Les employés ont fini par accrocher un
    mode d'emploi à côté. » (Christophe Tricot, in les échos)

3. Intelligibilité, « explicabilité » des systèmes

 Comment rendre intelligible , « explicable » des systèmes de plus
  en plus complexes, et opaques ?

3. Intelligibilité, « explicabilité » des systèmes

       L’opacité des systèmes experts

« Roth et al (1987), dans une étude d'un système expert d'aide au diagnostic,
soulignent ainsi l'opacité de la machine : la machine ne communique pas, pendant
qu'elle traite un problème, l'état de son raisonnement. De ce fait, les opérateurs sont
incapables d'évaluer la nécessité ou non d'intervenir. (…) En l'absence de tout
feedback, l'opérateur se trouve dans une situation où l'incertitude principale est
généré non par le problème à traiter, mais par la machine supposée l'assister. »
(Falzon, 1989)

3. Intelligibilité, « explicabilité » des systèmes

                                (Moore and Swartout, 1988)

3. Intelligibilité, « explicabilité » des systèmes

     « A second source of mitigation may be effective training: training to
     “expect the unexpected” as well as training in understanding of
     automation logic. » (Wickens, 2013)

                                   (Samek et al., 2018)

« machine learning has become alchemy. » (Rahimi et Recht, 2017)

3. Intelligibilité, « explicabilité » des systèmes

 « Proposition n° 2 : Favoriser des algorithmes et des
 robots sûrs, transparents et justes et prévoir une charte
 de l’intelligence artificielle et de la robotique » (rapport
 parlementaire, Pour une intelligence artificielle maîtrisée, utile et
 démystifiée, 2017)

 « Le message aux managers : aider les humains à faire
 confiance à des machines pensantes sera essentiel. » (Frick,
 2015)

                       Comment ?

3. Intelligibilité, « explicabilité » des systèmes

                     (Samek et al., 2018)

3. Intelligibilité, « explicabilité » des systèmes

  « Create a suite of machine learning techniques that produce more
  explainable models, while maintaining a high level of learning
  performance. »

                             (Gunning, 2016)

4. Relation affective, attachement émotionnel,
empathie envers les robots

                         Tendance à personnifier les robots

                         Sentiment de tristesse lorsqu’un robot est
                         détruit

                         Organisation de « Funérailles » pour les
                         robots détruits

                         Des soldats qui risquent leur vie pour
                         « sauver » des robots

                         (Carpenter, 2014)

                         Faut-il éviter ce type d’attachement ? Si oui
                         comment ? Peut-on l’empêcher ?

4. Relation affective, attachement émotionnel,
empathie envers les robots

 La question de l’anthropomorphisme
    « (…) we might at least try to objectify the robots in language (“it”) and
     encourage names such as « MX model 96283 » instead of “Spot” » (Darling,
     2015)
    « Anthropomorphic framing is desirable when it enhances the function of the
     technology. » (Darling, 2015)
    Les machines humanoïdes peuvent « encourager les gens à faire confiance
     aux machines pensantes. » (Frick, 2016)
    Risques de manipulation émotionnelle (ex. Turkle, 2006, 2012 ; Scheutz,
     2012)
    « Nous ne voulons pas de robots qui ressembleraient de plus en plus aux
     humains, comme c’est le cas au Japon par exemple. Nous avons donc
     proposé la création d’une charte visant à empêcher les personnes de
     devenir émotionnellement dépendantes à leurs robots. » (Delvaux, 2017)

Quelles questions ? Quels
enjeux pour l’activité
humaine ?

I. Les situations de vie
quotidienne

Des machines « intelligentes » dans l’espace
domestique

Des machines « intelligentes » dans l’espace
    domestique : les assistants vocaux

« You like to talk; you want a home that will listen to - and obey – you. Ever wish
you could stumble through the front door after a long day and say, "Turn on the TV
and start dinner!" Unless you have a particularly servile spouse, that tactic is
unlikely to get you anything but silence - or nasty glares. The Home Automated
Living HAL2000 speech-recognition system can bring you closer to that vision. »
(PC Computer, 2000)

Des machines « intelligentes » dans l’espace
domestique : les assistants vocaux

                             « Travail » de l’utilisateur
                                  –   apprendre à parler à la
                                      machine
                                  –   découvrir ce qu’elle sait faire
                                  –   actions de réparation
                                  –   comprendre ses actions

                             La compréhension du contexte
                              par la machine reste un
                              problème central
                             « Illusion » d’une
                              « conversation » naturelle et de
                              la simplicité
                             Opacité du fonctionnement de
                              la machine
                            (Velkovska et Zouinar, 2018)

Des machines « intelligentes » dans l’espace
domestique : les assistants vocaux

 Comment ces systèmes vont–ils s’insérer dans la vie quotidienne ?
    – développement de routines, transformation de certaines pratiques,
      usages limités (J. Velkovska, C.-A Veyrier et M. Zouinar, 2018)

 Quelles relations les utilisateurs vont-ils développer avec eux ?

 Quelles conséquences sur la vie familiale ?

 Problème du contrôle

 Inquiétudes concernant la vie privée

Conclusion et questions ouvertes pour la journée

 L’IA, les robots prennent de plus en plus de place dans nos vies quotidiennes

 Des questions qui ne sont pas complètement nouvelles mais qui s’accentuent et
  se généralisent à différentes situations

    –   intelligibilité des systèmes, confiance, contrôle, coopération « humain-machine »,
        formation, compétences, répartition des tâches, etc.

 De nouvelles questions ?
    –   attachement émotionnel, empathie, aspects éthiques

 Remplacement généralisé de l’humain par des machines dans les situations de
  travail
    –   une question loin d’être évidente
    –   D’autres voies : les approches « collaboratives », « augmentative »

Conclusion et questions ouvertes pour la journée

 L’humain continuera à occuper une place non-négligeable dans les systèmes
  sociotechniques
     –   quelles configurations va-t-elle prendre dans le paysage technologique qui se dessine
         actuellement ?

     –   quelles conséquences sur l’organisation du travail ?

     –   quelle(s) répartition(s) des « tâches » entre l’humain et des machines de plus en plus
         « intelligentes » ?

 Comment allons-nous vivre avec des machines qui deviennent plus autonomes,
  complexes et dont les capacités d’action et de prise de décision sont de plus en
  plus étendues ?

 Quelles contributions des ergonomes, et, de façon plus large, des SHS ?

 Et bien d’autres questions…

Merci !