L’intelligence artificielle dans son contexte, ou comment le quotidien des travailleurs change petit à petit

Dans un récent rapport publié par Data & Society, The Labor of Integrating New Technologies, Alexandra Mateescu (@cariatidaa) et Madeleine Claire Elish (@m_c_elish) se demandent dans quelle mesure l’intelligence artificielle reconfigure le travail dans deux environnements précis : une ferme familiale et une épicerie. Leur étude démontre que l’automatisation peut réduire la capacité des travailleurs à s’intégrer à un contexte social. Au même titre, elle modifie en profondeur la qualité du travail, les relations interpersonnelles et les routines quotidiennes. Du côté des risques, les chercheuses constatent qu’ils sont très inégalement partagés, les plus vulnérables et les plus précaires y étant plus exposés.

La hype autour de l’IA tend à faire croire que ses bénéfices seront à la fois universels et partagés équitablement. A l’automatisation répondraient la diminution du temps de travail, les gains de productivité et la fin des tâches pénibles. De nombreuses études et essais ont déjà largement mis à mal cette narration simpliste : les critiques se sont concentrées sur les aspects économiques, légaux, écologiques, chacun de ces élément relevant d’une complexité importante. L’originalité du travail de Mateescu et Elish réside dans le fait qu’elles se sont intéressé à l’expérience quotidienne de l’automatisation. Et le moins que l’on puisse dire, c’est que la réalité du terrain a peu à voir avec la théorie.

Des « Agtech » qui tombent du ciel sans souci du terrain

C’est d’abord dans une ferme familiale qu’a porté leur étude. L’agriculture est un marché de choix pour qui veut automatiser les processus productifs. Smart-tracteurs, gestionnaires de récoltes nourris au big data… les « agtech » ont le vent en poupe. En 2016, Wired titrait que le futur du secteur était dans les mains de l’IA. Ces technologies sont présentées comme véritablement efficaces et quasi-inévitables pour « sauver la planète ». Cette rhétorique révolutionnaire peine pourtant à s’intégrer correctement sur le terrain.

D’une part, l’installation de capteurs demande de réaménager les fermes, étables, silos et champs. De l’autre, il s’avère que de nombreux territoires ruraux sont mal connectés, ce qui n’est pas idéal pour déployer de tels réseaux. Vient ensuite la question de l’interprétabilité des données : les outils qui étaient censé permettre des gains de temps demandent finalement autant de temps à être compris et bien utilisés. Parfois même, ils ne sont pas utilisés, c’est le cas par exemple des équipements John Deere, qui embarquent un certain nombre de logiciels capables de collecter des données. Les fermiers ne s’en serviraient pas – l’âge étant un critère discriminant bien sûr. Par ailleurs, la présence de nouveaux outils automatiques impacte l’expérience, la vie du fermier et son identité perçue. Data & Society rapporte le témoignage de l’un d’entre eux : « j’aimerais me rendre plus dans les champs, mais c’est plus rentable pour moi d’être à mon bureau devant mon ordinateur ». Un sentiment largement partagé, affirment les chercheuses. Enfin, les investissements dans ces technologies étant lourds, ils sont réservés à de grandes exploitations qui peuvent se permettre de prendre le risque. En conséquence, cela reproduit et renforce les inégalités en place, les grandes fermes atteignent plus facilement les économies d’échelles que les petites.

En résumé, les fermiers ne sont pas totalement tributaires des nouvelles technologies mais leur arrivée demande à ce qu’ils se reconfigurent en profondeur. Ils assument la plupart des risques et craignent l’arrivée des nouveaux intermédiaires de la data, qui semblent plus tombés des sphères financières que réellement soucieux de la qualité de la production ou du bien être des exploitants.

Cette première partie de rapport sur les fermes est très intéressante. Cependant, elle met en lumière quelques difficultés et enjeux, sans pour autant tracer une ligne claire entre « avant et après » les AgTech. D’aucuns diraient que c’est là une simple continuité, que les champs sont mécanisés depuis belle lurette et que toute adaptation prend du temps. La seconde partie du rapport est plus concrète, elle concerne l’arrivée des caisses automatiques (en self-service), dans les épiceries et petits supermarchés.

Des caisses automatiques pas si automatiques

Cette partie est introduite par une courte anecdote. Celle-ci commence dans un supermarché, alors qu’une des co-autrices du rapport, au moment de payer, dispose une grappe de bananes sur une caisse automatique en self-service. L’appareil reconnaît instantanément les fruits et affiche le prix. Comme c’est souvent le cas, une erreur s’affiche alors qu’elle continue à scanner ses courses. Quand le vendeur arrive, elle se dit tout à fait impressionnée par cette machine qui reconnaît les fruits. Le vendeurs se met à rire et lui répond : « Oh non la machine ne reconnaît rien du tout, c’est moi qui ai vu ce que vous aviez dans votre panier et j’ai entré le code moi-même dans la machine ! ». Ce genre d’histoire montre que l’automatisation n’est jamais réellement automatique. Mateescu et Elish nomment ce fonctionnement « the human infrastructure of AI » : l’humain est en fait un composant intégré à un environnement socio-technique qui ne pourrait pas fonctionner correctement sans sa présence. Comme l’avait noté Astra Taylor (@astradisastra) dans sa « charade de l’automatisation », où elle relate une anecdote similaire, cette soi-disant obsolescence de l’homme a souvent servi de prétexte pour réduire en cendre les revendications des salariés. En réalité, l’humain n’est pas du tout hors du système mais essentiel pour l’améliorer (le sociologue Antonio Casilli détaille parfaitement ce phénomène dans son dernier ouvrage En attendant les robots), pour remplacer les batteries, pour mettre à jour des logiciels, ou même simplement quand nous modifions notre voix ou lissons un accent afin d’être reconnu et compris par une interface vocale. Les humains s’adaptent pour permettre aux machines de maintenir les conditions de leur intelligence.

Or dans les supermarchés, la course à l’automatisation est lancée. Les caisses automatiques (self-checkout) participent d’un story-telling de « self-service » largement corroboré par les ouvertures récentes des magasins « Amazon Go » en janvier 2018. Selon le magazine Fortune, jusqu’à la moitié des jobs dans le secteurs allaient être menacés par ce nouveau standard de consommation où le client fait tout lui même et les caissiers sont absents. La réalité est plus nuancée, plutôt de que supprimer les emplois, l’automatisation les reconfigure. Ce déplacement des tâches est vu très positivement par les managers qui dans ce secteur et dans d’autres, insistent sur le fait que l’automatisation réduira les tâches pénibles, rendra disponibles les caissiers pour d’autres activités plus relationnelles en magasin tout en faisant gagner du temps aux clients. Du côté des caissiers, c’est un autre son de cloche. L’une d’entre elle déclare avoir le sentiment d’être en permanence comparée aux machines, d’en être « une extension », ce qui affecte non seulement sa capacité à se sociabiliser, mais aussi sa relation avec les clients. Elle regrette la « touche humaine » qui lui permettait de traiter chaque client, surtout les anciens, avec mot particulier. Le contact humain est la raison pour laquelle des employés préfèrent la caisse plutôt que l’arrière du magasin. Plus concret encore, l’effet des caisses automatiques sur la précarisation du travail. Elles auraient permis des réductions d’horaires plus facile et donc la multiplication de contrats en temps partiels, la machine pouvant être activée ou désactivée à la demande. L’étude Data & Society explique que du point de vue des employés, ces machines permettent avant tout de réduire les coûts de d’ajouter une pression supplémentaire au personnel.

Enfin, le réduction des tâches pénibles semble être un mythe entretenu en dehors de tout témoignage issu du terrain : en réalité, les caisses automatiques demandent une vigilance permanente. On demande aux caissiers d’en surveiller jusqu’à six en même temps, ce qui demande une attention épuisante. Il faut assister les clients qui n’y comprennent rien, être attentif au langage corporel car certaines personnes restent littéralement bloquées devant la machine. Puis il faut surveiller les vols. Tout ceci en même temps. Du côté des clients, la demande en caisses automatiques n’est pas si évidente, des caissiers déclarent que les magasins forcent la fermeture des caisses traditionnelles pour pousser les clients vers les machines, quand bien même ils ne le souhaitent pas. Les personnes âgées sont particulièrement concernées, les accompagner prend du temps, créée de la frustration et de nouvelles files d’attente devant les machines.

Au final, les caisses automatiques ne font pas que « déplacer le travail » comme on aime à le dire en dehors de toute connaissance du terrain. Elles l’intensifie, facilitent la réduction des coûts et génèrent plus de temps partiels. Un de leurs effets notoire est le turnover qui a explosé depuis leur arrivée, jusqu’à 75% dans certains magasins. Les chercheuses concluent : « Le « succès » des technologies comme les caisses automatiques est en grande partie produit par l’effort humain nécessaire pour les maintenir ».

Remettre l’humain au centre ?

Cette étude illustre selon moi deux phénomènes passionnants. Le premier – et je ne cesserai de dire et d’écrire à quel point il est important – est la caractère non neutre de la technologie, parfaitement illustré ici (le professeur d’histoire Melvin Kranzberg (1917 – 1995) disait : « la technologie n’est ni bonne ni mauvaise ni neutre »). C’est-à-dire qu’en dehors du strict usage que l’on fait d’une machine et du jugement moral qu’on lui porte, cette machine modifie le monde dans des proportions qu’on peine à imaginer, ou qu’on refuse d’imaginer. C’est un peu comme si la technologie produisait des effets secondaires sur la société. On le voit bien avec les vendeurs : la complexité de leur quotidien tranche avec les discours marketing en vigueur qui tendent à faire croire que même eux, finiront par bénéficier de ces progrès. Mais en attendant, ils en sont plutôt les victimes.

Le deuxième point d’intérêt, et c’est la conclusion d’Alexandra Mateescu et Madeleine Claire Elish, est qu’il est grand temps de penser à de nouvelles façons de produire de l’intelligence artificielle et de l’automatisation. Si ces technologies doivent être intégrées au quotidien, elles doivent aussi respecter les positions et les statuts de chacun dans le but d’améliorer leurs vie et conditions de travail. Les deux cas présentés ici montrent qu’il reste du chemin à faire. Qui sont réellement les humains « mis au centre » de ces dispositifs ? Dans le cas des fermes familiales, probablement la sphère financière et les sociétés technologiques. Dans le cas des supermarchés, sûrement pas le vendeur, et peut-être même pas les clients !

Les risques de l’intelligence artificielle ne doivent pas s’arrêter au secteur militaire ni aux robots tueurs et autres fantasmes d’IA totalitaires. Non, ces risques sont répartis dans ce que nous faisons déjà au travail, ce sont de petites et de plus grandes choses qui changent dans le quotidien, des positions sociales qui deviennent plus ou moins intéressantes, des rapports humains qui se dégradent ou s’améliorent. Nous sommes loin des grandes théories généralisantes qui avancent souvent des positions caricaturales « pour ou contre l’IA ». Par-delà ces discours simplistes, il convient de regarder la vie des gens, de comprendre comment la technologie modifie notre tissu économique et social, et de s’interroger sur notre capacité à décider – en tant que société – de la direction que prennent ces changements, pourquoi pas plus démocratiquement ?

Irénée Régnauld (@maisouvaleweb), pour lire mon livre c’est par là, et pour me soutenir, par ici.

PS : dans une tribune à Gizmodo, Brian Merchant reprend également le travail de Data & Society et questionne l’intérêt réel de certains types d’automatisation qui ne bénéficient à personne. Il évoque au passage Ikea, qui a retiré ses caisses automatiques en 2012 (à cause notamment de la taille des objets vendus).

Mais où va le Web

Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.