Antonio Casilli : l’intelligence artificielle est largement « faite à la main »

L’essor de l’intelligence artificielle (IA) réactualise les peurs et fantasmes inhérents à tout processus d’automatisation : remplacement des hommes par les machines, fin du travail, chômage de masse. Pour Antonio Casilli, ces raccourcis occultent la spécificité de la « transformation digitale » que nous vivons. Loin de supprimer le travail, elle le déplace, le découpe et le parcellise. Avec son ouvrage En attendant les robots, enquête sur les travailleurs du clic, le sociologue nous fait changer de perspective : derrière les discours ronflants vantant les vertus d’une automatisation libératrice, une autre réalité couve, celle de millions de « travailleurs du clic », des petites mains mises à contribution pour entraîner et améliorer les services numériques du quotidien. Un modèle qui pourrait bien préfigurer le (vrai) futur du travail.

Ces dernières années, les thèses défendant une automatisation majeure des activités humaines ont défrayé la chronique. En 1995, le très écouté Jeremy Rifkin publiait The end of work et y annonçait rien de moins qu’une nouvelle ère de croissance sans emploi, propulsée par les nouvelles technologies de l’information et de la communication. Une bonne décennie plus tard, le Massachussetts Institute of Technology (MIT) et le cabinet Roland Berger annoncent que la fin du travail est proche. En 2013, une étude d’Oxford affirme que « 47% des emplois aux Etats-Unis connaissent un risque élevé (plus de 70%) d’être automatisés à l’horizon de 20 ans. » D’aucuns se sont félicités de cette nouvelle société enfin libérée du travail. D’autres continuent de s’en inquiéter, soucieux du chômage de masse qui pourrait en résulter.

La fin (de la fin) du travail

La thèse de Casilli apporte à cet endroit un éclairage précieux. Non seulement le « grand remplacement par les robots » n’aura pas lieu, mais il a et aura pour effet de réorganiser l’ensemble des processus de production pour les rendre plus automatisables. Il convient pour s’en rendre compte de jeter un œil, dès à présent, à la nature du processus en cours : comment s’opère cette « automatisation du monde » ? Quels mécanismes sont mis en place pour entraîner et nourrir les fameuses IA censées nous remplacer d’ici quelques années ? Quels sont les nouveaux jobs qui rendent ce monde possible ?

On voit déjà pointer l’ironie dans les réponses qu’apporte la méticuleuse observation du sociologue. Derrière les IA, ce sont des gens qui travaillent, qui tagguent ou qui annotent images et textes, qui entraînent et accompagnent les programmes « automatiques » dont on célèbre l’autonomie croissante. Combien sont-ils ? Des millions. Que gagnent-ils ? A peine quelques centimes par acte, sans contrat ni stabilité de l’emploi. Bienvenue dans le monde du « Digital Labor », un « mouvement de mise en tâches (tâcheronnisation) et de mise en données (datafication) des activités productives humaines ». A cheval entre le free-lancing et le travail à la pièce, le Digital Labor nous livre un premier constat cynique : l’intelligences artificielle est largement « faite à la main ». « Ce ne sont pas les « machines » qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines » écrit le sociologue.

L’histoire ne s’arrête pas là : le Digital Labor nous concerne tous. Du quidam rivé à ses réseaux sociaux au chauffeur Uber, en passant par les futurs passagers des véhicules autonomes, nous sommes tous – suivant des logiques différentes – au service des machines. De manière générale, la digitalisation des tâches humaines modifie la substance du travail via deux tendances : la standardisation et l’externalisation des tâches. Exemple : les guichets automatiques des banques demandent à ce que leurs usagers y réalisent leurs transactions et comptent l’argent à la place de la personne autrefois assise derrière un bureau. Un métier (guichetier) est devenu une série de petites tâches et a été transféré au client qui agit désormais à la place du travailleur.

Si cela peut paraître évident tant nous sommes habitués à considérer le progrès technique comme un événement aussi naturel que l’évolution, ce qui se trame sous nos yeux est en réalité une mise hors travail d’activités jusqu’alors payées. Pour Casilli, c’est aussi une stratégie de détournement de l’attention « destinée à occulter des décisions managériales visant à réduire la part relative des salaires (et plus généralement de la rémunération des facteurs productifs humains) par rapport à la rémunération des investisseurs. » L’épicentre de ce nouveau modèle : les grandes plateformes digitales (Amazon, Uber, Facebook, Google et les autres) dont la force est bien d’articuler et de synchroniser les faits et gestes de leurs usagers puis d’en extraire la valeur, à défaut d’avoir à la produire. Le problème est qu’il est devenu difficile de dire dans quelle mesure ces actions entrent ou non dans la sphère du travail, notamment quand elles prennent un caractère ludique. Si on peut convenir du fait qu’un modérateur de contenu qui regarde des vidéos de décapitation ne s’adonne pas à une activité récréative, c’est moins évident pour l’utilisateur lambda d’un réseau social. A cet effet, Casilli décrit trois types de Digital Labor : le travail à la demande, le microtravail et le travail social en réseau.

Le travail à la demande

Le travail à la demande, c’est l’économie des petits boulots, la « Gig economy » : chauffeur avec Uber, livreur pour Deliveroo. Ces boulots qui ne demandent pas de haute qualification s’implantent souvent localement, par exemple à l’échelle d’une ville. Beaucoup d’encre a déjà coulé sur ces sujets, la vie des chauffeurs Uber polarise le débat entre ceux qui pensent que c’est une occasion de donner une chance à des jeunes, d’autres qui dénoncent les « salaires » dérisoires, l’absence de sécurité sociale, etc. Sans surprise, Casilli est à situer dans la seconde catégorie mais ne s’y arrête pas pour autant. Son apport est de préciser que le travail des chauffeurs Uber – et de leurs clients – est aussi de produire de la donnée qui viendra enrichir la plateforme. A ce titre, il écrit : « avant d’être un exercice de conduite au volant, le travail pour Uber est donc d’abord une suite structurée de clics sur une application mobile. Or le temps passé sur l’application à rechercher de nouveaux passagers ou à se rapprocher des zones de forte densité des commandes n’est pas rémunéré par la plateforme. » Cliquer, enrichir le GPS d’informations, envoyer des messages ou gérer sa réputation sont des activités obligatoires et pèsent dans le budget des chauffeurs. Ils appellent ces temps perdus des « kilomètres morts ». Alors qu’Uber se définit comme une « entreprise de technologie » (entendre : une organisation neutre), Casilli souligne à quel point elle ne l’est pas. Tout son modèle algorithmique a été conçu pour favoriser la production de données, de la part du chauffeur mais aussi du passager.

Le microtravail

Deuxième forme de Digital Labor décrite par l’auteur, le microtravail. Nous parlons ici de petites tâches fractionnées auxquelles des travailleurs s’adonnent sur des plateformes comme Mechanical Turk ou Clickworker. Faibles qualifications, tâches rébarbatives comme l’annotation d’une vidéo, le tri de tweets, ou encore le fait de tagguer des images prises par des voitures autonomes, dont un chapitre nous explique qu’elles n’ont strictement rien d’autonome, à moins de faire fi du travail produit en amont par des dizaines de milliers de gens qui permettent à ces véhicules de rouler. On appréciera ici le fait que Casilli ne demeure pas théorique, il montre généreusement son terrain d’étude. Les microworkers prennent vie, et avec eux leurs actes, aussi anodins soient-ils : « lire une page Web et noter toutes les adresses e-mail dans un fichier .txt », « concocter une playlist de morceaux reggae », « regarder une vidéo de quinze secondes et choisir trois mots pour la décrire », « retranscrire le contenu d’un ticket de caisse à partir de la photo de celui-ci », « identifier toutes les personnes cagoulées dans une séquence tournée par une caméra de surveillance ». Certains GAFA tentent bien sûr, plutôt vainement, de ludifier ces travaux. La conclusion n’en demeure pas moins, de nouveau, cynique : derrière « machine learning » s’agite toute une arrière boutique qui montre à quel point l’intelligence artificielle n’est qu’un mirage qui repose sur des travailleurs qui se tuent à la microtâche.

Le Turc mécanique ou l’automate joueur d’échecs est un célèbre canular construit à la fin du xviiie siècle : il s’agissait d’un prétendu automate doté de la faculté de jouer aux échecs.

Le travail social en réseau

Le travail social en réseau vient boucler cette vaste définition du Digital Labor. Chacun d’entre nous, à travers nos usages des réseaux sociaux, commentaires, notes et autres appréciations, participe de l’enrichissement des plateformes. La difficulté ici est de qualifier du travail ce qui relève aussi du loisir. Deux approches s’opposent, l’une « travailliste » et l’autre « hédoniste ». Quand la première exclut peut-être trop rapidement la dimension ludique pour la confondre expressément avec une forme d’aliénation, l’autre oppose dogmatiquement travail et plaisir. L’approche Casilienne vient de nouveau ouvrir des brèches à l’intérieur de ce dualisme. Pour le sociologue, ces approches s’arrêtent toutes deux aux contenus qui sont postés par les abonnés sur les plateformes, or il faudrait plutôt prêter attention aux métadonnées qui y sont laissées à la même occasion : « une partie toujours croissante de la valeur est captée à partir d’autres sources de contribution des usagers que l’on décrit généralement comme de la « data » : les informations personnelles, la fréquentation des pages de marques (clics, partages, visionnages), voire les interactions entre eux (liens d’amitié, fréquence des échanges, temps passé à échanger). » Autrement dit, la subordination des usagers-travailleurs des plateformes s’exprime aussi par l’enregistrement et l’évaluation constante de leurs comportements – pas seulement parce qu’ils ont l’impression d’y faire. Une question qui nous rappelle à quel point les données « personnelles » ne le sont pas, puisqu’elles sont engagées dans un tissu de relations sociales, et de relations avec des objets (donner cinq étoiles sur iTunes, faire un trajet quotidiennement, etc.). Néanmoins, ces métadonnées suscitent moins d’intérêt que les contenus, d’une part parce qu’elles sont un peu abstraites, d’autre part parce que nous les déposons en ligne de façon tout à fait inconsciente.

Dans les trois cas juste décrits, le travail à la demande, le microtravail et le travail social en réseau, les actions des travailleurs viennent nourrir des algorithmes ou constituer les bases de données nécessaires aux programmes de deep learning, socles de l’IA. Yann Le Cun, directeur de FAIR (Facebook Artificial Intelligence Research) l’explique lui-même : « les avancées dans le domaine ne sont pas dues à l’amélioration des méthodes scientifiques durant les dernières années, mais à la disponibilité accrue de centaines de millions d’exemples d’images, de textes, de sons répartis en millions de catégories. » La force des plateformes réside dans leur capacité à organiser et collecter la valeur de ce travail, en mettant à contribution leurs utilisateurs. De ce point de vue, le digital labor s’apparente au travail domestique et familial attribué traditionnellement aux femmes. Certaines auteures ont dès lors pu parler de « ménagère numérique » ou de « travail de soin numérique », écrit Casilli. L’auteur opère également un rapprochement entre la culture du travail ludifié – online – et une tendance plus globale à mettre du fun dans l’entreprise, moyennant développement personnel et convivialité des espaces de travail. Le « playbor » (contraction de play et labor) devient une manière de susciter l’engagement du « collaborateur ». Un programme facilité par l’essor du mail qui est venu flouter les frontières entre vie privée et vie professionnelle.

La question que posent les plateformes qui organisent le Digital labor est alors la suivante : préfigurent-elles un retour du travail sous une forme plus libre mais moins garantie ? Une forme de « travail à la pièce » rémunérant non plus un métier, mais le temps dévolu à une série de tâches ne nécessitant aucune qualification ? Casilli emporte ses réponses dans les questions, pour lui, la fragmentation du travail n’est pas le résultat de l’automatisation, mais bien « sa condition préalable ». Un grand projet de réduction des activités humaines à ce qui peut entrer dans un algorithme et mis en vente sous forme très segmentée par de grandes plateformes. Comme l’expliquait récemment Audrey Watters (@audreywatters) : « Les robots ne vont pas vous remplacer, ils vont juste vous déprofessionnaliser, vous outsourcer, privatiser votre travail. Ils vont vous faire travailler plus dur pour moins chers ».

Que faire ?

Dans une dernière partie, Casilli détaille un certain nombre d’actions politiques ou pratiques, qui pourraient être mises en place pour rétablir une forme de justice à l’heure des grandes plateformes. Transposer aux travailleurs digitaux les droits et protections des salariés paraît être la première étape inévitable. Ce qui passe par leur reconnaissance plus juste et globale. Puis viennent les alternatives, « des services d’hébergement municipaux comme AllBnB, substitut local de AirBnB ; l’application sous logiciel libre CoopCycle que des livreurs préfèrent à Foodora », le tout basé sur le « coopérativisme de plateforme » dont Trebor Sholz a esquissé les grandes lignes dans son ouvrage Le coopérativisme de plateforme – 10 principes contre l’ubérisation et le business de l’économie du partage est un essai pour l’action, un renvoi qui fait office de programme pour la suite. Localement ensuite, des directions peuvent être suivies pour récupérer le fruit du travail des « Digital laborers ». Ainsi, on a vu des villes et collectivités territoriales se servir des données d’Uber à d’autres fins que celles de la plateforme. Enfin, Casilli propose un revenu de base numérique, qui serait « une source primaire de ressources économiques », et non pas un complément (ni une concurrence aux aides sociales). La fiscalité sur les données pouvant quant à elle, permettre d’aller puiser finances à la source.

Le livre de Casilli fera date car il sait allier la précision du travail sociologique avec la finesse d’un engagement nourri pour la justice. Casilli décrit et déconstruit mais n’oublie pas de problématiser, de politiser, d’approcher son sujet par les valeurs, de toucher aux questions philosophiques de près. A dire vrai, ce fut pour moi une lecture revigorante et même, rassurante. Alors que la scène est partagée entre des lectures par trop descriptives, et des opinions tranchées mais trop peu documentés, En attendant les robots est un pari réussi, une preuve qu’il existe des sciences humaines solides et militantes qui s’attachent à comprendre les ressorts idéologiques du web, et sans dogmatisme s’il vous plaît. J’en tire également deux points annexes qui me semblent importants :

  • Dans les mois et années à venir, il sera aussi difficile de parler sérieusement d’IA et d’automatisation sans se référer au Digital labor qu’il est déplacé de parler de transport sans évoquer la question énergétique.
  • De la même manière, il sera tout aussi absurde de prétendre qu’une l’IA est « éthique » seulement parce qu’on en a réduit les biais. Pour faire une analogie, on ne dirait pas d’une paire de Nike qu’elle est éthique parce que les femmes en portent (aussi), en occultant au passage leurs conditions de production et les salaires en Asie du sud-est. Si l’IA est un jour réellement éthique, c’est qu’on aura envisagé toute sa chaîne de production.

En suspens

Une question supplémentaire serait relative aux effets de l’automatisation progressive des activités humaines sur l’emploi (et non pas sur le travail). Convenons, comme l’écrit le sociologue, que « le grand remplacement n’aura pas lieu », mais est-ce vrai à tous les échelons de la société ? Pour toutes les professions ? Selon toutes les temporalités ? Si l’on comprend que vouloir mécaniser pleinement la société revient peu ou prou à courir après son ombre, il n’en demeure pas moins que certaines activités sont inexorablement amenées à disparaître – sans qu’on puisse assurer la requalification des salariés a posteriori. Dans sa partie « les humains vont-ils remplacer les robots », Casilli écrit la chose suivante : « L’omniprésence des distributeurs automatiques de billets n’a pas fait baisser le nombre de caissiers, parce qu’une expansion économique du secteur a stabilisé les emplois. » Et conclut presque en conséquence : « C’est sur le plan qualitatif que l’automation a un effet décisif. Elle change le contenu, voire la nature du travail demandé. » Que doivent alors comprendre les caissiers d’Auchan quand ils voient pousser « le premier magasin sans caissiers ni vendeurs » de l’enseigne à Villeneuve-d’Ascq ? Le modèle s’inspire de celui d’Amazon avec sa chaîne de magasins « Amazon Go », une superette connectée qui fonctionne grâce à la reconnaissance faciale. S’il y a certes reconfiguration du travail à travers son fractionnement et son transfert aux clients, ne risque-t-on pas de laisser dans la « trappe à emplois » un certain de nombre de personnes prises entre les deux feux de l’automatisation et de la (re)mise en travail digital de leurs activités ? Entre le long terme, celui de l’analyse économique et des séries longues, et le court terme, celui du salaire qui n’arrive pas ? Pour qu’il y ait transfert total vers ces formes réduites de travail façon Digital labor, il faudrait que cela se fasse de façon au moins aussi rapide que la destruction de ces activités par automatisation. A moins de céder à la théorie de la destruction créatrice, comment ne pas convenir que cela ne se fera pas sans fracas ? Donc, s’il ne faut certes pas céder aux fantasmes d’une société automatique, cela n’empêche pas de redouter les effets de l’automatisation sur l’emploi, même en dehors de la grille de lecture du Digital labor. Comme l’expliquait Bruno Teboul, citant Leontief : « Dire que l’informatique et la bureautique vont créer des emplois pour ceux à qui elle en enlève aujourd’hui est aussi stupide que de dire que passer de la traction hippomobile à la voiture a créé des emplois pour les chevaux ». Citation qui ne vise pas Casilli, ni ne lui retire la force de son analyse.

Enfin, l’ouvrage ouvre une série de questions relatives à la manière dont s’organisent les alternatives. Il semblerait que cela se fasse toujours sur le mode de la réaction : les plateformes mettent en place des activités qui ensuite, pourraient être retournées contre elles-mêmes. C’est d’ailleurs le premier principe qu’évoque Trebor Sholz dans son ouvrage : « cloner le noyau technologique d’Uber, TaskRabbit ou Upwork. Il s’agit d’épouser la technologie, mais de s’en servir avec un modèle de propriété différent, en adhérant aux valeurs démocratiques. » Je ne peux ici m’empêcher de voir les nombreuses limites de ce modèle qui n’est pas loin de considérer la technologie comme un objet neutre qu’il suffirait de plier aux « bonnes valeurs ». C’est oublier un peu vite que les effets des plateformes dépassent, et de loin, les questions de propriété, d’emploi et de travail. La livraison rapide et les déplacements sur commande pour ne citer qu’eux, génèrent des externalités, sur la manière que nous avons de nous socialiser, sur la vitalité de certains commerces, sur notre conception de l’espace, du temps, notre rapport à la nature, sur la biosphère, etc. Ce qui ne veut pas dire que ces effets sont forcément négatifs ni qu’il faille les refuser par principe. Mais quand nous en viendront, comme cela semble être aujourd’hui le cas, à la reconnaissance faciale ou à d’autres procédés très intrusifs, pourra-t-on alors considérer qu’un « renversement démocratique » est possible ? On peut toujours vouloir adhérer aux valeurs démocratiques, comme l’écrit Sholz, mais seulement à condition de comprendre que certaines technologies ne sont pas démocratiques, dans le sens où elles ne favorisent pas l’émergence d’un climat propice à la démocratie.

Qu’en est-il des plateformes ? Et jusqu’à quand ?

Irénée Régnauld (@maisouvaleweb)

13 comments

  1. Est-ce que les produits les plus sophistiqués de l’IA, ceux dont on parle le plus, tels que Watson d’IBM, AlphaGoZero, etc.. sont aussi alimentés par de petites mains ? Je n’en suis pas sûr ?

    Reply
    • Bonjour Ben, réponse (trop) rapide sans avoir creusé : Watson a mille applications. D’une part, il faut un moteur sémantique pour « lire » le texte –> je ne sais pas comment est entraîné celui d’IBM. Ensuite, il faut implémenter « l’IA » quelque part, ça s’est fait par exemple chez crédit mutuel CIC, et là ce sont des scripts (questions / réponses) qui sont créés pour aider les conseillers en back-office. Dans ce genre de projets, on met à plat toute la relation client afin de couvrir un maximum de cas et rediriger l’utilisateur vers les bons canaux. On parle plus d’une FAQ améliorée que d’une IA à proprement parler, c’est donc assez différent.
      Idem pour Alpha Go, c’est une IA qui joue au GO, elle est entraînée avec ce seul objectif (« one shot », pourrait-on dire) et je ne crois pas qu’il soit prévu de la faire passer à l’échelle. Alpha Go a me semble-t-il été entraîné de 2 façons différentes, la première en jouant des millions de fois contre lui-même, en ingérant des millions de parties (mais attention, le GO est un jeu fermé avec des règles précises, c’est pas ce que « voit » un véhicule autonome). Plus récemment, Alpha Go aurait été entraîné sans apport humain, l’étude de Nature est disponible ici : https://www.nature.com/articles/nature24270.epdf?author_access_token=VJXbVjaSHxFoctQQ4p2k4tRgN0jAjWel9jnR3ZoTv0PVW4gB86EEpGqTRDtpIz-2rmo8-KG06gqVobU5NSCFeHILHcVFUeMsbvwS-lxjqQGg98faovwjxeTUgZAUMnRQ

      Reply
  2. Pingback: Dans MaisOùVaLeWeb (6 janv. 2019) | Antonio A. Casilli

  3. Pingback: Khrys’presso du lundi 14 janvier 2019 – Framablog

  4. Pingback: Khrys’presso du lundi 14 janvier 2019 (https://framablog.org/2019/0… | morgao.com

  5. Pingback: Khrys’presso du lundi 14 janvier 2019 | morgao.com

  6. Pingback: Society in the loop : vers un intelligence artificielle plus démocratique ? - Mais où va le Web

  7. Pingback: De l’ « ethics dumping » comme mode de régulation des mœurs technoscientifiques (ici et en Chine) - Mais où va le Web

  8. Pingback: De l’ « ethics dumping » comme mode de régulation des mœurs technoscientifiques (ici et en Chine) - Mais où va le Web

  9. Pingback: Cette intelligence artificielle qui n'existe pas - Mais où va le Web

  10. Pingback: Vers l’automatisation de la censure politique – We The Net

  11. Pingback: Vers l’automatisation de la censure politique – Félix Tréguer |

  12. Pingback: L'intelligence artificielle dans son contexte, ou comment le quotidien des travailleurs change petit à petit - Mais où va le Web

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *