C’est un ouvrage un brin technique mais passionnant, que publie le philosophe des sciences Matteo Pasquinelli (Ca’ Foscari University in Venice), “The eye of the master. A social history of artificial intelligence” (Verso, 2023, non traduit). A l’heure où les grands modèles de langage font peser des menaces objectives sur de nombreuses professions, des graphistes aux traducteurs, le philosophe pose une question fondamentale : qui crée réellement la machine ? La lecture sociale de l’intelligence artificielle, et pas seulement technique, que propose le chercheur, nous fait traverser quelques siècles et ausculte les enchevêtrements entre l’histoire des idées et les technologies qui automatisent progressivement le travail. Un bon remède à la hype ambiante.
C’est d’abord un effort d’approfondissement historique que fait Pasquinelli : tant sur la question de l’intelligence que sur celle des algorithmes. A revers des tentatives de naturalisation du progrès technique, il donne à voir la dimension sociale de ce qui prépare l’informatique. L’algorithmie ou les mathématiques, démontre-t-il, s’ancrent dans des pratiques sociales avant tout.
Pasquinelli rappelle ainsi que dans ses recherches sur les mathématiques védiques, Paolo Zellini, un mathématicien italien, a identifié que le rituel Agnicayana (vieux de 3000 ans) servait à enseigner des méthodes d’approximation géométrique et d’expansion graduelle, similaires aux concepts algorithmiques présents dans le calcul moderne de Leibniz et Newton. Les humains comptaient avant que les nombres n’existent, le rythme et le chant pendant le travail ont même conduit à leur création progressive, explique le philosophe citant Kart büchers dans son livre Arbeit unt Rhytmus (1896). Les premiers développements de Pasquinelli empruntent ainsi à l’anthropologie, en synthèse : “j’affirme ici que les algorithmes, même les plus complexes, ainsi que l’IA et le machine learning ont leur genèse dans des activités sociales et matérielles (p. 27).
Sur un autre plan, ce qui deviendra l’intelligence artificielle est aussi un processus politique, qui tire notamment ses racines de la création du quotient intellectuel (QI), établi pour dépister les élèves en difficulté puis utilisé pour mesurer l’intelligence selon des critères homogènes hautement discutables. Il n’est pas rare que le QI soit mobilisé en vue de défendre des discours racistes. Le premier réseau neuronal, le “Perceptron”, naît dans cette ambiance, non pas pour automatiser le raisonnement mais bien comme une méthode statistique établie pour “mesurer l’intelligence dans des tâches cognitives et organiser à partir de là les hiérarchies sociales” (p. 21). Dès lors, l’auteur rappelle à quel point les controverses récentes sur les “biais” de l’automatisation ne font qu’illustrer une tendance intrinsèque à la fonctionnalisation de la discrimination dans un contexte capitaliste.
A l’origine de la machine : la division du travail
Mais les idées fortes de Pasquinelli sont ailleurs. Une question majeure occupe le philosophe : qu’est-ce qui suscite la mécanisation ? Contre le récit d’une destinée inaltérable de la technique qui déterminerait l’histoire, il opère un renversement : la machine est une œuvre collective qui réside dans une division du travail qui lui préexiste. Elle n’est donc pas à l’origine de cette division du travail. Ainsi la machine de Babbage (ou “Analytical engine”, imaginée en 1834, elle ne sera jamais construite), est utilisée pour calculer des longitudes et assurer la domination maritime en s’inspirant de la répétition d’actions manuelles. Une machine est l’assemblage de plusieurs outils plus individualisés : elle naît de la division du travail. Ce principe posé, Pasquinelli s’interroge : “Qui est réellement l’inventeur de la machine ? À qui peut-on attribuer son invention ? Les travailleurs, les maîtres d’usine, les ingénieurs, ou l’orchestration de tous ces acteurs ?” (p. 63).
Pour répondre à ces grandes questions, Pasquinelli décrit finement les différents paradigmes qui caractérisent le progrès de l’automatisation, qu’il compare en suivant plusieurs doctrines et auteurs, de Babbage à Marx. Pour le premier, la division du travail inspire la machine, mais aussi son modèle économique, selon le principe de “machine theory of value”. Pour Marx, qui reprendra les idées de Babbage, non seulement la machine n’est pas une émanation des progrès scientifiques du moment, mais ne constitue en aucun cas le point de départ de la révolution industrielle. Dans son “Fragment sur les machines”, il s’inspire du principe de Babbage (selon lequel la division du travail qui s’incarne dans la machine permet d’acheter la quantité de travail nécessaire, et pas plus), et en déduit que “[qu’]à cet égard, la division du travail fournit non seulement la conception de machines, mais aussi une configuration économique pour calibrer et calculer l’extraction de la plus-value du travail” (p. 116).
Quant à l’intelligence de la machine, la question est déjà vertigineuse au XIXe siècle. Le philosophe rappelle qu’elle désigne tout à la fois 1) la connaissance humaine de la machine, 2) la connaissance que la machine incarne, 3) les tâches qu’elle automatise et 4) les nouvelles connaissances permises par son usage (par exemple, des progrès scientifiques nouvellement permis par son utilisation). Toujours pour Marx, cette “intelligence” est, là encore, collective. Ce qu’illustre notamment la notion de “general intellect”. Pasquinelli ne fait pas mystère de la conclusion qu’il tire de son développement : le savoir qui a été approprié par les machines finit par aliéner ceux-là même qui en sont à l’origine. L’analyse est poussée jusqu’aux grands modèles de langage (LLM) qui sont “La plus proche approximation de la mécanisation du “general intellect” qui était envisagée à l’ère industrielle” (p. 248).
Une rhétorique vient toutefois relativiser le phénomène. Il y aurait des savoirs nobles, et d’autres moins. Ainsi en va-t-il de la séparation entre travail manuel et travail intellectuel, qui sert surtout à établir des hiérarchies : “La classe industrielle visait à diviser le prolétariat selon une hiérarchie de travailleurs non qualifiés et qualifiés, dans le but de discipliner la force de travail.” (p. 87) On pourrait extrapoler : il est encore souvent question d’affirmer que les tâches “non intéressantes” seront confiées à l’IA, permettant aux travailleurs de se concentrer sur ce qui, à revers, aurait de l’intérêt. Reste à savoir selon quels critères une activité est perçue comme étant intéressante ou non, et pour qui.
La machine de Babbage, dont Pasquinelli fait grand cas, reste néanmoins encore très loin des développements informatiques du siècle suivant. Il faudra attendre les travaux d’Ada Lovelace pour commencer à opérer une différenciation entre hardware et software, pour utiliser des catégories plus contemporaines. Pour Lovelace, la machine peut s’abstraire au point de réaliser n’importe quel calcul. Si l’informaticienne évacue vite l’idée d’une machine pensante, elle n’incarne pas moins, tout comme Babbage, une bourgeoisie qui jamais ne considère les effets de cette automatisation. Les tisserands par exemple, dont les activités sont progressivement remplacées par les métiers Jacquard à cartes perforées, et plus généralement le taux de chômage à Londres, que les machines contribuent à faire croître, ne font pas partie de leurs préoccupations. Babbage, d’abord conscient du fait que la machine émane de l’observation de tâches préexistantes, finira même, à l’inverse, par en faire la simple émanation matérielle d’une science abstraite.
Des vieilles analogies entre cerveau et machine
En dernière partie d’ouvrage, Matteo Pasquinelli revient sur différents débats et représentations liés à l’automatisation du travail. Celle-ci occupe déjà les élites intellectuelles qui dès le début du XIXe siècle, s’agitent autour de la “machinery question”. Sur un autre versant, les analogies entre le corps humain – plus particulièrement son cerveau – et l’intelligence des machines, connaissent un certain succès. Comme l’a montré la chercheuse Laura Otis, dès le XIXe siècle, l’arrivée de l’électricité suscite déjà des analogies biologiques. Au milieu du XXe, les premiers développements en informatique et les réseaux de neurones bâtissent encore sur ces métaphores. Dès les travaux de McCulloch et Pitts (1947), qui sont à l’origine du premier modèle mathématique et informatique du neurone biologique, il n’est pas tant question de calquer la machine sur le développement du cerveau qu’à l’inverse, considérer le cerveau comme une machine. Pourtant, ce n’est pas tant le cerveau que ces premières machines tentent d’imiter mais l’œil : “L’histoire de l’intelligence artificielle connexionniste est redevable aux expériences sur les animaux et leur organe de vision.” (p. 175).
Alors qu’il dresse une généalogie synthétique de la construction de l’équivalence cerveau / machine, le philosophe montre comment un autre principe, “l’auto-organisation”, s’impose puis se glisse partout, du fonctionnement de l’économie (néolibéralisme) à la cybernétique. C’est aussi à ce moment que deux visions de l’intelligence artificielle naissent (symbolique et connexionniste) ; “L’une [la symbolique] a pris la résolution de problèmes comme son paradigme de l’intelligence, l’autre, l’apprentissage” selon la définition de Hubert et Dreyfus (p. 152). L’idée que les réseaux de neurones puissent parvenir à imiter des tâches humaines en se basant non sur la précision mais la redondance des calculs, fait aussi son chemin, chez Mc Culloch notamment.
La métaphore de l’oeil qui titre l’ouvrage est d’ailleurs à pousser plus loin, en l’envisageant comme vision surplombante et gouvernante de l’économie, se traduisant par le management algorithmique à large échelle. C’est un autre enseignement majeur du livre : le traçage en règle de toutes les activités allant du travail à la logistique, et du commerce en général, signale qu’il ne s’agit plus d’automatiser le travail des individus, comme pourrait le laisser entendre l’image d’un robot venant “remplacer” un humain, mais bien d’automatiser l’usine en tant que telle, comprenant ses managers. Dès lors, “Le débat sur la peur que l’IA remplace complètement les emplois est mal orienté : dans ce qu’on appelle l’économie de plateforme, en réalité, les algorithmes remplacent le management et multiplient les emplois précaires.” (p. 250).
Conclusion
On aimerait que le livre de Pasquinelli s’arrête plus en détail sur les conclusions des dernières pages et les leçons à tirer de son analyse en cette décennie 2020. Toutefois, l’approche reste suffisante pour se débarrasser de quelques poncifs, comme celui d’une “intelligence surhumaine” et surtout “autonome” que préparerait l’avènement des machines. À travers les écrits de Marx, il souligne que les collectifs productifs ont été essentiels pour édifier l’intelligence artificielle, depuis les tâches qu’ils inventent et réalisent individuellement jusqu’ au micro-travail, serait-on tenté d’ajouter (ces travailleurs qui alimentent et corrigent les intelligences artificielles actuelles, souvent depuis des pays à bas coût, et sans lesquels nombre de modèles ne tiendraient pas).
Ce faisant, The eye of the master tient moins de l’histoire sociale de l’intelligence artificielle que d’une approche intellectuelle approfondie des liens qui se tissent entre les théories critiques du capitalisme et la progressive mécanisation du travail. On n’y trouvera pas ce qu’on attendrait d’une véritable histoire sociale, comme celle qu’a pu écrire François Jarrige dans l’excellent Technocritique, du refus des machines à la contestation des technosciences. Mais l’ouvrage – résumé à très grands traits ici – reste riche et puise dans de nombreuses références.
Quant à savoir “que faire ?” en revanche, la suggestion reste élusive : « La première étape en technopolitique n’est pas technologique mais politique » (p.253), on aimerait une invitation plus concrète à l’action.
Illustration récupérée sur le profil « X » de l’auteur (lien)
Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.
[…] “The eye of the master” : une histoire sociale de “l’intelligence artificielle” (maisouvaleweb.fr) […]