« Your Computer Is On Fire » : regardez-vous ailleurs ?

Les dysfonctionnements des systèmes technologiques, généralement présentés comme des erreurs ou des bugs, n’en sont pas. L’impérialisme, le racisme, le classisme ou le sexisme sont des features – des fonctionnalités – et non des bugs des technologies. Des fonctionnalités intentionnelles et non des bugs accidentels pour être plus précis. 

Un texte proposé par Anne-Charlotte Oriol (@Toutetlereste).

C’est le postulat de départ de l’ouvrage collectif Your Computer Is On Fire publié en mars dernier aux éditions MIT Press (et non traduit à ce jour) sous la direction de Thomas S. Mullaney, Benjamin Peters, Mar Hicks et Kavita Philip. 

Rassemblant des noms établis comme émergents des Science and Technology Studies (STS), l’ouvrage promet de sonner l’alarme, après des décennies de complaisance alimentée par les récits technophiles vantant la neutralité technologique.

Si le livre m’a semblé particulièrement stimulant à plusieurs moments et à plusieurs égards, il laisse un goût d’inachevé un peu frustrant. Et cette question : a-t-on encore besoin d’alarmes ?

Contre-feux

Difficile de résumer en quelques lignes un livre aux perspectives et apports aussi multiples sans en dénaturer le propos et en amoindrir la portée. L’apport de ce travail réside précisément dans son caractère collectif et dans la multiplicité des angles d’analyse qu’il offre. Dénoncer l’écrasement monolithique des technologies dominantes portées par les géants de la tech requiert en effet de multiplier les postes d’analyses et ce livre s’y attèle de manière intelligente et percutante.

Non seulement les perspectives sont multiples, mais il y a par ailleurs un travail de mise en cohérence que l’on ne retrouve pas nécessairement dans tous les ouvrages collectifs. Les chapitres se répondent, se complètent, s’enrichissent. On apprécie particulièrement le fait que les autrices et auteurs s’appuient sur les travaux des autres et les mobilisent dans leurs démonstrations, ce qui rend la somme consistante. 

Le découpage du livre en trois parties (“Nothing Is Virtual” ; “This Is An Emergency” et “Where Will The Fire Spread?”) est en revanche moins convaincant. Si les thématiques abordées forment un objet cohérent, ce découpage ne correspond pas à la construction de cet objet et semble, in fine, assez formel et superficiel (ce qui n’enlève rien à la pertinence globale du propos). 

Une histoire populaire de l’informatique

Là où le livre convainc particulièrement en revanche, c’est dans la démonstration magistrale qu’il fait de l’importance, pour une critique opérante et concrète des technologies dominantes, de renouveler l’éclairage et les récits socio-historiques.

Pour paraphraser le titre d’un autre ouvrage (A People’s History of Computing in the United States de la chercheuse Joy Lisi Rankin) et à la suite du travail fondateur d’Howard Zinn remettant au coeur de l’historiographie celles et ceux dont les manuels d’histoire parlent peu, ce qui est vraiment fascinant Your Computer Is On Fire, c’est l’imbrication d’approches historique, culturelle et technique qui permet dans un double mouvement d’interroger nos systèmes normatifs et de donner une perspective engageante aux luttes technocritiques. 

Cela commence par le fait de chausser de nouvelles lunettes pour observer les processus historiques, sociaux et techniques qui sont entremêlés comme l’écrit Kavita Philip (The Internet will be decolonized).

C’est précisément ce à quoi s’attache Nathan Ensmenger dans le chapitre qui ouvre l’ouvrage, “The Cloud is a Factory”. Il y analyse les modèles économiques des géants de l’économie numérique comme étant étonnamment conventionnels (entendez “étonnamment ressemblants à ceux du 19è siècle”) en proposant une comparaison du cloud à une usine.

Resituant l’histoire de l’informatique dans le contexte plus large de l’histoire de l’industrialisation, l’auteur bat en brèche les discours de l’industrie informatique, laquelle s’est plutôt attachée à se positionner hors de cette histoire, et hors des contrôles sociaux, politiques et environnementaux qui se sont développés pour encadrer et limiter l’industrialisation. 

Il est évident, écrit Ensmenger que “le cloud est plus qu’un terme technique ou même un enchevêtrement d’infrastructures. C’est une métaphore, une idéologie, et un agenda, ce qui en fait à la fois un outil pour analyser le passé et le présent mais aussi pour influencer l’avenir.”  Il faut donc en analyser les conséquences et les objectifs, pour l’industrie numérique comme pour les autres secteurs d’activité.

Dans le troisième chapitre, “A network is not a network”, Benjamin Peters livre une analyse de trois tentatives de conception de réseaux informatiques de grande échelle : le projet soviétique OGAS, le projet chilien Cybersyn et l’étatsunien ARPANET. 

L’éclairage historique comparatif de ces trois réseaux (ou tentatives de réseaux) permet de souligner la nécessité d’analyses prenant en compte différentes perspectives pour ces systèmes complexes. Peters montre aussi qu’au-delà de l’ancrage politique et organisationnel des systèmes techniques qui influe sur les choix opérés, la pratique (de la mise en oeuvre aux utilisations si on va jusque là) dévie – ou défie pour reprendre le terme de l’auteur – toujours de ce qui été pensé originellement. On comprend, au fil des pages du livre, qu’il y a peut-être là une lueur d’espoir… ou, au moins, une marge de manœuvre.

Au rang des éclairages historiques renouvelés qui apportent vraiment de l’eau au moulin technocritique, on lira avec intérêt la contribution de Mar Hicks, qui co-édite Your Computer Is On Fire. Iel propose un chapitre s’appuyant sur ses précédents travaux, en particulier l’important Programmed Inequality: How Britain Discarded Women Technologists and Lost Its Edge in Computing (MIT Press, 2017, non traduit). 

Pour iel, le Royaume-Uni offre un exemple éclairant de la manière dont les échecs de l’industrie informatique sont étroitement liés aux problèmes sociaux pouvant sembler secondaires ou même sans lien. Selon Mar Hicks, l’exemple britannique “montre comment la fiction de la méritocratie peut saborder un industrie et comment l’informatique a longtemps été alignée avec des projets néocoloniaux fantasmant de contrôle à l’échelle internationale grâce aux high tech” (p. 137). Hicks revient dans ce chapitre sur ce qui a été analysé plus amplement dans l’ouvrage mentionné, à savoir les différentes modalités d’éviction des femmes de l’industrie informatique britannique et lie le déclin de celle-ci à ce sexisme systémique. Les discriminations en sont une : discriminées par l’industrie informatique, les femmes s’en sont détournées ce qui a provoqué des pénuries de main d’œuvre structurelles au XXème siècle, et, in fine, un déclin de ladite industrie. 

L’histoire est d’une importance cruciale pour comprendre la période actuelle selon Mar Hicks : les pratiques sexistes en matière de recrutement et de licenciement, l’association entre tâches techniques et travailleurs/ses précaires, notamment, sont un modèle commun dans l’Occident post-industriel… et ce qui a pu se passer au Royaume-Uni au XXème siècle peut s’observer sous d’autres latitudes au 21ème. Iel pointe l’intentionnalité des discriminations qu’iel considère comme un “ensemble de systèmes conçus et paramétrés de façon à assurer à ceux qui avaient le plus de pouvoirs dans la société pré-numérique, les gouvernements et les industriels de continuer à l’exercer tout autant après la “révolution informatique” “.   

L’histoire a cela d’essentiel qu’elle permet de resituer les véritables enjeux des technologies qui ont toujours été “une question de contrôle et de pouvoir” comme le note Mar Hicks en introduction de l’ouvrage. Un autre apport de ce travail est ainsi de montrer comment l’utilisation des technologies comme possibilité d’extension et d’assise du pouvoir d’une minorité dominante s’est opérée pour imposer et diffuser des normes définies par cette même minorité. Un apport que l’on peut considérer comme un premier pas dans la remise en question de ces normes précisément.

Interroger nos systèmes normatifs

S’agissant justement d’interroger nos systèmes normatifs, plusieurs contributions de ce livre se révèlent particulièrement vivifiantes (et pertinentes).

La chercheuse Kavita Philip étudie les récits qui ont été faits d’Internet et montre plus particulièrement leurs résonances coloniales et sexistes – y compris lorsqu’il s’agit de figures alternatives  comme celle du “hacker” ou celle de John Perry Barlow – auteur de la Déclaration d’indépendance du cyberespace et co-fondateur de l’ONG Electronic Frontier Foundation. Pour elle, on ne pourra d’ailleurs pas faire advenir ce “monde où tous peuvent entrer, sans privilège ni préjugé dicté par la race, le pouvoir économique, la puissance militaire ou le lieu de naissance” si l’on continue d’utiliser sans aucun recul critique les récits et les technologies s’inscrivant dans les logiques coloniales et sexistes de l’industrie informatique. “Les histoires technologiques et humaines mêlées d’Internet charrient des ordres sociaux hérités du passé dans le présent et façonnent les futurs possibles” écrit-elle. 

La contribution d’Halcyon M. Lawrence, intitulée Siri Disciplines, montre bien comment ce qui est présenté à grand renfort de marketing comme révolutionnaire n’est rien d’autre qu’oppressif. Lawrence analyse les technologies vocales et montre que non seulement elles ne modifient pas les biais et hiérarchies sociales existantes mais qu’elles les renforcent. L’ouverture récentes vers certaines langues (elle prend l’exemple de l’Hinglish, mélange d’hindi et d’anglais parlé dans les zones urbaines indiennes, qui compte tout de même approximativement 350 millions de locutrices et locuteurs selon l’auteur) ne doit pas être analysée comme mue par des idéaux inclusifs mais comme un positionnement sur des marchés émergents lucratifs. Cela explique également pourquoi d’autres langues ou des versions considérées comme “non-standard” de l’anglais ne sont toujours pas, et risquent de l’être jamais, prises en compte : elles ne représentent pas d’opportunités de profits intéressantes. 

En étudiant la question du langage, elle montre que “dans le monde numérique, toutes les langues ne naissent pas égales”. C’est particulièrement vrai pour les langues autochtones et les accents considérés comme “non standard” pour reprendre ses termes : Il est important de comprendre le contexte socio-économique dans lequel ces technologies sont développées et la longue histoire de l’assimilation – qui prend racine dans des idéologies impérialistes et de classes dominantes – que les personnes dont l’anglais n’était pas la langue première ou les locuteurs non standard de l’anglais ont subi pour pouvoir participer aux systèmes économiques et sociaux à l’échelle mondiale.

Pour Lawrence, ces technologies ne sont pas révolutionnaires. Elles sont biaisées et elles disciplinent, en ce qu’elles maintiennent intactes les hiérarchies sociales et politiques. Avec la chercheuse Meryl Alper, elle s’interroge alors : “qui est autorisé à parler et qui peut s’exprimer en premier lieu ?”. L’interrogation n’est pas sans rappeler celle de Gayatri Spivak – et son ouvrage Les subalternes peuvent-elles parler ? paru en anglais en 1985 et re-publié récemment (2020) dans la traduction française de Jérôme Vidal aux éditions Amsterdam –  et montre que non seulement la question est-elle toujours éminemment actuelle, mais que les technologies en cours de déploiement comme les technologies vocales tendent à renforcer les injustices. 

Deux autres chapitres passionnants (Broken Is Word d’Andrea Stanton et Typing Is Dead de Thomas S. Mullaney) abordent les enjeux d’impérialisme et de subalternité (qui renvoie à celles et ceux à qui l’histoire officielle ne donne jamais le droit à la parole pour le dire très vite) par le prisme des langues et montrent comment les outils technologiques ont été pensés depuis l’anglais et l’alphabet latin – reléguant de facto les autres systèmes scripturaux aux marges des technologies et renforçant les velléités impérialistes étatsuniennes à l’échelle internationale. 

Andrea Stanton a étudié l’ “épineux défi” posé aux ingénieurs occidentaux par l’écriture arabe, notamment, qui s’écrit de droite à gauche. Elle s’est demandé pourquoi écrire en arabe s’est révélé être un défi technique si important pour les fabricants de machines à écrire et plus tard d’ordinateurs. Sa réponse : ils ont tenté d’apporter des réponses techniques à des enjeux culturels et politiques. “L’arabe n’est pas le problème, écrit-elle, penser l’écriture arabe comme un problème l’est”... et cette conception négative de la langue arabe n’est pas née avec la réflexion sur l’informatisation de l’écriture, elle résulte de normes hégémoniques pré-existantes.

Thomas Mullaney approfondit cette analyse en étudiant la “fausse universalité” de QWERTY. 

La seule universalité de QWERTY selon lui, c’est l’inégalité qu’il engendre, tout ce qui n’est pas de l’Anglais étant considéré comme “déviant”.

Si les enjeux normatifs des technologies que nous utilisons sont assez bien documentés, le détour par les enjeux linguistiques permet d’éclairer de manière aussi systémique qu’intime les enjeux de pouvoir et de contrôle liés aux développements technologiques. Cela permet non seulement de mieux poser les problématiques globales mais aussi de mieux saisir ce qu’il peut y avoir d’aliénant dans ces technologies : “Dans une relation d’humain à humain, la personne qui parle comme celle qui écoute a l’opportunité de négocier le processus de communication. […] Dans les technologies vocales en revanche, parce qu’il n’y a aucune possibilité de négocier avec l’appareil, un changement d’accent est presque toujours nécessaire pour les personnes qui ont un accent qui n’est pas compris et qui souhaitent utiliser cette technologie”. (Halcyon M. Lawrence)

On le comprend avec ces contributions, poser les questions en termes techniques ne permet pas de comprendre, et de déconstruire, les normes hégémoniques qui sous-tendent ces systèmes technologiques. Or, “en dépit d’énormes complexités et avancées dans d’autres domaines, le traitement de texte est toujours largement fondé sur l’idée que les mots sont non seulement linéaires mais également unidirectionnels”… Pour ces auteurs, l’enjeu initial est donc de formuler les problématiques dans les bons termes, en l’occurrence des termes politiques et non techniques. 

Donner de l’espoir, en fait.

Pour le dire avec Mar Hicks, qui a décidément le sens de la formule, ce livre permet de se tourner vers l’avenir en regardant en arrière (“looking forward by looking back”). Et si Your Computer Is On Fire parvient en effectivement à offrir de nouvelles perspectives sur l’analyse des systèmes technologiques, c’est largement grâce au renouvellement des perspectives historiques qu’il contribue à opérer. 

Ce faisant, le livre permet de se projeter dans l’avenir, de se rappeler que “la société sur-connectée dans laquelle nous vivons n’était pas inévitable et que ce qui viendra à l’avenir ne l’est pas non plus”. Le fait que les technologies qui nous entourent ont été faites comme elles l’ont été permet d’imaginer non seulement qu’elles pourraient être déconstruites mais aussi que d’autres systèmes techniques pourraient être pensés et conçus différemment.

Le livre rompt ainsi avec ce sentiment d’inéluctabilité qui peut guetter quand on s’aventure dans une réflexion sur nos usages comme nos systèmes techniques. C’est aussi l’occasion de rappeler que l’idée qu’il n’y a “pas d’alternative” est un chiffon rouge agité par la pensée néo-libérale depuis un moment. 

Faire une histoire populaire de l’informatique, c’est montrer les  enjeux sociaux et politiques derrière les évolutions technologiques, comme la place des femmes et des hommes qui les ont rendues possibles, à rebours des discours sur la nouveauté des technologies qui peinent à masquer une tentative de faire croire que tout change pour ne surtout rien changer. En cela, le livre montre bien comment le “techno-libertariarisme a-historique favorisé par les élites de la Silicon Valley – dont la plupart viennent des mêmes milieux sociaux favorisés – garantissent que leurs technologies ne soient ni radicales ni progressistes”.

Pour Mar Hicks, “la révolution informatique n’était pas une révolution au sens profond du terme : elle a laissé les hiérarchies sociales et politiques intactes, et les a parfois même renforcées tout en intensifiant les inégalités”.  Et d’ajouter que la high-tech fait souvent écran en avançant des discours de progrès idéalistes tout en torpillant toute tentative de réforme sociale en s’appuyant sur des formes subtiles et non moins systémiques de sexisme, de classisme et de racisme.

Plusieurs chapitres du livre analysent également de manière critique les projets à visée émancipatrice s’appuyant sur la tech qui ne vont pas très loin dans la remise en cause des rapports de pouvoir dans la société où ils sont déployés.

Dans le chapitre qu’elle consacre à l’apprentissage du code (Coding Is Not Empowerment), par exemple, Jane Abbate écrit ainsi que « si on ne prend pas au sérieux les problématiques de pouvoir et d’objectif et si on ne reconnaît pas que les véritables solutions puissent requérir que les groupes dominants fassent des changements inconfortables, le mouvement autour du code risque de simplement reproduire les inégalités existantes”.

Dans son analyse de cours d’informatique pour des jeunes femmes en Inde, dont une majorité de jeunes femmes musulmanes, à Seelampur (périphérie pauvre du Nord de New Delhi) pour sa contribution “Skills Will Not Set You Free”, Sreela Sarkar creuse également ce sujet en mobilisant une approche féministe intersectionnelle afin de comprendre l’impact réel de tels programmes.

Pour la chercheuse, ce programme n’a pas permis de résoudre les discrimination subies par ces femmes et fondées sur l’intersection de leurs identités de genre, de classes et de caste qui sont un trait du contexte historique et politique comme des structures sociales du pays. “En fait, explique-t-elle, cette formation a perpétué et amplifié les oppressions structurelles dont sont victimes ces femmes”. Les promesses d’émancipation ne sont pas tenues et si ces femmes trouvent du travail dans l’économie numérique, c’est à l’échelon le plus bas, celui qui est le plus précaire, le plus genré et le plus exploité.

Faut-il en conclure à la victoire de l’illusion sur l’espoir ? Pas si sûr comme l’écrit Kavita Philip en épilogue : En défaisant les modèles fermement tissés de notre présent technologique, les explications historiques de ce livre détruisent certes les bases sur lesquelles la production, la distribution et l’utilisation des technologies opèrent. Mais ce mouvement qui déstabilise détient peut-être les clefs d’un avenir plus ouvert quant aux possibilités socio-techniques que l’actuel ne peut offrir. 

Éteindre la démesure plus que l’incendie

Ce livre permet donc de mieux comprendre des phénomènes (historiques, sociaux et / ou culturels) souvent méconnus, voire éludés.  En cela, il est un exemple de ces contre-feux qui s’allument pour dessiner d’autres futurs possibles, embrassant la complexité et se dessinant dans le bruit actuel. Kavita Philip invite à appréhender le bruit – en tant qu’il renvoie à la complexité et à l’ingéniosité – car c’est précisément en voulant l’éliminer que les systèmes techniques ont charrié leur lot de conséquences dramatiques : domination, exploitation et déchets. En se l’appropriant, on pourrait en faire le ferment de futurs socio-techniques souhaitables écrit-elle.

Ne rêvons pas, il y a peu de chance que les white dudes de la Silicon Valley ou de Station F se tapent ces 400 pages technocritiques (et en tirent des conséquences honorables). A défaut d’être véritablement grand public (son prix, non traduit, un ouvrage académique pas toujours accessible), ce livre peut utilement servir de ressource à celles et ceux qui passent, enseignent, vulgarisent, dénoncent, mobilisent et interrogent les systèmes techniques. 

Alors, même si l’on peut se sentir mieux armé.e après la lecture de cet ouvrage, on le referme tout de même avec un sentiment ambivalent. Et l’on se demande combien il faudra encore d’alarmes pour en finir avec des systèmes techniques toxiques. 

On regrettera aussi la faiblesse des pistes de réflexions et de propositions d’un livre se présentant comme des offrant des “pistes d’action pour comprendre et résoudre les problèmes technologiques souvent ignorés ou mal compris”. Les pistes de réflexion restent souvent évasives, de l’ordre du “y’a qu’à faut qu’on” – ce qui confine parfois au “nombrilisme académique” pour Lindsay Clarke et on n’est pas loin de le penser non plus.

Mais on ne peut nier l’importance de tels travaux qui interrogent, dans une démarche collective qui plus est, les systèmes socio-techniques en des termes politiques. Mais attention, il ne s’agit pas de focaliser l’attention sur les dominants ou de seulement “checker nos privilèges » pour le dire avec la sociologue et écrivaine Kaoutar Harchi pour qui « un enjeu politique bien plus radical consisterait à lutter pour l’accès de tous et de toutes à la justice sociale ». Un nouvel espace de pensée et d’action pour les technocritiques en somme.

Anne-Charlotte Oriol s’intéresse aux enjeux socio-politiques posés par le numérique et prépare une thèse en sociologie sur le mouvement maker en Seine-Saint-Denis. Elle est membre du Mouton numérique.