Data & Society publie l’intervention de l’anthropologue Sareeta Amrute (@SareetaAmrute) de l’université de Washington à EPIC2019 : Tech Colonialism Today. L’universitaire avance une thèse provocante : la technologie partage avec le colonialisme un certain nombre de caractéristiques communes comme l’extractivisme et l’exploitation. Elle nous encourage non seulement à ouvrir les yeux, mais aussi à radicaliser nos approches critiques pour faire bouger les lignes.

Pour commencer, Sareeta Amrute s’arrête sur ce qui définit le colonialisme, et notamment dans sa version la plus réduite : la prise de contrôle totale ou partielle d’un territoire, d’un peuple, puis l’occupation et l’exploitation économique de ce territoire via par exemple des colons. Toujours bon à rappeler : la relation coloniale est asymétrique, repose sur l’extraction des ressources, l’exploitation des corps, la violence et l’asservissement des peuples. Colonialisme rime aussi avec inégalité (entre ceux qui bénéficient de la relation et ceux qui en pâtissent) et paternalisme (la « mission civilisatrice »). Enfin, il est fréquent que les colonisateurs utiliser l’endroit occupé comme laboratoire à des fins d’expérimentation scientifiques diverses.

Historiquement, le colonialisme est aussi affaire de partenariats public-privé, même si cela sonne un peu anachronique. La Compagnie des Indes orientales par exemple, reçut le mandat de la couronne britannique pour prendre le contrôle de l’Inde en son nom dès 1757 (Bataille de Plassey). Cela incluait la possibilité de financer des opérations militaires pour étendre les territoires conquis. Chemin faisant, la Compagnie des Indes a aussi fait grandir une base de connaissance sur les peuples et territoires colonisés, la faune et la flore, le langage et les systèmes politiques. Ce processus de collecte d’informations a aussi constitué un moyen de modifier tous ces systèmes, de les re-hiérarchiser de manière à refaçonner les sphères sociales, environnementales et politiques. Mais l’idée ici, n’est pas tant de revenir avec précision sur l’histoire de la colonisation que de tenter d’opérer une analogie avec ce qu’aujourd’hui, permet la technologie. Et le constat que dresse la chercheuse est édifiant : les mêmes logiques sont à l’œuvre d’un côté et de l’autre.

Hiérarchisations des savoirs

Cela commence par l’imposition de hiérarchies nouvelles, à la fois dans les savoirs et dans la désignation des sachants. Comme l’explique la journaliste Meredith Broussard, les firmes du numériques font preuve de « techno-chauvinisme » : elles pensent qu’un petit groupe de gens aux profils homogènes et localisés dans la Silicon Valley sont les plus aptes à déployer des systèmes algorithmiques capables d’administrer la vie humaine. C’est aussi le cas en Inde, comme l’a montré la chercheuse Ajantha Subramanian (The Caste of Merit Engineering Education in India), les ingénieurs indiens formés à l’Indian Institute of Technology partagent cette croyance que les hommes des classes supérieures construiraient mécaniquement des algorithmes supérieurs… Dans son livre Encoding Race, Encoding Class, Sareeta Amrute rappelle quant à elle que le code n’est pas universel mais bien « incorporé » : il reflète la provenance des ingénieurs, la place qu’ils occupent dans les structures où ils évoluent.

Extractivisme technologique

Extractiviste ensuite : les technologies demandent minerais et autres métaux rares (répertoriés ici par Nathan Ensmenger) pour fabriquer le hardware. C’est d’ailleurs devenu un sujet de société, et même géopolitique étant donné que beaucoup de ces matériaux viennent de Chine. Avec l’essor de la 5G, cet extractivisme va exploser au détriment des écosystèmes et du climat. A cela, il faut ajouter l’extractivisme informationnel : les données que les géants du numérique récupèrent à chacun de nos faits et gestes, tout en prétextant le semblant de consentement que nous leur aurions accordé en signant d’opaques conditions générales d’utilisation. Un récent exemple d’extractivisme : les données personnelles de santé (« un trésor mondialement convoité », titre Le Monde).

Exploitation numérique

Après l’extractivisme, l’exploitation. Le monde de la « tech » repose sur l’exploitation de nombreux travailleurs rendus invisibles (« ghosted ») qui agissent en sous-main pour donner l’illusion de l’automatisme aux intelligences artificielles. C’est le Turc mécanique d’Amazon, les « travailleurs du clic », le « digital labor », etc. Les travaux de Mary Gray et Siddharth Suri  (Ghost work) l’ont montré, tout comme ceux d’Antonio Casilli (En attendant les robots). Le phénomène d’exploitation ne s’arrête pas au dévoilement des travailleurs de l’ombre, il s’étend à nos préjugés qui concernent le développement technologique : celui-ci ne pourrait être que le fruit de cerveaux occidentaux, et suivrait une voie nord-sud, se transférant progressivement aux nécessiteux qui eux, seraient bien incapables d’inventer quoi que ce soit. Il en résulte des innovations hors-sol, qui ne correspondent pas aux besoins des populations auxquelles elles sont souvent imposées. La sociologue Payal Arora l’explique particulièrement bien dans son ouvrage The Next Billion Users, digital life beyond the west en prenant comme exemple le fiasco de l’opération « One laptop per child » en Inde.

Enfin, les conséquences négatives de la tech ressemblent de près à ce que produit la colonisation. Les pauvres, les noirs, les indigènes et les prisonniers sont les premiers à souffrir des systèmes de surveillance, des biais algorithmiques, de la police prédictive, etc. Cela a été bien documenté par  Virginia Eubanks  dans Automating inequality how high-tech tools profile police and punish the poor ou encore Cathy O’Neil avec Weapons of Math destruction. Sareeta Amrute ponctue : « avec ces preuves, il semble clair que oui, les relations entre les industries technologiques et les populations en manque de pouvoir – les femmes, les populations du sud, les noirs, les indigènes, les latinos en Amérique du Nord, les immigrants en Europe, est d’ordre colonial ».

Que faire ?

Que faire ? Demande la chercheuse. Pas de solutions miracles, mais un faisceau de propositions qui méritent qu’on s’y arrête. Dans le contexte de sa conférence, elle incite à creuser les travaux de ses pairs, notamment de ceux qui dépassent les traditionnelles analyses occidentalo-centrées, blanches et masculines, qui tendent à renforcer le colonialisme numérique. Elle appelle également à la « radicalisation et à la politisation de l’éthique ». Pour s’expliquer, la chercheuse mentionne le livre Chasing innovation, de Lilly Irani, qui raconte l’histoire suivante : une équipe de designers est chargée de concevoir un nouveau filtre à eau en Inde, et réalise que les niveaux de fluor sont très (trop) élevés, mais persiste tout de même à fabriquer le filtre plutôt que d’interroger la pollution chimique due aux industries locales. Or c’est bien cet à-côté, cette « marge » qui devrait faire l’objet de questionnement, et l’éthique n’y encourage pas. Pour Amrute : l’éthique ne peut plus être une série de règles, une couverture ou une façon de se dédouaner. L’éthique doit venir de la pression collective, doit cranter sur une critique qui prend place dans les entreprises, dans les discours et dans les corps. L’éthique doit vivre, mener à l’action, être répétée encore et encore afin de répondre aux vraies questions que pose la technologie : « qui décide ? Qui participe ? Quoi doit se lancer dans la contestation, l’essence même du politique ? ». A ce titre, il est essentiel selon elle d’apprendre à pratiquer le refus, comme l’inspire la thématique « When Not to Design AI » développée lors du salon EPIC 2020, ou les protestations de nombreux cadres et travailleurs de la Silicon Valley (le fameux Techlash).

Cette saine radicalisation que la chercheuse appelle de ses vœux existe déjà. De nombreux mouvements agissent et critiquent ce colonialisme technologique. Ils sont basés sur des principes coopératifs et démocratiques. C’est le cas de Sassafras, une coopérative de travailleurs de la tech à Detroit, où Coopersystem au Brésil, ou encore la Tech worker coalition qui participe à l’organisation des solidarités entre cols blancs et cols bleus dans l’univers de la tech, des Etats-Unis à Bengalore. Dans un autre style, Sareeta Amrutes mentionne d4bl.org (data for black lives), un groupe de data scientists qui utilisent les données de façon à aider les communautés noires (« Data as protest. Data as accountability. Data as collective action. »)

Nuances

L’analogie coloniale de « la tech » peut probablement se discuter. Notamment parce que « la tech » que dissèque ici Sareeta Amrute pointe l’hégémonie des GAFAS, l’idéologie impérialiste de la Silicon Valley – qui irradie par-delà ses frontières – plus qu’elle ne désigne à part entière « la » technologie, qu’on gagnerait d’ailleurs à définir plus précisément. Comme elle le précise dans une interview, l’usage de la formule « décoloniser la tech » a aussi été une manière de changer de perspective, de donner à voir des réalités humaines, communautaires et environnementales différentes. Nous pourrions également noter que ce qui s’applique au numérique, à la « tech », s’applique tout aussi bien à d’autres secteurs. Le textile, l’alimentation, etc. L’intervention de Sareeta Amrute nous montre donc que désormais, l’industrie technologique ne peut plus prétendre qu’elle est « à part » du reste. C’est une industrie comme une autre. On sait dorénavant que le « cloud » n’est pas un nuage, et qu’il n’y a rien d’intelligent dans l’intelligence artificielle.

On pourra toujours trouver des poux à ce « colonialisme technologique ». Tout comme on peut constater que persiste une forme de relativisme moral à l’égard du processus colonial. C’est la rhétorique du « rôle positif » de la colonisation, qui met en balance d’un côté ses prétendus bienfaits, de l’autre les vols, les viols, la torture et la domination qui la caractérise. Ainsi dira-t-on qu’un peuple colonisé a certes souffert mais que le jeu en valait bien la chandelle car, laissé à lui-même, il n’aurait pas trouvé les moyens de se développer (selon les critères de développement du vainqueur, ce qui fait pencher cet argument vers ce qu’il y a de plus ignoble dans l’universalisme). De façon analogue, on peut aussi prétexter que Google (et les autres) nous apportent un certain nombre de bienfaits. Que « la » technologie, (par exemple les smartphones, ou encore Uber), sont bien pratiques pour communiquer, pour se déplacer ou pour apprendre, et ce malgré l’extractivisme et l’exploitation qu’ils impliquent. A cet endroit, mon amie philosophe Léna Dormeau me fait remarquer que la comparaison entre les deux processus (colonialisme et colonialisme technologique) appelle une nuance. En effet, si la colonisation suppose la violence, et un rapport de force physique entre des individus pour exercer le pouvoir (le « nécropolitique » selon Achille Mbembe), ce n’est pas exactement le cas avec le colonialisme technologique. S’il reste bien sûr une dimension postcoloniale à la division du travail qui rend possible le développement technique (travail dans les mines, recyclage « à ciel ouvert », etc.), l’extractivisme des données par exemple, et l’adhésion à ce monopole d’usages qui nous est imposé repose aussi sur une forme d’auto-aliénation qui ne saurait être comparée à la domination coloniale des corps. C’est caractéristique avec l’histoire des chauffeurs Uber, dont la Cour de cassation a récemment requalifié les contrats en contrats de travail : on entend dire ici et là que cette décision est mauvaise car « l’entreprise les fait vivre ». Peut-être qu’un certain nombre d’entre eux (pas ceux qui ont demandé la requalification des contrats, bien sûr) en sont eux-mêmes convaincus. Mais colonial n’est pas le bon terme pour désigner ce processus qui agit comme une intériorisation des contraintes et des impératifs de la compétition. Il serait plus juste de dire que le colonialisme se poursuit, mais sous de nouvelles modalités produites par son extension néolibérale. Notre supposée addiction à certains services numériques (ou je dirais : notre impossibilité de nous en passer sans un certain effort ou avec certains risques) est aussi en partie de notre fait : nous avons une « part de responsabilité », ce qu’on ne peut pas dire d’un peuple colonisé. Pour paraphraser Arthur de Grave, nous parlons ici d’un individu qui n’a besoin de personne d’autre que lui-même pour s’exploiter.

Quoiqu’il en soit, je trouve l’intervention de Sareeta Amrute sacrément rafraichissante. Elle nous incite à nous réveiller. A muscler notre jeu. A sortir des rapports convenus, des listes de préceptes « éthiques » bourrées de bonnes intentions, mais déliées des luttes de terrain. Il est également intéressant que le mot colonisation soit utilisé de cette manière. Ces dernières années nous ont habitués à le recevoir comme une injonction à se défendre contre les géants du numérique en adoptant peu ou prou les mêmes stratégies qu’eux. C’est le discours que tenait Laurent Alexandre au sénat en 2017, où il expliquait que nous allions devenir une « colonie numérique » des GAFAS. Seulement, on ne lutte pas contre le colonialisme en étant colonialiste soi-même, ou en adhérant aux mêmes paradigmes (extractivisme, exploitation, etc.), mais en faisant exactement l’inverse !

Dernier point sur lequel la chercheuse insiste, et qui me paraît d’une importance cruciale aujourd’hui : la critique des technologies (et notamment la vague éthique en plein boum – ou peut-être est-ce une bulle), s’arrête systématiquement aux « effets pervers » de l’automatisation. Comme le rappelle l’anthropologue, cette approche produit deux effets 1) elle réduit à néant le rôle des pays du sud dans la conception des technologies (et notamment le digital labor). Je le répète souvent : il n’y aura pas d’IA éthique tant que toute la chaîne de production de l’intelligence artificielle ne sera pas éthique elle-même ! Et 2) cette approche ne démord pas de la conception positiviste de la technologie qui demeurerait par principe souhaitable, une fois « débarrassée de ses biais ». Comme l’explique parfaitement Amrute : « la focalisation sur les biais nourrit le solutionnisme technologique ! »

Sareeta Amrute est directrice de recherche à Data & Society et professeure associée en anthropologie à l’Université de Wasington. Elle a écrit Encoding Race, Encoding Class en 2016.

Irénée Régnauld (@maisouvaleweb), pour lire mon livre c’est par là, et pour me soutenir, par ici.