Du danger d’un monopole de la technocritique

« Pourquoi importe-t-il de savoir qui sont les critiques de la technologie les plus visibles ? » demande-t-on sur le blog LibrarianShipwreck. L’auteur ne fait pas de mystère sur la réponse : c’est important car les technocritiques les plus en vogue sont ceux qui sont écoutés, y compris par le Sénat américain. C’est le cas de Tristan Harris, ex-salarié de Google, désormais repenti et figure centrale du documentaire The social dilemma, sur Netflix. Le 27 avril dernier, il était auditionné par les membres le sous-comité « vie privée » du Sénat, lors d’une session intitulée « Algorithms and Amplification: How Social Media Platforms’ Design Choices Shape Our Discourse and Our Minds ». Pour l’auteur du blog LibrarianShipwreck, la contribution critique de Harris au débat public sur la tech est au mieux convenue, au pire au service des entreprises du secteur, qu’elle prétend pourtant combattre. 

Tristan Harris, caution critique ?

L’audition du Sénat rassemble plusieurs personnes issues des grandes compagnies technologiques américaines : Monika Bickert (Facebook), Lauren Culbertson (Twitter) et Alexandra Veitch (YouTube – qui appartient à Google). Tristan Harris s’y ajoute et fait office de dissident. Il a notamment créé le « Center for Humane technology », (organisation à travers laquelle il tente de défendre une technologie « plus humaine »), et rappelle dans son introduction qu’il est un ancien de Google, qu’il compte parmi ses amis les fondateurs d’Instagram, et qu’il est la guest-star du documentaire The social dilemma.

Alors que les représentants des Big tech expliquent qu’ils mettent tout en œuvre pour résoudre les problèmes dont ils sont les causes (diffusion de fake news, manipulation politique, surveillance, etc.), Harris intervient pour leur reprocher de ne pas en faire assez. Il faut à cet égard convenir qu’il vise juste par moment, quand il affirme que les entreprises de la tech ont tout intérêt à nous rendre accrocs à leurs produits, à jouer sur nos colères et nos polarisations pour créer de la viralité… En somme : leurs modèles d’affaires basés sur la publicité sont défaillants et nuisent à la qualité du débat public, et donc à la démocratie. Le dissident résume : « les médias sociaux sont à l’Etat-nation ce que le canon est au château fort. »

Le blog LibrarianShipwreck n’y va pas par quatre chemin : derrière cette critique apparemment juste qu’Harris illustre, il n’y a rien de fondamentalement dangereux pour les Big tech. Harris incarne en fait la critique la plus simple à gérer pour ces entreprises. Parmi les trois arguments qu’il répète dans son intervention, le premier (les modèles d’affaires publicitaires) est valable, mais les deux suivants sont problématiques. Le premier argument problématique consiste à répéter que le modèle technologique chinois est « orwellien » (en référence au roman 1984, de Georges Orwell), et que son expansion est inquiétante (contrôle, censure, etc.) – le modèle états-unien serait quant à lui « Huxleyen » (conforme au roman Le meilleur des mondes, d’Aldous Huxley), et basé sur le divertissement, la distraction ou la colère. Le second argument problématique consiste à dire que les Big tech ne sont « pas mal attentionnées ». Leurs salariés non plus. Leurs patrons non plus. Au contraire, leurs objectifs sont bons (améliorer la communication entre les humains), mais ces entreprises sont victimes de leurs modèles d’affaires.

Ces deux derniers arguments utilisés par Tristan Harris vont au final anéantir son propos critique, explique LibrarianShipwreck.

La Chine, nouveau péril jaune

Depuis quelques années maintenant, les Big tech sont sous un feu nourri de critiques qu’elles doivent gérer. Une des stratégies employées pour y résister consiste à détourner l’attention vers la Chine. Epouvantail, repoussoir, la Chine et son modèle de surveillance sont utilisés pour relativiser les abus technologiques de l’Occident. Pour LibrarianShipwreck, Tristan Harris est complice de cette diversion « techno-nationaliste ». S’il a la bienséance de ne pas écrire directement que les technologies occidentales sont bonnes comparées aux technologies chinoises, il laisse clairement entendre que les technologies occidentales sont « améliorables », et les technologies chinoises mauvaises.

Pour LibrarianShipwreck, Harris s’enlise dans une pensée sinophobe qui a des précédents dans l’histoire des idées. Pendant l’entre deux guerre par Oswald Spengler et Ernst Jünger écrivirent sur la technologie et convinrent du fait que celle-ci pouvait être domestiquée, à condition qu’elle le fut par les sociétés occidentales. Ces thèses, très présentes dans le débat public, y compris en France, gravitent autour d’une sinophobie réactualisée (un nouveau péril jaune, cette peur historique de « l’ennemi asiatique ») matinée de théorie du choc des civilisations. Tristan Harris entretient dans son intervention cette peur d’une Chine « qui s’éveille », et de son modèle technologique, l’exemple à ne pas suivre.

Bien sûr, l’idée n’est pas d’affirmer que le modèle technologique chinois est souhaitable. Mais bien de comprendre à quoi sert cette diversion, sinon à tempérer les critiques qui reposent sur les technologies occidentales. Les Big tech ne sont pas en reste en terme de surveillance et, de ce point de vue, la double référence à d’un côté des technologies orwelliennes, de l’autre des technologies huxleyennes, n’a pas de sens. En effet, cette mise en face à face de deux modèles, l’un opérant sur le mode de la contrainte, l’autre reposant sur le divertissement, omet de préciser que les deux systèmes reposent bel et bien sur la contrainte (et l’on serait tenté d’ajouter, également sur le divertissement).

« Nous ne sommes pas mal intentionnés »

Dans le documentaire The social dilemma, et devant les sénateurs, Tristan Harris (et ses collègues « repentis », comme Chamath Palihapitiya, Facebook) n’ont de cesse de répéter que les entreprises technologiques sont dans l’erreur, mais qu’elles « n’étaient pas mal intentionnées ». Citons Harris, lors de son intervention devant le Sénat américain : « aucune des personnes présentes aujourd’hui ne créée de tort intentionnellement. Je ne crois pas non plus que les entreprises qui ont créé ces systèmes ont eu l’intention de produire aucune forme de violence » ou encore « cela n’est pas dû au fait que ces gens sont méchants ».

En créant ce monde où rien n’est blanc ni noir, et tout passablement gris, Harris produit l’effet suivant : il couvre les Big tech. Il les déclare innocentes, au moment même où tout tend à les désigner coupable, au moment même où elles ne peuvent plus dire « don’t be evil » (ancien slogan de Google, remplacé par « do the right thing », l’histoire jugera de la vacuité de ces formules). L’auteur du blog LibrarianShipwreck n’y va pas de main morte : « dès que les représentants des big tech vacillent, Harris est là pour rappeler aux sénateurs que ces entreprises ne sont pas mauvaises, et que les gens qui y travaillent non plus. » Or c’est justement que dont ces entreprises ont besoin pour reconquérir la confiance perdue ces dernières années. Il faut quelqu’un pour rappeler qu’elles ne sont pas le camp du mal. Et ce quelqu’un ne peut plus être Mark Zuckerberg, mais si c’est un ténor de la critique des technologies, qui en plus est au centre d’un documentaire Netflix, alors ça passe.

De même, la focalisation de la critique sur un élément extérieur au management, à savoir les modèles d’affaires – entités abstraites s’il en est, participe de ce blanchiment. L’auteur du blog LibrarianShipwreck écrit : « C’est bien pourquoi Harris consacre tant de temps à critiquer les modèles d’affaires dans lesquels ces entreprises sont piégées. Parler ainsi des business modèles laisse entendre que ces entreprises (et leurs employées), sont victimes de ces modèles d’affaires, démunies et bien incapables de les faire changer ». Et l’auteur d’ajouter : « les entreprises technologiques ne méritent plus qu’on leur accorde le bénéfice du doute. On ne peut plus partir du principe qu’elles ne sont pas mal intentionnées, quand tout tend à montrer l’inverse. » Autrement dit, il convient de retirer nos œillères : nous sommes face à des entreprises qui ont les moyens de changer leurs pratiques et qui choisissent de ne pas le faire.

Une technologie « plus humaine » n’y changera strictement rien

Enfin, rappelle l’auteur du blog LibrarianShipwreck, il convient de s’interroger sur la pertinence des « solutions » proposées par le Center for Humane technology (né en 2018), et plus généralement par les personnes issues des rangs des big tech. Les critiques à leur encontre ont, et depuis le début, été nombreuses, pointant ici leur incapacité à représenter les personnes réellement victimes de technologies pensées à huis-clos, là l’indigence d’une proposition consistant à « remettre de l’humain dans la technologie ».

Notons que des technologies alternatives ont été nommées de mille manières depuis des décennies : on parle de démocratie technique, de technologies appropriées, conviviales, etc. Chacun de ces termes recouvrant une réalité intellectuelle, politique et matérielle spécifique. Qu’est-ce qu’une technologie « humaine » au juste, sinon une proposition vide ? Qui peut donner une définition unanimement partagée de ce qu’est un « humain » ?

Aussi, demande le blog LibrarianShipwreck, une « technologie plus humaine », serait-ce un application qui serait 25% moins intrusive, ou qui nous mettrait en colère seulement 50% du temps ? Et de poursuivre : « Une technologie « humaine » ne signifie pas qu’elle est plus humaine pour les gens qui minent le coltan et le lithium, ni pour ceux qui assemblent les gadgets dans des usines, et ceux qui vivent près des décharges de matériel électroniques. La technologie « humaine » est juste une tentative de sauver la mise aux big tech, en rendant les utilisateurs de Facebook un peu moins accrocs, en fournissant aux médias des figures telles que Harris, prêtes à l’emploi, déversant une flot de parole qui s’apparente à une critique, mais qui en réalité est conforme aux attentes de la Silicon valley. » En effet, affirmer devant le sénat américain que les cadres de Facebook savent parfaitement ce qu’ils font, et que par conséquent l’entreprise doit être démantelée immédiatement n’a rien à voir avec le fait de dire que Facebook et ses salariés ne sont pas mal intentionnés, et qu’ils pourraient se réformer, par exemple en envoyant moins de notifications et en arrêtant de recommander des contenus conspirationnistes.

Cette critique fait écho à un récent texte d’Evgeny Morozov sur Le Monde Diplomatique, Un autre monde numérique est possible, qui n’hésite pas à afficher son scepticisme à propos des pseudo-solutions proposées par les Big tech pour contrer les fake news, ou l’addiction au numérique : « Ces questions, les plates-formes numériques tenteront de les résoudre en rajoutant une couche de ce que j’appelle le « solutionnisme ». Comprendre : le recours aux dernières technologies afin d’offrir aux utilisateurs une expérience sûre, sur-mesure, tout à fait maîtrisée… ». Dans ce même texte, Morozov invite à ne plus être dupes, et à se demander « qui est autorisé à innover, et sous quelles conditions, dans le système actuel. » Une question qu’Harris, de toute évidence, ne pose jamais.

La technocritique acceptable, dangereuse Fenêtre d’Overton

Pour terminer, il convient également de rappeler le danger qui réside dans le fait qu’un certain type d’individus soit propulsé au rang de critique « officielle » de la technologie. C’est la position qu’occupe Tristan Harris aujourd’hui, et c’est lui qui rappelle à quel point il faut se méfier de la Chine, et à quel point les Big tech ne sont pas mal intentionnées.

Or, cette officialisation et cette reconnaissance fonctionnent comme une fenêtre d’Overton. Si la critique de Harris devient acceptable, alors tous ceux qui se font plus radicaux, ou critiques à son égard, prennent le risque d’être taxés de luddites, et accusés de vouloir retourner vivre dans une grotte.

Difficile de conclure sur les luttes intestines qui animent les critiques des technologies. Nous retrouverions probablement les mêmes dissensions en France. Il faudrait y ajouter les questions morales, le refus ou l’acceptation de l’industrialisme comme mode d’existence et de production / consommation. Bref, il y a peu de chances pour que sur le fond, tous les petits mouvements qui pullulent dans ce monde se mettent d’accord. Nous pourrions a minima convenir de deux petits principes communs. D’abord, garder une distance de sécurité avec les entreprises technologiques. Si sur le principe, nous pouvons toujours y trouver des alliés, la pratique montre que ces alliances sont rarement gagnantes pour les plus petits. Ensuite, se méfier des gourous, et ce quelle que soit leur nature : politiques, intellectuels, etc. Encore plus quand ceux-ci se retrouvent, du jour au lendemain, adoubés par les systèmes qu’ils prétendent combattre.

Irénée Régnauld (@maisouvaleweb), 
Pour lire mon livre c’est par là, et pour me soutenir, par ici.