Techlash : et si le retour de bâton de la « tech » était l’occasion de formuler un projet de société en matière technologique ?

Le « Techlash » n’épargne plus aucune entreprise technologique aux Etats-Unis. Forgée par The Economist, la formule désigne le « retour de bâton » qui vise les géants du numérique dont les déboires sont désormais quotidiens. Scandales à répétition, revendications de la part des salariés, mouvements citoyens et de consommateurs, fronde des Etats : le monde de la « tech » est attaqué sur tous les fronts mais poursuit son irrésistible ascension financière. Pris un à un, les retentissements du techlash font le buzz, mais ce qui couve est plus profond et appelle à une meilleure prise en compte des aspirations de la société dans les modes de conception des technologies.

Un article repris sur Usbek & Rica.

Généralités sur les scandales technologiques

Il y a quelques années encore, l’évasion fiscale était la seule petite tâche au tableau idyllique de la Silicon Valley : un modèle de développement exemplaire capable d’envoyer des étoiles dans les yeux des business men du monde entier. Puis il y eut les affaires : fuites de données personnelles, fake news, petits et gros scandales managériaux, abus de position dominante. A l’intérieur comme à l’extérieur, on déchante : Google, Amazon, Facebook et Apple ne sont pas juste des entreprises du numérique mais de vastes projets politiques. Depuis cinq, six, voire sept ans, les GAFAS sont sous le feu de nombreuses critiques, et ce n’est pas juste une question d’argent.

Un tour d’horizon complet serait plutôt fastidieux, optons pour le survol. Si l’on devait commencer quelque part, ce serait probablement en 2013, quand des habitants de la baie de San Francisco décident de caillasser les navettes des salariés d’Apple et de Google, accusés de contribuer à la gentrification du lieu et d’utiliser les arrêts de bus sans contrepartie financière. Les loyers explosent, les inégalités aussi. Sur les panneaux des activistes on peut lire « Get the fuck out of Oakland ». Il faudra encore quelques années supplémentaires et le travail de la photographe Mary Beth Meehan pour que l’on mette des visages sur ces gens qui, pas si loin du CES de Las Vegas, vivent dans des caravanes.

Puis viennent les scandales auxquels nous sommes désormais habitués, pêle-mêle : l’affaire Snowden, le feuilleton de la NSA, puis les déconvenues de Facebook qui se fait prendre tous les quatre matins la main dans le pot de confiture (Cambridge Analytica, les fuites de données incessantes et plus récemment, les conditions de travail des modérateurs). On connaît la suite, Mark Zuckerberg est « invité » à venir s’expliquer devant le Congrès américain, puis devant d’autres parlements ailleurs dans le monde. Il s’excuse, encore et encore, quatorze ans d’excuses qu’on ne compte plus non plus (enfin, en fait si). Il y a deux ans, le Golden boy s’imaginait bien à la maison blanche, et il n’était pas le seul. En 2019, on célèbre sur Twitter la « journée sans Facebook », un autre délire. Mark Zuckerberg a récemment annoncé un recentrage de Facebook autour des conversations privées – affaire à suivre donc. Il va sans dire que le géant de Palo Alto n’est pas la seule passoire à données personnelles (c’est aussi le cas de Linkedin, Snapchat, Tik Tok – attention, c’est Chinois). Si avec tout cela, un de vos mots de passe n’est pas dans la nature, c’est que vous habitez dans une grotte.

Salariés de la tech en colère

Cette première phase de désillusion a fait boule neige. Après une longue période d’aveuglement (d’illumination ?), les salariés de la tech réalisent qu’eux aussi, sont des humains après tout (ou en tout cas des travailleurs – Wired titrait alors « The year tech workers realized they were workers »). Prenons comme point de départ 2017, quand 500 employés de Google exigent dans une lettre ouverte que le géant du numérique abandonne un projet de moteur de recherche à destination de la Chine, « Dragonfly » qui censurerait le contenu suivant les désidératas du régime (le projet aurait été abandonné, mais finalement le doute plane encore, selon ce que rapporte The Intercept).

En 2018, c’est la débâcle, des milliers de salariés de Google s’insurgent contre le Project Maven, un contrat avec le Pentagone pour doter les très controversés drones américains d’intelligences artificielles afin d’optimiser les frappes. Google se retire du contrat quelques mois plus tard, sous la pression, mais aux dernières nouvelles, ce retrait n’est pas réellement consommé. En 2018 toujours, Microsoft et Salesforce sont vivement critiqués depuis l’intérieur, pour un contrat du même style avec ICE, l’agence qui sépare les enfants de leurs parents à la frontière mexicaine (la startup Clarifai est également impliquée, et les salariés ont signé une lettre ouverte ici). Chez Amazon, c’est contre la reconnaissance faciale mise au service de la police que les salariés font front, dans une lettre ouverte à Jeff Bezos, ils vont jusqu’à rappeler qu’IBM fournissait des ordinateurs aux Nazi avant de réaliser que « c’était trop tard ».

La même année, d’autres salariés de Google, Facebook, eBay et Airbnb dénoncent le sexisme qui sévit dans ces sociétés, parmi leurs revendications : « la fin de l’inégalité des salaires et des chances, un rapport de transparence sur le harcèlement sexuel et un dispositif « clair, uniforme et inclusif » pour signaler les cas de harcèlement sexuel « de façon sécurisée et anonyme », rapporte le journal Le Monde. Mais c’est là une digression, revenons à la guerre avec les salariés de Microsoft (plus précisément, le groupe Microsoft Workers for Good @MsWorkers4) qui, dans une nouvelle lettre ouverte (décidemment !) dénonce un contrat avec le Pentagone où il est question de doter l’armée de 100 000 casques de réalité augmentée « Hololens ». Les salariés expliquent : « nous n’avons pas signé pour concevoir des armes », et demandent entre autre chose, qu’une autorité indépendante valide ou non ce genre de projet. Pour le moment, la direction de Microsoft n’a pas changé sa doctrine.

Citoyens en colère contre la tech

Chez les citoyens, la mobilisation est plurielle. Il y a bien sûr, les millions – milliards – de clients quotidiens de ces géants numériques, que nous sommes tous, avec les avantages que cela nous rapporte, et les risques que nous apprenons à connaître : surveillance et censure au premier plan. Entre les deux, un écart presque infranchissable, les usages étant verrouillés par des positions monopolistiques. « Il est impossible de s’échapper », écrit Farhad Manjoo dans le New York Times, pendant que Kashmir Hill explique sur Gizmodo que quitter les GAFA, « c’est l’enfer ». Bref, il y a un problème de fond, mais qui à ce stade de la conversation, peine encore à mobiliser, surtout dans l’hexagone. Après tout, Facebook n’y tue personne, n’a pas encore contribué à faire élire le Trump français – suivez mon regard – et permet tout de même à des groupes sociaux de se constituer, ce qui en fait un outil tout à fait ambivalent.

Du côté des pouvoirs publics, c’est la schizophrénie, Dr Jekyll vante la souveraineté numérique pendant que mister Hyde signe des contrats en toute décomplexion : Microsoft avec l’Education Nationale et Facebook avec Pôle Emploi pendant que Google traîne ses basques dans les Universités alors que Palantir infiltre la DGSE. Ne soyons pas mesquins, l’Etat fournit également une liste d’initiatives libres (à retrouver ici) ainsi qu’un .pdf en ligne, seul problème : ces deux formats font saigner les yeux. On peut certes, arguer du fait que le moteur de recherche Qwant parvient à s’immiscer ici et là, mais ces signaux contradictoires ne disent qu’une seule chose : l’Etat n’a absolument aucune stratégie industrielle en matière numérique (ni en ce qui concerne les acteurs des télécommunications). Ce qui n’est en rien étonnant étant donné le carcan idéologique en vigueur qui stipule que toute dépense publique est par nature suspecte.

Un extrait de la liste des logiciels libres que le gouvernement nous invite à compléter – merci la startup nation

On peut s’étonner du fait que les français n’aient pas encore battu le pavé ni crié au scandale devant cette incontestable faillite du politique qui, incapable de produire, soutenir ou valoriser des initiatives locales existantes, laisse les clés à l’Oncle Sam. Mais c’est bien connu, les français sont toujours à la traîne. A New-York par exemple, Amazon s’est récemment fait débouter par des habitants réunis en un collectif « For us, not Amazon » qui se demande bien pourquoi on subventionnerait l’installation d’une société où les syndicats sont mal vus, les salariés traités comme du bétail et qui, par dessus le marché gentrifiera le quartier, pour Slate, ce combat peut servir de modèle pour d’autres à venir. A Berlin, le quartier de Kreuzberg a avancé à peu près les mêmes arguments pour repousser l’entrée du géant Google qui voulait y construire un incubateur de startups. Sous la pression de l’association de riverains réunie sous le slogan « Fuck off Google » (https://fuckoffgoogle.de/ et voir aussi les café « anti-Google »), la société a décidé de ne pas poursuivre ce projet (à noter que des initiatives similaires mais plus discrètes ont eu lieu en France, notamment à Rennes, suite à l’arrivée des « ateliers numériques » de Google – une initiative promue par le directeur général de Google France directement depuis le compte Twitter de l’Elysée !). A Toronto, les habitants se mobilisent contre le projet Quayside, dirigé par Sidewalk Labs, une division d’Alphabet (Google) qui propose un réaménagement du front de mer. Un projet Smart-city à haut potentiel, mais dont les ressorts en terme de captation des données personnelles sont encore flous, comme l’explique The Intercept (le hashtag #BlockSidewalk permet de suivre le mouvement sur Twitter).

Hérétiques de la tech

Revenons un instant à l’intérieur des entreprises où semble-t-il, les lettres ouvertes ne sont pas la seule pratique en vigueur. La première pierre a probablement été posée par Antonio Garcia Martinez avec son livre « Chaos Monkey », un must-read qui dévoile l’envers du décor de la Silicon Valley, notamment chez Facebook. Puis c’est la débandade, un flot d’ingénieurs gérant mal leurs états d’âme font leur coming-out. Justin Rosenstein (@rosenstein), l’inventeur du bouton « Like » dit regretter les effets de cette « clochette de pseudo-plaisir », il compare même Snapchat à de l’héroïne. James Williams (@WilliamsJames_) et Tristan Harris (@tristanharris) eux, montent leur label « Time Well Spent » et dénoncent les modèles d’affaires qui se basent sur la captation de l’attention des utilisateurs, après avoir passé des années à les mettre en place. Sean Parker (@sparker), l’ancien président de Facebook reconnait quant à lui que le réseau social a été construit dans le but « d’exploiter les vulnérabilités de l’être humain ». Chamath Palihapitiya (@chamath), un ancien cadre de Facebook, dénonce « cette merde » qu’est le réseau social et ses systèmes addictifs. Enfin, Loren Brichter (@lorenb) qui a inventé le « pull to refresh », ce geste qui permet d’actualiser le contenu d’une page mobile en glissant le doigt de haut en bas sur l’écran, déclare essayer de se désintoxiquer. Le chercheur français Olivier Ertzcheid met ces rebellions sur le compte de « la crise de la quarantaine » : les jeunes loup de la tech ont grandi et leurs préoccupations avec. De quoi corroborer le témoignage de Loren Britcher à The Guardian : « J’ai deux enfants et je regrette à chaque instant de ne pas prendre assez soin d’eux parce que je suis absorbé par mon smartphone. »

Chamath Palihapitiya « s’interroge désormais sur les conséquences sociales et psychologiques du réseau social » (à lire sur francetvinfo)

Organisations pour une meilleure politisation de la tech

Comprenons bien que ces mouvements ne sont pas isolés : ils s’entremêlent. Les salariés sont des citoyens, parfois politisés, et ils lisent aussi les journaux. Quand ils s’insurgent, ils se regroupent et cela donne lieu à une multitude d’initiatives. Du côté du design par exemple, Tristan Harris a monté le désormais célèbre Center for humane technology (@HumaneTech_) qui s’est donné pour mission de « renverser la crise attentionnelle et de réaligner la technologie avec les intérêts de l’humanité ». Dans la série des mouvements plus politisés, on retrouve Techsolidarity (@TechSolidarity), fondé en 2016 par Maciej Ceglowski (@baconmeteor) qui organise des événements un peu partout aux Etats-Unis et soutient même des candidats démocrates pour « rendre la technologie comptable ». Plus radicale, la « Tech Workers Coalition » ou TWC (@techworkersco) regroupe des centaines de salariés de la « tech », à San Francisco, Seattle et San Jose. Ce mouvement né dans une cafétéria assume sa référence au travail, un mot vite passé à la trappe du supposé « cool » de la Silicon Valley. En réalité, les ingénieurs sont aussi des travailleurs et pour la Tech Coalition, les travailleurs sont les mieux indiqués pour lutter contre les projets impérialistes de la Silicon Valley (le mouvement a également compilé un certain nombre de lettres ouvertes des salariés à leurs dirigeants – voir également hashtag #TechWontBuildIt sur Twitter). Dans le même style, on trouve le groupe The Action à New York (@NYCDSATechWG), qui développe « une perspective socialiste sur la technologie et la société » (le site vaut vraiment le détour), le mouvement a également été à l’origine de l’initiative « The internet we want » fin 2017 (qui fait écho au projet « Reset » de l’association française la FING qui s’est illustrée récemment avec une tribune au journal Le Monde au titre évocateur : « Il est temps de décrire le numérique que nous voulons »).

Le site https://techaction.nyc/

Enfin, le groupe « Fight for the Future » (@fightfortheftr) est une organisation à but non lucratif qui a lancé récemment une campagne pour encourager les lanceurs d’alerte à dévoiler les pratiques non-éthiques de leurs employeurs. Sur la plateforme SpeakOut.tech, une vidéo qui explique en substance : « Si vous travaillez dans la technologie, vous avez un pouvoir incroyable, vous avez le pouvoir de créer de nouveaux possibles, vous avez le pouvoir d’innover et de rendre nos vies meilleures. Mais la technologie peut aussi causer d’incroyables dommages. Si l’entreprise pour laquelle n’est pas à la hauteur de cette mission, vous avez le pouvoir de le dire haut et fort. Vous pouvez faire ce qui est juste, on vous soutient. Rendez-vous sur SpeakOut.tech. » La France n’est pas en reste, même si cela reste plus discret, le Collectif des livreurs autonomes de Paris (CLAP) se bat depuis longtemps pour les droits des travailleurs des plateformes et de nombreuses associations ici et là tirent les bretelles des géants du numérique, à la hauteur de leurs maigres moyens.

Les scandales n’excluent pas les profits 

Prenons maintenant un peu de hauteur, les géants de la « tech » ont rejoint le bastion des multinationales comme Monsanto ou Total, dont le métier consiste aussi à savoir passer sous les fourches caudines des populations qui s’indignent de leurs pratiques. Cela n’empêche pas leurs profits d’exploser. Le dernier trimestre de Facebook est très positif, avec 2,32 milliards d’utilisateurs actifs (+9% sur une année) et les bénéfices ont augmenté de 61% pour atteindre les 6,9 milliards de dollars fin 2018, rapporte le New York Times. On signale toutefois que les utilisateurs de Facebook fuient la plateforme (aux Etats-Unis, en France), mais c’est loin d’être le cas au niveau mondial. Par ailleurs, le nombre d’utilisateurs d’Instagram, propriété de Facebook, augmente partout.

Amazon enregistre 51 milliards de chiffre d’affaires et 100 millions de membres sur Prime, même scénario Microsoft qui atteint les 30 milliards de profit, Apple culmine à 59 milliards. Des profits qui ne sont pas taxés, ou si peu, comme on le sait. Bref, tout ce petit monde se porte très, très bien. On lit parfois que l’avenir de ces entreprises résiderait dans leur réputation : si elles se comportent mal, alors le marché irait voir ailleurs. C’est factuellement faux, et surtout extrêmement naïf : un tel raisonnement fait fi des logiques monopolistiques qui rendent les utilisateurs captifs, du poids des lobbies qui arrosent les décideurs politiques (voir à ce sujet l’enquête de The Guardian), et du fonctionnement même de cette économie dans laquelle « le gagnant prend tout », ce qui empêche au passage l’émergence d’alternatives. Scoop : le marché ne s’auto-régule pas.

Des critiques qui ressemblent beaucoup à un grand débat de société

Les différents mouvements sociaux précités disent quelque chose de l’état de la population, sous toutes ses formes, face à la « tech ». La grande richesse des critiques forme une constellation de revendications qui reflète les inquiétudes et les ambitions de la société toute entière. Les résistances à petite échelle, celle d’un quartier ou d’une ville, côtoient les mouvements d’ampleur, au niveau d’un continent. Les raisons de s’indigner sont elles aussi, nombreuses : gentrification, urbanisme, conditions de travail, respect de l’attention de l’utilisateur, égalité homme-femme, confidentialité et vie privée, sans compter toutes les polémiques qui ressortent moins ici, comme la redevabilité des algorithmes ou plus simplement, l’inquiétude face à un monde qui s’accélère au contact de la technologie. En résumé : on demande de rendre des comptes, on demande plus de justice, plus d’égalité.

On retrouve cette même richesse quand on regarde les positionnements politiques : il y a la gauche certes, qui axe historiquement son combat sur la défense des droits des travailleurs ou de la richesse produite, mais on retrouve également des visions plus libérales, qui appellent à l’auto-régulation des entreprises et demandent même à ce que les citoyens puissent obtenir une rémunération en échange de leurs données personnelles. Du côté académique, sont mobilisées les sciences humaines et les sciences cognitives, notamment pour faire toute la lumière sur les effets des services basés sur la captation de l’attention des utilisateurs. Enfin, c’est aussi toute un questionnement à propos de la nature du « progrès » qui s’ouvre, avec en filigrane une réflexion de fond sur la nature philosophique des techniques : on rappelle de plus en plus et de mieux en mieux que le technologie n’est pas juste « ce qu’on en fait » : comme l’a rappelé Tristan Harris dans un Ted « la technologie n’est pas neutre ».

Une irrésistible envie d’être partie prenante du futur

Un autre point essentiel vaut d’être souligné : la nature des combats et des revendications. Nous retrouvons certes des mouvements de contestation (refus pur et simple d’une installation), mais aussi des demandes d’aménagement (quand par exemple, il est demandé aux sociétés qui s’implantent de participer à la vie sociale locale sans arrières pensées). Et bien sûr, des demandes de participation aux choix technologiques qui sont le plus souvent faits sans le concours des premiers concernés : les clients, qui sont aussi des citoyens. Cet entrelacement d’acteurs, de problématiques et de combats demande à revoir les modes de décisions qui sous-tendent les choix technologiques, et donc les institutions qui prévalent à ces choix. Ces combats ne sont rien d’autre que l’illustration d’une irrésistible aspiration à la démocratie qui traverse la société toute entière ! Les citoyens sont prêts, et il y a fort à parier que si cet élan est étouffé, il ressurgira par d’autres voies, encore et encore : la colère est un excellent medium de recrutement.

Le « Techlash » est en réalité une formidable opportunité d’ouvrir les systèmes et de faire entrer les citoyens dans la danse. En théorie c’est plutôt simple à comprendre : les technologies sont des structures sociales, elles modèlent la vie et il est donc normal et légitime que la société désire s’en saisir avec autre chose que la carte bleue. En pratique, des solutions existent, du côté des architectures, les débats sont vifs autour d’un web décentralisé, du côté des méthodes, il existe des choses comme « society in the loop » qui implique le citoyen dans la formulation des directions données aux nouvelles technologies – notamment l’intelligence artificielle. Question financement, c’est plutôt simple : mettre le paquet sur le logiciel libre (à ne pas confondre avec l’Open source !) et aider très concrètement la multitude d’associations qui le promeuvent est plus qu’une nécessité, c’est une opportunité. Enfin, la souveraineté mérite mieux que des affirmations objectivement mensongères : nous avons besoin d’un moratoire qui questionne véritablement l’entrée des GAFAS dans la vie publique ainsi que leurs liens avec les élus (certains l’ont bien compris). Nous ne devrions pas avoir à nourrir des acteurs qui sont déjà en position dominante.

---

NB : dans une tribune récente à The Guardian, Evgeny Morozov abordait le « Techlash » en décrivant deux courants critiques opposés, l’économisme et la technocratie. Le premier faisant par exemple prévaloir le droit de propriété des individus sur leurs données, et leur capacité à en faire commerce – une solution maintes fois critiquées – qui pour l’essayiste, ne remet fondamentalement pas en question le modèle technologique en vigueur. Les technocrates de leur côté, optent pour les lois antritrust afin de casser les GAFAS, un scénario séduisant mais politiquement vide, puisqu’il ne dit pas par quoi on pourrait les remplacer (NB : la question de frapper certaines entreprises comme Google ou Amazon des lois antitrust risque d’être clé dans les années à venir aux Etats-Unis). Par-delà de ces deux fractures, Morozov plébiscite, comme je le fais ici, une troisième voie : celle d’une démocratie beaucoup plus radicale, capable de redessiner nos institutions pour les rendre plus participatives et moins centralisées. Cette vision postule un citoyen actif, émancipé et capable de formuler des solutions à ses problèmes, de créer des services qui lui seront réellement utile, et qui ne ferme en aucune manière la porte aux entrepreneurs. Une vision utopique qui en laissera certains perplexes, ceux-là pourraient au moins laisser la place à un réel débat démocratique afin d’en discuter.

Irénée Régnauld (@maisouvaleweb), pour lire mon livre c’est par là, et pour me soutenir, par ici.