Les algorithmes contre la société

Dévoré ce week-end, le dernier essai du journaliste Hubert Guillaud, Les algorithmes contre la société, aux éditions La Fabrique (176 pages, 14 euros), est une réussite. Guillaud, qu’on l’on connaît bien pour avoir été le rédacteur en chef du site Internet Actu et désormais à la tête de l’indispensable site Dans les algorithmes (https://danslesalgorithmes.net/) dresse un panorama analytique des effets produits par certains systèmes (algorithmes, intelligences artificielles, etc.) quand ils sont déployés dans la sphère sociale (le service public notamment) mais également au sein des entreprises privées. 

Très sérieusement documenté, l’ouvrage est composé de cinq chapitres qui auscultent différents champs où le calcul a été imposé, avant tout pour des raisons idéologiques et dans l’idée de trier, discriminer dans des masses, le plus souvent non pas pour inclure mais bien pour exclure. C’est le cas à la CNAF, où la chasse aux fraudeurs a conduit à bâtir des algorithmes discriminants, et Guillaud de rappeler que « La surveillance des publics dont les revenus sont irréguliers est plus forte et fréquente que pour les autres. » (p. 48). C’est également le cas avec Parcoursup qui utilise des « critères absurdes qui passent pour objectifs et rationnels afin de maintenir la fable du mérite dans notre système scolaire » (p. 63). 

D’autres domaines souvent moins visibles sont concernés, comme le recrutement, où « l’astrologie de bureau » tourne à plein régime pour créer des distinctions artificielles aussi biaisées qu’inefficaces, ou encore la fixation des prix de nombreux produits qui fonctionnent sur la base d’une « tarification de la surveillance » (p. 108), tournant parfois carrément à l’arnaque. Guillaud est sans concession, « dans le monde du travail, le numérique ne produit aucun progrès social. » (p. 90).

Outre son aspect didactique, le livre d’Hubert parvient surtout à allier synthèse et exhaustivité. Beaucoup de sujets sont traités et surtout, le mythe d’un numérique capable de fluidifier la société est proprement déconstruit. S’il y a bien un danger qui pointe, c’est la convergence d’un projet numérique discriminant et des projets politiques d’extrême droite qui n’attendent que de pouvoir utiliser ces systèmes déjà largement conçus en conformité avec leurs idéaux. C’est dans la granularité des systèmes que réside le danger fasciste plus que dans les quelques figures qui monopolisent l’espace médiatique. Rappelons-le : ces systèmes ne fonctionnent pas, pour la simple et bonne raison que leur objectif est ailleurs : exclure les plus pauvres, reproduire les hiérarchies existantes, camoufler ces décisions politiques sous une apparente neutralité.

Grand avantage du livre : sa partie finale axée sur les contre-propositions. Calculer autrement est possible, si l’on se décide d’ouvrir aux citoyens les arènes décisionnaires où ces systèmes sont bâtis : « pas de calcul sans accès. Pas de calcul du social sans accès social à ce calcul. » (p. 145) Je ne le répéterai jamais assez, nous avons besoin d’analyses mais surtout de prises politiques sur les systèmes, ce qui nécessite de les ouvrir et d’apprendre à les contester – et pas seulement avec de gros concepts marketing.

Je discuterai avec Hubert à la librairie Libre Ère le jeudi 24 avril à 19h30 (111 Bd de Ménilmontant, 75011 Paris). Sauvez la date !

Mais où va le Web

Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.