Le diable s’habille en data – Le mirage numérique – Morozov [lecture]

Épier les individus en masse semble pourtant trouver sa justification à l’heure où chacun redoute le contenu du sac de son voisin dans le RER, surtout lorsque celui-ci est noir. Dans ce contexte tendu, on entend pourtant que les grands projets de surveillance généralisée seraient contrebalancés par les réels avantages qu’ils apportent en termes de sécurité et de bien-être. C’est sans compter sur un revers douloureux de tels systèmes de surveillance : ils servent aussi à réprimer les mouvements militants, notamment en Chine, en Ukraine ou en Turquie. Pour le bien-être, on repassera…

En outre, ces systèmes de surveillance partent du principe que les problèmes de terrorisme se résoudront par la technologie et non pas par la diplomatie et la politique (il faut de toute façon un savant mélange des deux). C’est là le vrai coup de maître de Morozov : il rappelle que c’est avant tout par peur du politique que les États se shootent au Big Data. En ce sens, les moyens des États-flics (ou voyous) sont les mêmes que ceux de certaines entreprises qui font de leurs clients un business (Google et Facebook n’ont rien à vendre sinon des milliards d’internautes comme vous et moi).

Vers des comportements standardisés (le « nudging »)

Il faut cependant tempérer ces propos inquiétants. C’est ce que fait Morozov quand il décrit longuement les innovations disruptives du moment, comme la brosse à dent électronique ou les bracelets connectés. Certes, on pourrait lire à cet égard une pointe d’ironie, voire de cynisme, dans les remarques de l’intellectuel. Et pour cause, ce dernier s’est donné pour mission de lever le voile sur les buts inavoués de tous ces gadgets connectés qui, bien cachés derrière la promesse de l’utopie du « socialisme numérique », font en fait tout pour accompagner un renforcement de l’idéologie néolibérale.

En effet, l’ultra-personnalisation permise par ces gadgets autorise un suivi ciblé de chaque porteur et donc un ajustement de tout ce qui peut les concerner : primes d’assurance, promotions ad hoc, conseils personnalisés, etc. Avec une montre connectée, chacun devient un segment marketing à lui tout seul, dans la rue, pendant son sommeil et bientôt dans ce « temple de la surveillance monté sur roues » aussi appelé voiture intelligente. Pratique, pourra-t-on rétorquer, de ne plus avoir à réfléchir ni à subir en permanence des messages publicitaires qui ne nous concernent pas. C’est là la magie de la technologie déployée par la Silicon Valley : elle pense à notre place et nous suggère les bons produits avant même qu’on y ait pensé. Or dans la vie, il faut penser, surtout quand on consomme. Ce système de substitution mentale porte un nom : le « coût cognitif zéro ». C’est le but que poursuivent des entreprises comme Amazon, Google, et Facebook avec des fonctionnalités qui vous permettent de faire chauffer votre carte bleue sans même vous en rendre compte.

Le mirage numérique révèle également que derrière le fantasme de la personnalisation, c’est tout un système de solidarité qui s’écroule au profit de la logique de marché. Si révéler ses données peut paraître anodin, cela pourra permettre dans certains cas d’établir des profils et des échelles de prix différents, ce qui n’est pas neutre. 

Prenons un exemple :

Admettons que votre assurance vous prête un bracelet connecté en vous promettant des réductions si « vous vous comportez bien ». Admettons maintenant que vous courez beaucoup, alors vous paierez probablement moins cher votre assurance. Ce faisant, vos données permettront de construire une moyenne qui exclura de fait ceux qui ne courent pas ou qui courent moins. Ceux-là paieront donc plus cher leur assurance (sans qu’on s’attarde sur les raisons ou les choix de ces personnes qui préfèrent peut-être lire). Ainsi, il n’est pas compliqué de comprendre que le simple fait de divulguer ses propres données a  un impact sur les autres et participe de la construction d’un engrenage qui enraie tous les processus de mutualisation basés sur l’égalité.

Si le modèle d’affaire d’Internet était la publicité, le modèle d’affaire de l’Internet des objets sera l’assurance.

Aussi, préparez-vous à vous conduire selon des schémas standardisés et mesurés (bien manger, bien dormir, faire du sport, ne pas fumer). Oubliez les comportements subversifs. Ce conformisme automatisé s’appelle le « nudging » ; concrètement, ce sont toutes ces petites interactions et pressions discrètes qui l’air de rien, vous font changer vos petites habitudes (qui a dit que vous étiez une marionnette ?). Il faut absolument garder ces signaux à l’esprit car si le modèle d’affaire d’Internet était la publicité, le modèle d’affaire de l’Internet des objets sera l’assurance.

Le mythe d’un État automatisé 

L’État peut aussi servir des techniques de « nudging » pour piloter les comportements des masses. Lui aussi voudrait « administrer » la vie publique grâce à ces incitations, comme si la vie politique se ramenait à jouer sur de simples jauges. C’est réducteur, mais c’est la triste réalité qui est aussi le grand paradoxe de notre époque : nous ne comprenons toujours pas le lien « entre l’ouverture apparente de nos infrastructures technologiques et l’intensification du contrôle ».

Les connivences entre les startups de la Silicon Valley et les agences de renseignement sont une véritable mine d’or pour les États dont la préoccupation la plus importante semble être la lutte anti-terroriste, nous dit Morozov. D’ailleurs, selon lui, il y a deux poids deux mesures quand la « physique sociale » que permettent nudging et Big Data s’applique aux citoyens et jamais aux grandes banques comme Goldman Sachs. S’il existe des Applications mobiles pour réduire la pauvreté ou l’obésité, personne n’a inventé un traitement à la sauce Big Data  pour empêcher l’évasion fiscale.

Ce paradoxe conduit à penser que l’État abandonne pas à pas toutes ses prérogatives sociales au profit de solutions téléchargeables sur l’Apple Store qui apportent du réconfort aux soucis des gens sans s’attaquer aux causes de ceux-ci. Chaque problème aurait une réponse sous forme d’une startup qui capterait des données. Ce concept central, Morozov l’appelle le « solutionnisme technologique », et il est au centre de toute sa pensée.

Le fait même de laisser ce mouvement s’installer en dit long sur l’idéologie sous-jacente qui affirme que chaque individu est seul responsable de son état, et qu’il peut y remédier en consommant de la technologie et en utilisant mieux l’information dont il dispose. L’État se sert donc de ce qu’Evgeny Morozov appelle le « consumérisme informationnel », un maillon stratégique de la grande chaîne des pièges à con que la Silicon Valley appelle de ses vœux.

En conclusion

Encore une fois, c’est un essai au vitriol que Morozov offre à tous ceux qui s’intéressent à l’Internet, et donc à la politique. Si l’ouvrage peut sembler être critique avant d’être constructif, il a le mérite de poser des bases saines pour penser l’avenir. Il faudra compléter cette lecture de son précédent ouvrage pour récupérer les nombreuses initiatives qui vont dans le sens d’un Internet plus juste et d’une technologie plus « propre à nous faire réfléchir ».

En fait, ce que nous demande Morozov, c’est d’être vigilant quand on parle du numérique et de la technologie. Cette dernière n’est jamais neutre, et toujours vectrice d’une idéologie défendue non pas par des machines, mais par des hommes. On retiendra surtout du Mirage numérique que la Data, c’est le pouvoir, et que le pouvoir ne peut être centralisé aux mains de quelques-uns sans devenir une conspiration permanente, le diable en personne. Les pétaflops d’informations qui arrivent à la vitesse de la lumière vont devoir faire l’objet de choix démocratiques et de luttes politiques, ou alors nous les laisserons filer sans contrôle vers des Data-centers lointains et pas toujours bien intentionnés.

Pour lire Le mirage numérique, rendez-vous chez votre libraire, ou chez leslibraires.fr à cette adresse : Le mirage numérique – pour une politique du big data.

Mais où va le Web

Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.