Les nettoyeurs du web : modérateurs au ministère de la vérité

Arte diffuse jusqu’au 03 septembre « Les nettoyeurs du web », une plongée dans le quotidien des tâcherons du numérique qui, depuis Manille aux Philippines, décident des photos et vidéos à censurer sur nos plateformes préférées. Un documentaire piquant qui a le grand mérite de lever le voile sur les ressorts des réseaux « sociaux » et leurs effets immenses sur les démocraties.

Pour les profanes, le traitement semblera d’abord étonnant : qui se serait douté qu’une photo ou une vidéo innocemment envoyée sur Twitter fasse l’objet d’un contrôle par une personne située de l’autre côté du globe ? Qui aurait vu s’agiter frénétiquement, derrière les discours feutrés de la Silicon Valley et les promesses d’éveil d’une « communauté » liée par la technologie, des milliers de petites mains à en quête d’un téton à cacher, d’une décapitation à censurer ? Le documentaire des Allemands Hans Block et Moritz Riesewieck tombe à pic : il rappelle qu’en miroir des annonces grandiloquentes à propos de l’intelligence artificielle, tourne encore une industrie de chair et d’os. De quoi faire écho à la récente alerte de l’association La Quadrature du Net rapportant le témoignage de Julie, « dresseuse d’intelligence artificielle » dont le travail consiste à « vérifier la pertinence des réponses des assistants virtuels aux questions de leurs propriétaires. » Une tâche accomplie sans vraiment tenir compte des standards de confidentialité dont se targuent les constructeurs.

« L’immoralité ne doit pas avoir sa place sur les réseaux sociaux. »

Ces êtres humains, « micro-travailleurs » du numérique ont en partage plusieurs choses. Ils sont invisibles : les « nettoyeurs » interviewés sont démissionnaires, ou bien anonymes. Aucune chance de les voir figurer sur une publicité pour Facebook : la Silicon Valley nage dans le bonheur, mais ne veut pas voir l’océan de malheur sur lequel elle flotte. Ils sont précaires : entre modérateur ou chiffonnier, le choix est vite fait. Si la tâche est plus intéressante financièrement, elle n’en demeure pas moins abrutissante, un ex-modérateur déclare : « J’ai vu des centaines de décapitations quand je travaillais comme modérateur de contenu. Le pire, c’est quand ils utilisent un petit couteau pas très tranchant, type couteau de cuisine. Dans ce cas ça peut durer jusqu’à une minute pour que la tête soit tranchée. » Sans dogmatisme, les reporters donnent à entendre d’autres témoignages, une modératrice par exemple, explique que sa mission est de « protéger les utilisateurs » car « l’immoralité ne doit pas avoir sa place sur les réseaux sociaux. » Elle n’en finit pas moins par déclarer qu’il est temps qu’elle arrête ce job : « je suis en train de partir en vrille ».

A qui profite la censure ?

Puis Hans Block et Moritz Riesewieck nous emmènent toucher du doigt les effets de ces modérations secrètes sur la vitalité de nos démocraties. Au Bengladesh, à la rencontre de réfugiés Rohingyas : Facebook a été accusé d’avoir laissé se déverser une haine sans nom sur ce groupe ethnique déjà persécuté par une grande partie de l’ethnie majoritaire de Birmanie (où faut-il le rappeler, le réseau social « fait office d’internet »). La question est simple : que coûte une photo supprimée quand elle donne à voir la guerre, le conflit, le malheur ? A qui profite cette censure implicite à laquelle se plient sans sourciller les plateformes en Turquie et ailleurs ? Quelles sont les valeurs qui sous-tendent cette modération, quand par exemple une œuvre représentant Donald Trump pourvu d’un petit pénis est censurée ? Quand donner la primeur à l’histoire, aux mœurs ? Lorsqu’un modérateur supprime la célébrissime photo d’une petite fille vietnamienne fuyant le napalm sous prétexte que l’on voit son sexe, on réalise alors le danger d’une telle réécriture de l’histoire qui n’est pas sans rappeler le « ministère de la vérité » du roman 1984 de Georges Orwell. Un ministère du mensonge en réalité, réécrivant quotidiennement les informations dans les journaux pour coller au plus près discours officiel, capable de dire tout et son contraire d’un jour à l’autre. Le danger, c’est de rendre l’histoire inconsistante, ou pire, « personnalisée », chacun voulant voir sur son mur Facebook sa propre vision du monde, les fameuses « bulles de filtres » tant décriées suite à l’élection de Donald Trump.

« Nous devons surveiller de très près cette chose que nous avons créée. »

Pour Tristan Harris, ancien de Google reconverti dans l’éthique du numérique, les plateformes « créent un environnement où s’exprime le pire de la nature humaine », il rappelle que des gens comme lui, blancs, jeunes, éduqués et probablement équipés de tous les biais propres à leur classe, ont un pouvoir immense sur deux milliards de personnes : « Nous devons surveiller de très près cette chose que nous avons créée. » Du côté des responsables des plateformes, c’est l’hésitation, voire le déni. Quand Nicole Wong (Google) se demande si cette haine n’est pas directement issue des réseaux eux-mêmes, un responsable de Facebook déclare que la censure ne concerne qu’en très grande minorité les contenus à caractère politique, il est vite démenti par un activiste turc. Tous les réseaux sociaux sont concernés par ces dilemmes épineux, comment limiter la propagande de groupes terroristes sans nuire à la liberté d’expression ? Comment concilier les modèles d’affaires des plateformes, favorisant l’indignation, la captation de l’attention, avec la diversité des opinions ? A l’heure où chacun peut s’exprimer d’un clic, le plus grand risque est celui du conformisme généralisé (ou bien d’une absence totale de pluralité), deux milliards d’êtres humains la tête dans le sable, lisant et réagissant au contenu trié pour eux, sans qu’on leur explique comment. La Silicon Valley est peut-être très en avance techniquement, mais elle a mis énormément de temps à comprendre que sur internet, nous ne partagions pas que des vidéos de chat.

Les Nettoyeurs du Web (The Cleaners), de Hans Block et Moritz Riesewieck, Allemagne, 2018, 86mn, en replay jusqu’au 3 septembre.

Mais où va le Web

Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.