Pour « disrupter » la tech, écoutons les chercheurs !

Dans le monde de la « tech », les scandales sont si fréquents qu’il est devenu quasi impossible de tous les suivre. Cette profusion de controverses a produit des effets a priori positifs : on parle maintenant de rendre la technologie « éthique ». Pour les chercheuses Lilly Irani et Rumman Chowdhury cependant, nous avons d’abord besoin de nous fier au travail des chercheurs, notamment en sciences humaines, plutôt que de céder à ce qui commence à ressembler à de l’éthique-washing.

Le grand mouvement de remise en question des technologies et de leurs modes de conception aura permis la floraison d’un certain nombre d’initiatives, au premier rang desquelles le label « Time well spent », créé par Tristan Harris. Ce designer et ancien salarié de Google s’est fait le fer de lance de la critique de l’« économie de l’attention » et dénonce la propension qu’ont certains services numériques à monétiser notre temps, au mépris de nos réels besoins d’utilisateurs. Malheureusement, il y a fort à parier que ce mouvement ait accouché d’une souris tant ses idées ont été parfaitement récupérées par les GAFAS, qui n’ont rien changé à leurs modèles. Ceux-ci proposent désormais de multiples fonctionnalités destinées à la régulation de l’usage des services numériques par les clients eux-mêmes. D’un problème social et économique impliquant les modèles d’affaires de ces entreprises, nous sommes passés à une simple question de contrôle individuel a posteriori qui montre à quel point la faiblesse de la critique n’a pas su résister à la force du système en place.

C’est dans ce contexte que Tristan Harris publiait récemment sur Twitter un message dans lequel il plébiscitait la création d’un champ disciplinaire dédié aux « relations entre la technologie et la société ». Seul problème, ce champs existe déjà depuis longtemps : on parle de STS pour « Sciences, technologies et société » et plus globalement, de sciences humaines et sociales (comme la science politique, la philosophie, la sociologie, l’anthropologie, etc.). Un petit oubli que n’a pas manqué de lui faire remarquer la chercheuse Zeynep Tufekci qui dans sa réponse, explique que « nous ne manquons pas de boîtes à outils conceptuelles. Le problème est que les gens qui occupent le champ technologique ignorent agressivement l’existence d’un vaste champ de savoirs et de cadres éthiques que nous pourrions déjà appliquer à la situation technologique courante. » Pour elle, c’est justement la mentalité « disruptive » qui réduit à néant la possibilité du retour au bon sens. Un argument que reprennent Lilly Irani et Rumman Chowdhury qui signalent que Harris aurait mieux fait de questionner le fléchage des budgets de recherche et la formation des travailleurs de la tech : « Nous avons besoin d’ingénieurs qui cultivent du respect pour d’autres types d’expertise et expériences – du professeur au sage-femme, en passant par le livreur Uber. » Pour les chercheuses, l’éthique permet certes de guider la pensée sur ce qui est bon ou mauvais, mais ne renforce en aucune manière la démocratie dans le monde de la tech. Or pour atteindre cet objectif, ce n’est pas d’un énième outil magique et disruptif dont nous aurions besoin, mais d’ingénieurs qui comprennent mieux l’histoire et le social, une ambition qui dépasse de loin la question du design ou de la psychologie du consommateur.

Les chercheuses rappellent au passage que l’industrie de la tech a mis beaucoup de temps à apprécier les injustices produites par certains biais algorithmiques, notamment dans la justice. Certains algorithmes envoyaient par exemple des policiers dans des quartiers majoritairement noirs, quand bien même aucune violence n’y était détectée. Elles en concluent que ce qui est nécessaire aujourd’hui est d’inclure le citoyen dans la grande discussion autour de son avenir technologique, notamment en donnant du pouvoir aux associations et aux groupes qui mènent des actions collectives pour assurer la défense des libertés publiques :

« Nous devrions tous nous éduquer – pas seulement les ingénieurs – à devenir des citoyens technologiques actifs. Cela ne veut pas dire apprendre à coder. Cela signifie en savoir assez pour poser les questions sur la façon dont la technologie affecte le travail, la vie, la communauté. (…) Résoudre vraiment les problèmes veut dire engager les communautés impactées dès la phase de conception et après, même si cela doit signifier qu’il faut arrêter un projet. »

L’air de rien, la tribune de Lilly Irani et Rumman Chowdhury est chargée en questions diverses. Cette dernière affirmation par exemple, est lourde de sens et dénote le manque de structures à même de réunir des citoyens dans la formulation de besoins qui impliqueraient ou non le déploiement de moyens technologiques (et éventuellement numériques). D’autre part, il ne fait aucun doute que depuis quelques années, les « chartes » éthiques autour de l’IA se sont multipliées (on en compte plusieurs centaines), ce qui est plutôt une bonne nouvelle. Cependant, une charte n’a pas la force d’une loi. Dans d’autres circonstances, une charte tend à annihiler tout effort de régulation fort (souvenons-nous de la charte de bonne conduite de Mounir Mahjoubi, qu’Amazon avait refusé de signer, créant par cette occasion un mini incident diplomatique).

En outre, la question que posent les chercheuses interroge au plus profond la position des chercheurs en SHS dans le domaine de la technologie. N’étant pas chercheur moi-même, je ne pourrai livrer un avis de l’intérieur mais voici tout de même ce qui m’apparaît depuis là où je suis, et que je résumerai à deux considérations :

Premièrement, le public a besoin de mieux appréhender ce qui relève ou non de la recherche, notamment en sciences humaines et sociales. Car bien souvent, des experts sont pris pour des chercheurs et d’autres fois, des chercheurs interviennent sur des sujets pour lesquels ils n’ont a priori pas une meilleure légitimité que le badaud du coin. Dans les deux cas, nous naviguons en eaux troubles avec des personnes qui relaient des opinions – qui ne relèvent pas plus de la recherche que de leurs propres positionnements idéologiques – tout en jouissant du statut de chercheur. C’est le cas quand une chercheuse en électronique s’exprime sur des sujets politiques qui sortent de son champ de compétence, ou quand un professeur d’économie ou un énarque multiplient les ouvrages vantant tel ou tel aspect de l’économie numérique, suivant des codes qui ne sont pas du tout ceux de la recherche mais plutôt de l’éditorial. Il y a bien sûr plusieurs types de chercheurs, et je ne souhaite pas opérer ici une quelconque hiérarchie, cependant, nous devrions garder à l’esprit que les chercheurs, en sciences dure ou molle, travaillent en général sur des sujets aux contours très stricts, de « tout petits sujets » (par exemple, l’usage d’Internet par les familles modestes, les effets sociaux de tel type d’algorithmes dans tel secteur, etc.). Les chercheurs de cette catégorie sont bien souvent les premiers à préciser ce qui relève strictement ou non de leurs recherches. Cela ne veut pas dire qu’ils n’ont pas un avis sur d’autres questions, ou qu’ils n’ont pas lu les travaux d’autres chercheurs qui en seraient spécialistes. En résumé : « écouter les chercheurs », dans le numérique ou ailleurs, veut dire écouter beaucoup de chercheurs différents, plutôt que de céder aux éditorialistes maquillés qui parlent de tout et de rien et à qui on donne du crédit juste parce qu’ils ont un PhD. Ecouter les chercheurs signifie aussi qu’il faut leur donner une place relativement plus importante, notamment par rapport à ceux qui privilégient le sensationnalisme et le story-telling (et ceux-là doivent être mis à nus, et regardés pour ce qu’ils sont : des hommes et des femmes politiques – nous en avons également besoin, mais pas au même endroit). Aujourd’hui dans le numérique, je dirais grosso-modo que 80%[1] de l’espace médiatique est occupé par des gens dont les travaux n’ont aucun rapport avec la recherche (et qui sont souvent adossés à des Think-tanks financés par de grandes fortunes et des sociétés privées). Cette inversion des rôles à l’intérieur du système médiatique actuel est difficile et demande aussi à ce que les « vrais » chercheurs vulgarisent correctement leurs travaux (work in progress).

Ce dernier point nous conduit à la deuxième considération : la recherche en sciences humaines n’est pas une fin en soi, en tout cas pas tant qu’elle ne crante pas sur le réel. Cela signifie au moins deux choses. D’une part, le chercheur en sciences sociales devrait s’efforcer de tirer des conclusions politiques de son travail, et s’il le peut, d’alimenter de ses résultats les différents groupes à même de les défendre autre part que dans des colloques ne réunissant que les initiés, donc sur la place publique (journaux, associations, partis politiques). Notons qu’ils sont nombreux à le faire. Aussi, quand bien même nous devrions « écouter les chercheurs », ceux-ci ne sont pas d’accord entre eux, c’est bien pour cela que nous avons besoin d’une arène pour débattre. Il ne suffit donc pas d’écouter les chercheurs, mais de rendre opérant le fruit de leur travail. Ce passage de l’écoute à la fixation dans le réel est un combat qui n’est jamais gagné. Si je ne devais prendre qu’un exemple : nous écoutons peu les scientifiques du GIEC, et force est de constater que l’inscription de leurs conclusions dans les politiques publiques est loin d’être acquise. Dans le numérique, nous convenons tous qu’il est essentiel de « préserver nos droits » ou de « protéger la démocratie », cependant nous devons compter sur une seule association comme La Quadrature du Net pour faire le job, et personne ne semble réellement s’en soucier. Et oui, la démocratie a un coût, et c’est rarement celui des têtes de gondole à la Fnac.

D’autre part, la recherche a besoin d’indépendance et de financement. Ce n’est pas un scoop : ces deux piliers sont aujourd’hui trop fragiles. En France, le financement de la recherche stagne, particulièrement en sciences humaines et sociales où seulement 38% des thèses sont financées. Il reste bien sûr les thèses en entreprise (CIFRE), qui concernent pour un quart les sciences humaines. Cependant, ce sont-là des sujets « imposés » par des entreprises dont la finalité est avant tout productive. Résultat : un sociologue va servir à mieux cibler des clients, un philosophe à orienter une stratégie ou un discours de manière à améliorer le positionnement ou la réputation de son employeur (voir par exemple les thèses CIFRE proposées par Orange, l’immense majorité concerne des sujets techniques – en ce moment – ce qui n’enlève rien au fait que ce sont probablement de très bonnes conditions pour faire de la recherche – qu’on ne s’y méprenne pas). Cela ne veut pas non plus dire que le doctorant CIFRE n’a pas d’indépendance, mais pour nourrir de multiples conversations avec quelques-uns d’entre eux, il est évident que la thèse CIFRE n’est pas une thèse « comme les autres ». Comme le problématisait récemment mon ami Julien De Sanctis, doctorant CIFRE en philosophie chez le roboticien Spoon, il faut « réfléchir aux moyens d’éviter que la philosophie n’intègre le vaste processus d’auto-perpétuation par phagocytose qui permet au système économique actuel de tenir. Autrement dit : comment éviter que la philosophie ne devienne, à l’instar de l’éthique, un énième instrument publicitaire de légitimation par l’apparence ? » En résumé, la recherche en sciences humaines doit avoir un impact sur le réel, mais si cet impact se limite à la sphère productive, alors nous avons un souci. Ce questionnement soulève un autre problème : la volonté plus ou moins sincère des entreprises à étudier ce qui dans leurs façons de fonctionner, peut avoir des répercussions sociales négatives. Dans un message sur Twitter, le sociologue Antonio Casilli se surprenait de voir un responsable d’IBM s’intéresser à son rapport sur les « travailleurs du clic », alors même que la société avait refusé de financer une CIFRE sur le sujet, au prétexte que ceux-ci « balaient le sol une fois que les data-scientists sont partis ». Autrement dit, la recherche, comme le journalisme d’investigation, ne cherchent pas à conforter les positions de telle ou telle personne ou corporation, mais à dévoiler ce qui se soustrait à notre regard.

Enfin, je remarque dans mes différentes rencontres avec les acteurs d’un numérique éthique, que nombreux sont ceux qui souhaitent bâtir des technologies plus sociales et compatibles avec les enjeux du XXIe siècle. Je pense à Grégoire Japiot qui aux dernières nouvelles, entreprenait dans le domaine de l’intelligence artificielle dans les administrations avec l’objectif de renforcer la participation citoyenne. J’en ai parlé dans ce billet qui met le sujet en perspective. Je pense aussi à Jérôme Gonzalez, du Laboratoire d’Intelligence Collective et Artificielle (LICA) qui touche à des sujets similaires. L’un et l’autre ont des profils d’entrepreneurs et non pas de chercheurs en sciences humaines, il est essentiel que ces personnes créent et maintiennent un lien fort avec des chercheurs en SHS, ne serait-ce que pour éviter de dévoyer complètement leurs idées initiales, ce qui guette toujours. Aussi, je serai moins dur que Zeynep Tufecki concernant les idées « disruptives », bien sûr, il n’y a pas une méthode magique à même de tout régler. En revanche, il n’est pas non plus envisageable de faire avaler à tous les ingénieurs de la planète tout un corpus de sciences humaines pour les faire changer d’état d’esprit. Entre les deux, il y a des méthodes qui distillent ce que produisent les sciences humaines dans le monde de l’entreprise, c’est l’objectif par exemple de Ethical OS, qui interroge les effets sociaux d’une innovation a priori. Je connais très peu d’endroits aujourd’hui, où ces frameworks sont utilisés : ce serait un bon début.

[1] Il s’agit là d’une appréciation personnelle, nécessairement biaisée. Pas d’une vérité scientifique.

Irénée Régnauld (@maisouvaleweb), pour lire mon livre c’est par là, et pour me soutenir, par ici.

Mais où va le Web

Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.