Choix technologiques : qui a peur du grand méchant citoyen ?

Nous nous entretenions récemment avec Aidan Peppin, du Ada Lovelace Institute à Londres, qui a organisé un « conseil biométrique », sorte de conférence citoyenne sur les technologies biométriques. Cette rencontre a rassemblé 50 personnes représentatives de la population au cours de plusieurs week-ends. Ces personnes ont pu écouter un certain nombre d’experts, puis ont délibéré 60 heures durant autour de la question : « qu’est-ce qui est acceptable ou non quand on parle de technologies biométriques ? ». Leurs recommandations nous rappellent une chose : nous ne devrions pas avoir peur d’inclure les citoyens dans les choix technologiques, un enseignement qui vaut également pour les conventions locales menées en France, notamment autour de la 5G.

« Biometric Council » : des recommandations de bon sens

Le rapport du Ada Lovelace Institute se veut pédagogique. On y retrouve des éléments explicatifs sur la nature des technologies et données biométriques (empreintes digitales, visage, battements du cœur, iris, ADN, etc.). Retenons ici qu’elles sont attachées à un individu, ce qui permet une identification unique tout au long de la vie. Le développement de technologies capables de les collecter et de les traiter pose aujourd’hui un certain nombre de questions, qu’ont cristallisé les débats autour de la reconnaissance faciale ou de la détection de fièvre à des fins de gestion de la crise sanitaire.

On retrouve également dans le rapport les contours méthodologiques de la convention menée par l’institut. Celle-ci suit les standards de ce type de rencontres : un panel représentatif de la population est sélectionné, un groupe de contrôle supervise les interventions des experts. Notons que l’institut précise qu’un effort a été fait pour sélectionner des personnes issues de minorités ethniques, des membres de la communauté LGBTQI+ ou des personnes en situation de handicap, dans le but notamment d’amplifier leurs voix car ce sont souvent ces populations que la technologie malmène en priorité. La structure des ateliers et groupes de travail est également précisée, et résumée dans ce tableau :

Détaillons les recommandations du rapport. Celles-ci concernent les questions de régulation et de contrôle, de gestion des données et de proportionnalité. Sont également traitées les questions relatives aux biais algorithmiques, au consentement et à la transparence.

Plus concrètement, le panel consulté demande à ce qu’un organe indépendant supervise le déploiement des technologies biométriques, et que celles-ci ne soient pas mises sur le marché tant que cet organe n’existe pas. Parmi les autres demandes : une révision annuelle des mesures contraignantes et la création d’un comité éthique permanent composé notamment de représentants de la société civile. Les questions de sécurité sont présentées de la façon suivante : la sécurité est un impératif qui précède le déploiement de technologies biométriques. Les usages des technologies biométriques à des fins de contrôle social sont considérés comme « not ok », et le panel demande à ce que le degré de fiabilité des technologies biométriques atteigne 99% afin d’éviter les faux positifs et faux négatifs qui entraînent systématiquement des discriminations dont sont victimes les noirs et notamment les femmes noires.

Le groupe ne tranche pas sur la nécessité d’interdire certaines technologies qui, justement parce qu’elles deviendraient aussi précises, favoriseraient une surveillance plus intense. Cependant, il est précisé que certains membres du panel considèrent qu’en dehors du degré de précision, et quand bien même celui-ci atteindrait les 100%, certaines technologies posent trop de problèmes et devraient être interdites. On peut également lire dans la proposition 21 la demande que tous les biais raciaux soient réglés avant de déployer les technologies biométriques : « remove all racial bias first ».

Enfin, les participants insistent sur la nécessité de respecter le consentement des personnes utilisant les technologies biométriques, la possibilité de lancer des recours en cas de problème et une transparence totale quant à leur fonctionnement : « Les technologies biométriques sont acceptables tant que l’on sait qu’elles sont utilisées, et qu’il existe une méthode disponible pour explorer leur fonctionnement à l’échelle d’un individu ».

Le Conseil et la Commission

Alors que la Commission européenne vient de présenter son projet pour réguler les technologies numériques, les propositions des citoyens du Conseil biométrique de l’Institut Lovelace devraient nous interpeller.

Tout d’abord, il faut constater qu’elles ne sont pas complètement décorrélées du rapport de la Commission qui appelle également à une interdiction des outils de « contrôle social » attribuant une note aux individus en fonction de leurs actions du quotidien, comme c’est le cas en Chine. Cependant, ce rapport entretient encore un certain flou, comme l’explique le journaliste Olivier Tesquet sur Télérama, notamment en ce qui concerne les exceptions sécuritaires qui pourraient justifier l’usage de ces technologies en temps réel. Par exemple, on pourrait y recourir en cas « d’acte terroriste imminent », on sait cependant que ces exceptions sont parfois des trous béants qui peuvent justifier de nombreux abus…

A titre d’exemple, en France, l’usage de la reconnaissance faciale par les forces de l’ordre ne peut être justifié qu’en cas de « nécessité absolue », ce qui est loin d’être le cas en réalité. En effet, en 2020 la police y a eu recours plus de 1000 fois par jour. Le rapport de la commission fait également l’impasse sur certains usages relevant de la pseudoscience : classement selon l’origine ethnique ou l’orientation sexuelle.

Concernant ce dernier point, les conclusions du Conseil biométrique sont me semble-t-il, beaucoup plus claires que celles de la Commission. Le fait de demander une technologie fiable à 99%, ou à 100% ou encore de réduire les biais à zéro apparaît comme une manière indirecte de demander l’interdiction de certaines pratiques. On voit mal comment un système biométrique pourrait qualifier et classer des individus selon leur origine ethnique ou leur orientation sexuelle sans biais, et sans perpétuer des discriminations. Ces usages entrent clairement dans la case « Not ok » du Conseil biométrique.

L’idée ici n’est pas de comparer exhaustivement les recommandations du Conseil avec celles de la Commission, mais plutôt de montrer que l’on pourrait être tenté de demander aux uns (les citoyens, consultés de cette manière), de remplacer les autres (les commissaires), sans toutefois craindre que le monde ne s’écroule sous des trombes de technophobie. A vrai dire, si j’étais convaincu que les recommandations des citoyens du Conseil biométriques allaient être de qualité, je reste un peu déçu par leur manque de radicalité. Mais ainsi en est-il bien souvent des dispositifs démocratiques de ce type : les citoyens ont l’intelligence de faire la synthèse entre les positions les plus éloignées – la mienne est sans doute assez radicale en la matière – ils savent faire des compromis : ce ne sont pas des amish.

Et en France alors ?

A ma connaissance, de tels débats sur les technologies biométriques n’ont jamais eu lieu en France en dehors des arènes démocratiques officielles. Quelques mois avant la campagne municipale de 2020, la député Paula Forteza avait bien proposé dans une tribune à Libé une « convention citoyenne non seulement sur la reconnaissance faciale, mais sur le sens que nous voulons donner à l’innovation », cette proposition est néanmoins restée lettre morte.

Les controverses autour du déploiement de la 5G, et des questions sanitaires et écologiques que celui-ci pose ont cependant réanimé l’idée de consulter localement des citoyens sur des sujets numériques. Ainsi, après que de nombreuses villes, souvent EELV, ont demandé un moratoire sur la 5G, des débats publics ont été organisés par plusieurs équipes municipales. Ces débats ont été menés de façon hétérogènes : certaines villes se sont contenté de conférences type « table ronde » (Montreuil, Villejuif), d’autres ont monté des processus plus complexes, parfois avec le soutien de la Commission nationale du débat public (CNDP), tirant au sort des habitants parmi la population et articulant les phases de conférence avec des moments de délibération donnant lieu à des recommandations. Ce fut ou c’est encore le cas à Rennes (16 tirés au sort), à Poitiers (une quinzaine), ou encore Paris (80 tirés au sort). Les 80 citoyens tirés au sort dans le cadre de la Convention métropolitaine sur la 5G parisienne, qui s’est tenue en fin d’année 2020, ont ainsi délivré 21 propositions axées autour de 5 thématiques : impact environnemental, impact social, libertés publiques, progrès et innovation, protection des enfants et éducation aux usages numériques.

On pourrait tirer de leurs propositions les mêmes enseignement que précédemment, avec le Conseil biométriques. Celles-ci sont passées plutôt inaperçues (très peu d’articles dans la presse et dans la presse spécialisée), mais tiennent du bon sens, et ne sont pas particulièrement radicales. Ayant moi-même été auditionné, conjointement avec La Quadrature du Net sur les questions de libertés publiques, je constate que les citoyens en ont simplement tiré la nécessité de plus de contrôle et de transparence. Si on peut ainsi lire dans les annexes du document de synthèse que les citoyens demandent à « Appliquer le principe de « précaution » en matière de sécurité des données personnelles récupérées ou stockées via les réseaux 5G », ou encore « Renforcer ou décliner le principe de « proportionnalité » au déploiement des dispositifs de surveillance liés à la 5G (recours continu à la vidéosurveillance ou la généralisation de la reconnaissance faciale en temps réel) », les recommandations finales insistent juste sur la nécessité de mieux informer le public de « strictement contrôler » l’usage des dispositifs de surveillance, et de créer un « comité de suivi multipartite » sur ces questions, composé d’experts, d’opérateurs et de citoyens, en amont des choix technologiques :

En matière environnementale, on peut dire que tout le monde s’y retrouve. Les citoyens demandent en effet à « Réaliser une étude d’impact environnemental par un bureau d’études indépendant afin de définir précisément les impacts et les bénéfices de la 5G avant son déploiement. », et à ce que cette étude d’impact permettent de « Réaliser une campagne d’information sur les bénéfices et les impacts de la 5G à l’échelle métropolitaine. » Pas de dogmatisme donc, ni d’amish à l’horizon.

NB : le rapport de la ville de Rennes « La mission d’étude 5G », qui synthétise les échanges avec les citoyens est également de grande qualité.

Conclusions

Les conclusions de cet article ne sont pas bien différentes de ce que l’on peut déjà conclure des mécanismes de participation citoyenne en général : on ne devrait pas en avoir peur. Si chacun peut leur trouver des poux (les uns critiqueront le fait que les citoyens sont trop radicaux, facilement manipulables, les autres diront que l’enrôlement institutionnel mène à trop de docilité et donc à des décisions trop molles), il faut constater que dans l’ensemble, ces recommandations ne sont pas spécialement choquantes.

S’il faut certes reconnaître que la médiation scientifique n’est pas toujours au beau fixe dans notre pays, et qu’il subsiste une part de fausses informations et autres théories complotistes fortement enracinées dans la société, celles-ci ne se retrouvent pas dans les conclusions de ces formats de conventions citoyennes. Par ailleurs, on pourra toujours arguer du fait que des citoyens tirés au sort n’ont pas la légitimité démocratique qui est celle d’élus du peuple. Considérons plutôt qu’ils bénéficient d’une autre légitimité, fondée sur le tirage au sort – qui a également du sens dans une démocratie, et qui peut enrichir le travail des élus.

Enfin, considérons également que si la connaissance scientifique est inégalement répartie dans la société, ce problème vaut aussi pour les élus de la république. L’appréciation du dérèglement climatique par exemple, reste très variables selon les appartenances partisanes et, à certains égards, on constate que les élus (locaux, et parlementaires) ont des partis-pris plutôt surprenants. Les études de l’ADEME sur les représentations sociales du changement climatique en témoignent. S’il faut convenir que dans l’ensemble et en moyenne, le perception des origines du changement climatique est plus exacte chez les élus que parmi la population (encore une fois, cela dépend des partis politiques), cela n’empêche pas quelques exceptions de subsister (tableau issu de l’enquête de la 20e vague) : 

Dans un autre registre l’enquête de la 21e vague, montre que les parlementaires sont 77% à penser que les désordres du climat sont causés par l’effet de serre (contre 65% du public). Cependant, la solution d’une relance conditionnée aux enjeux environnementaux arrive en tête chez le public : 

Rappelons en outre que les personnes sondées ici n’ont pas été formées comme le sont des citoyens participant une convention citoyenne. Nous sommes plus proche du micro-trottoir que de la démocratie participative. 

Ces éléments nous montrent que le bon sens citoyen existe, et que les élus ne sont pas exempts de toute critique. Dès lors, il me semble que nous avons tout à gagner à multiplier les conventions citoyennes, tout en veillant à les professionnaliser car elles ne sont pas toujours menées avec une rigueur suffisante selon qu’elles sont accompagnées ou non par la CNDP. Enfin, il y aurait un grand intérêt à les ancrer plus fermement dans nos institutions, et à les déployer non plus seulement quand les polémiques et controverses éclatent, mais a priori, lorsque les grands projets (notamment technologiques) naissent et sont financés.

A cet égard, la 6G pourrait être une première étape (non pas locale, mais sans doute nationale) : allons-nous laisser les mêmes consortiums industriels travailler à huis-clos, et sans participation citoyenne aucune, sur les technologies « du futur » ? Ou préférons-nous attendre 2030 pour en discuter, quand tout aura déjà été décidé ?

Irénée Régnauld (@maisouvaleweb), 
Pour lire mon livre c’est par là, et pour me soutenir, par ici.