Sommes-nous institutionnellement équipés pour interdire la reconnaissance faciale à des fins sécuritaires ?

On ne compte plus les demandes de moratoires à l’endroit de la reconnaissance faciale. Partout dans le monde, des villes, des associations et des mouvements de salariés s’élèvent et demandent la suspension de ces technologies d’identification grâce aux données biométriques. Alors qu’aux Etats-Unis, le sujet a pris une ampleur politique inédite[1], la France s’enfonce dans les éléments de langage. Ses garde-fous eux, brillent par leur inefficacité ou leur complaisance. Nos institutions sont-elles capables de freiner le déploiement de la reconnaissance faciale ?

Cet article a également été repris par Socialter

Le gouvernement plus fort que la CNIL ?

Le duel entre le gouvernement et la Commission nationale de l’informatique et des libertés (CNIL) au sujet d’Alicem illustre bien un rapport de force institutionnel en défaveur de cette dernière, et donc des libertés publiques. Le service Alicem, mis en place par décret le 13 mai 2019, ouvre l’accès à une application mobile de reconnaissance faciale qui sert à se connecter aux services publics. Ce système a été maintes fois critiqué, à la fois par la CNIL, qui s’est inquiétée du caractère obligatoire de la reconnaissance faciale et de l’illégalité de traitement des données, et par l’association La Quadrature du Net, qui a déposé un recours devant le conseil d’Etat. L’avis défavorable de la CNIL n’a cependant pas freiné le gouvernement qui souhaite toujours déployer l’application. Fait étrange, le secrétaire d’Etat au numérique Cédric O a proposé dans une interview au journal Le Monde de « créer, en coordination avec la CNIL, une instance de supervision et d’évaluation de la reconnaissance faciale ». Interview où il précise également l’expérimentation de ces systèmes est « nécessaire pour que nos industriels progressent. » Après cela seulement, il faudra envisager un « débat citoyen d’examiner les questions légitimes sur l’équilibre entre usages, protection et libertés. » La démocratie arrive donc en seconde position, après l’impératif économique érigé en raison d’Etat. Les industriels d’abord, les citoyens ensuite.

Même scénario du côté de systèmes de vidéosurveillance. En juin 2019 à Nice, le ministre de l’intérieur Christophe Castaner expliquait vouloir « ouvrir le débat » sur la reconnaissance faciale », tout en saluant « l’ambition sécuritaire de Christian Estrosi », qui a triplé le nombre de caméras installées dans sa ville ! En outre, le Maire de Nice a multiplié les expérimentations de reconnaissance faciale, notamment lors du carnaval, tout en prétendant avoir obtenu un avis favorable de la CNIL, ce qui n’était pas le cas. Lors de ces expérimentations, le recueil du consentement des citoyens a été instrumentalisé, comme l’explique Jacques Priol, consultant chez Civiteo : les 5000 personnes concernées par le test n’ont pas été correctement informées du caractère particulier des données biométriques, ni « du caractère éminemment dérogatoire de l’expérience. »

En résumé, la CNIL, dont les pouvoirs ont été rognés suite à l’entrée en vigueur du RGPD qui lui a ôté son pouvoir d’autorisation a priori de ce genre d’expérimentations, se fait littéralement piétiner. Il reste à souhaiter que ses derniers avis soient, eux, écoutés. Quoiqu’il en soit, le bras de fer avec le gouvernement, qui propose de débattre autour de décisions déjà prises, met en lumière de graves asymétries de pouvoir.

Le Conseil du numérique (CNNum) et son étrange conception de la démocratie

Dans un avis publié en juin 2019, la CNNum appelait à une « nécessaire régulation de la reconnaissance faciale ». Il y annonçait également le lancement d’un projet pilote mené avec le Forum économique mondial dans le but de « co-construire un cadre de régulation de la reconnaissance faciale qui garantisse la protection des libertés individuelles ». En début de note on peut lire :

« Compte tenu des progrès rapides et récents des systèmes de reconnaissance faciale ces dernières années et des enjeux qu’ils soulèvent en matière de protection des libertés publiques, il nous paraît essentiel de créer les conditions d’un large débat public impliquant toutes les composantes de la société : pouvoirs publics, universitaires, entreprises et représentants de la société civile afin de co-construire un cadre de régulation adapté ».

Le « large débat public » s’amenuise quelques lignes plus loin, lorsqu’il est précisé que l’idée sous-jacente reste de « favoriser l’innovation » et de « développer l’usage de cette technologie de manière responsable ». Ici également, l’innovation devient un impératif hiérarchiquement supérieur au « débat public » : la possibilité même d’une interdiction pure et simple de cette technologie est évacuée. Une question résiste pourtant à cet élan d’optimisme : que vaut au juste un « usage responsable » en matière de surveillance ? Dans cette même note, le CNNum cite Lofred Madzou, chef de projet en IA au Forum économique mondial qui déclare :

« Tout l’enjeu de ce partenariat est de tester une méthode innovante de co-construction de la régulation qui repose d’une part sur l’analyse factuelle des usages (evidence-based policy) et qui associe l’ensemble de l’écosystème numérique. En effet, le cœur de l’expérimentation consiste à tester nos recommandations sur des systèmes de reconnaissance faciale existants en partenariat avec des acteurs industriels et itérer sur la base de nos résultats. L’idée étant de produire un cadre de régulation qui intègre pleinement la réalité des usages. Nous communiquerons régulièrement sur l’avancée de nos travaux, tant auprès du grand public que d’autres Etats susceptibles d’adopter nos recommandations. C’est en effet à l’échelle internationale que se joue le succès de toute initiative sur le sujet. »

Du « large débat public », nous passons à des groupes d’experts et d’industriels qui se contenteront de « communiquer l’avancée de leurs travaux » au grand public. Tout est dans la nuance. Alors même que l’Etat ne respecte pas les décisions de la CNIL, le CNNum, qui n’a ni les pouvoirs ni les compétences pour organiser des « débats citoyens », prétend pouvoir faire mieux. Débats qui au demeurant, sont toujours organisés a posteriori, pour « réguler » et jamais « interdire ». Or c’est dans cette distinction que réside la véritable démocratie, qui ne consiste pas à entériner des décisions déjà prises mais bien à choisir de bout en bout de déployer ou non un dispositif technique. Comme l’explique le groupe « Fight for the future » sur son site :

« Ils essaient d’éviter le vrai débat : une technologie si dangereuse ne devrait même pas exister. La supervision bienveillante de l’industrie ou des gouvernement ne règlera pas les dangers inhérents à l’usage de la reconnaissance faciale par les forces de l’ordre : nous avons besoin d’une interdiction totale. »

Le gentil petit rapport de l’OPESCT sur la reconnaissance faciale

Regardons maintenant du côté d’une autre instance qui pose sur le développement technologique un regard distancié : l’Office parlementaire pour l’évaluation des choix scientifiques et techniques (OPESCT). Dans une note publiée mois de juillet 2019, l’OPESCT interroge notamment l’acceptabilité sociale des dispositifs de reconnaissance faciale. Après avoir tracé les principaux usages de ces technologies, et pointé les nombreux biais qui lui sont inhérents, l’Office rappelle l’impérieuse nécessité d’élaborer « un cadre législatif permettant d’accompagner les expérimentations » et propose de doter la CNIL de ce rôle…

Plus loin, l’Office convient de l’utilité de mobiliser des experts afin d’auditer les systèmes, de garantir leur efficacité et de « mener des études sur l’acceptabilité de ces technologies par les différentes catégories de la population ». De nouveau et comme ce fut le cas pour le CNNum, rien n’est dit sur la manière d’architecturer les consultations (comment mesure-t-on au juste cette acceptabilité ?), ni sur la véritable signification de « l’efficacité » d’un dispositif de surveillance dans un pays démocratique. Parmi les nombreuses personnes auditionnées par l’OPESCT (plusieurs dizaines au total), le rapport ne conserve que quelques bribes, dont une phrase de Laurent Mucchielli, Directeur de recherches au CNRS Laboratoire Méditerranéen de Sociologie où il explique que :

« La technologie n’est ni bonne ni mauvaise en soi. Tout dépend des usages que nous décidons d’en faire et des arbitrages financiers qui sont faits derrière nos choix. »

Un bien étrange choix de citation, qui résume très mal l’avis du chercheur qui dans sa note à l’Office, est bien plus prolixe. Extraite de son ouvrage Vous êtes filmés ! Enquête sur le bluff de la vidéosurveillance, publié en 2018, la note en question interroge la validité des démarches consistant justement à mesurer l’acceptabilité sociale des technologies. Il rappelle que celle-ci varie en fonction de la manière dont on mobilise un public. Les sondages d’opinion par exemple, donnent des résultats très différents des démarches participatives qui demandent un investissement plus intense de la part des citoyens, il précise :

« Pour le dire simplement, les mêmes citoyens qui peuvent répondre « oui » à un sondage binaire et désincarné, peuvent répondre « non » lorsqu’on les informe réellement et qu’on leur demande leur avis personnel pour un projet concernant la commune ou le quartier où ils résident »

Un point tout à fait essentiel, et qui explique bien le manque de rigueur des expérimentations menées à Nice où les citoyens ont consenti à une expérience dont ils ne connaissent ni les enjeux ni les implications sociales. Etrangement, l’OPESCT n’a pas choisi d’attaquer de front cet enjeu démocratique essentiel, ce qui laisse à leur note un sacré goût d’inachevé.

Technologies : débat public partout, démocratie nulle part

Sommes-nous aujourd’hui dotés d’institutions capables de réellement décider si oui ou non nous souhaitons collectivement introduire la reconnaissance faciale dans nos vies ? Visiblement, non. Le sujet peut-il devenir plus politique ? Peut-être, par exemple si un.e futur.e candidat.e à l’élection présidentielle s’en saisissait. Dans le cas d’un probable duel Macron / Le Pen, l’espoir reste faible. Sans compter que d’ici là, le secteur privé aura lui aussi avancé et normalisé son usage (ce qui ne manquera pas de servir d’argument aux défenseurs de ces technologies, qui rappellerons qu’elles sont déjà pleinement acceptées par le grand public, quand bien même cela aura été le fruit d’un intense travail marketing). Quant au « débat législatif » plébiscité par la CNIL, il reste bien illusoire d’en attendre quoi que ce soit dans le cadre de la majorité parlementaire en place.

Par ailleurs, le discours officiel est profondément contradictoire. Elus et institutions en appellent à plus de démocratie, à plus de « débats publics », mais ne conviennent jamais de la bonne formule pour arriver à leurs fins. Dans ce vide institutionnel, se glisse un débat structuré selon les termes de ceux qui y participent : experts et industriels au premier plan. Aux demandes d’interdiction qui émanent de la société civile, répondent des aménagements – toujours compatibles avec l’innovation – qu’on érige en principe absolu et indiscutable. Jamais il n’est réellement question, ne serait-ce que d’envisager d’arrêter d’équiper les villes de dispositifs de surveillance de plus en plus nombreux, et cela quand bien même les effets qu’ils produisent sur les libertés publiques sont reconnus comme nocifs.

Tout le débat autour de la reconnaissance faciale montre que nous avons un sérieux problème avec la hiérarchie des normes. L’impératif économique impose sa loi. La loi elle, ne reflète ni l’intérêt général, ni l’opinion des citoyens, qu’on se garde bien de mobiliser correctement. Notre système de contrôle est défaillant. C’est pourquoi il faut aujourd’hui faire pression, tout le temps et partout, non seulement pour interdire la reconnaissance faciale utilisées à des fins sécuritaires, mais aussi pour renforcer les institutions existantes telles que la CNIL, et en ériger de nouvelles plus fortes encore, à même de constituer des contrepoids face à la doctrine économique en vigueur, et son bras armé qu’est le techno-solutionnisme outrancier.

Irénée Régnauld (@maisouvaleweb), pour lire mon livre c’est par là, et pour me soutenir, par ici.

[1] Bernie Sanders et Alexandria Ocasio Cortez se sont publiquement prononcés contre la reconnaissance faciale par les forces de police

Source photo : http://www.wikistrike.com/article-les-artistes-veillent-sur-les-cameras-de-surveillance-93023418.html

NB : le 15/11/2019, la CNIL publie un rapport encourageant « Reconnaissance faciale : pour un débat à la hauteur des enjeux » où elle appelle notamment à la mise en place d’un « cadre juridique [qui] doit garantir la sincérité des expérimentations conduites, dont l’issue ne saurait être préjugée. » Le rapport en .pdf.