Et si on mettait l’innovation en controverse ?

J’étais récemment invité à participer à l’événement « Grandir avec le numérique », organisé par la CAF du Nord à Valenciennes et portant sur les questions relatives à la médiation numérique, c’est-à-dire schématiquement l’ensemble des moyens déployés pour lutter contre l’exclusion numérique. Il s’agissait en l’occurrence de la dématérialisation des actes administratifs. Je partageais le matin une table ronde avec Dominique Pasquier, Orianne Ledroit et François Huguet autour de ces questions – chacun de leurs travaux est d’un immense intérêt[1], mais je reviendrai ici plus précisément sur un atelier d’anticipation organisé par POP (@Plus2POP) auquel j’ai assisté l’après midi, et qui je pense mérite quelques lignes.

Tout d’abord, passons rapidement sur les enjeux de la dématérialisation des actes administratifs. Celle-ci s’est faite, il faut bien dire, à marche forcée et a pu à certains endroits, laisser les administrés dans les limbes du numérique. Fréquemment, on retrouve dans la presse des témoignages inquiétants, comme celui de cette bibliothécaire qui déclarait recevoir les administrés de la CAF et être obligée de conserver leurs mots de passe, ou encore récemment cet article qui expliquait qu’un marché noir du rendez-vous avait émergé à la préfecture du 93. En début d’année, le défenseur des droits et des écrivains publics alertaient sur les effets de bord de cette dématérialisation bien précipitée (voir le rapport). Comme on le sait aujourd’hui, 13 millions de français sont « loin du numérique », ce qui ne va pas sans poser quelques questions (ici et ). La CAF est bien sûr aujourd’hui mobilisée pour résoudre cette fracture, l’organisation de cet événement en témoigne.

C’est dans ce contexte que POP animait son atelier d’anticipation, dont l’objet était de discuter en groupe de cette dématérialisation. La situation donnée est la suivante : l’Etat décide d’automatiser pleinement les services CAF via un « chatbot » (un agent conversationnel). Pour accompagner ce changement, la Commission national du débat public (CNPD) décide alors d’organiser sous forme de controverse une discussion sur l’intérêt et les effets d’une telle mesure. Des citoyens sont tirés au sort pour trancher. Ce point de départ est explicitement exagéré bien sûr, l’idée étant de cliver afin de susciter la controverse sur un format court (les débats de la CNDP ne se font pas en une heure et demie).

La suite consiste à poser aux participants une question fermée en leur demandant de se positionner pour ou contre. Au milieu de la salle, une large ligne bleue structure l’espace en deux clans qui permettent de se positionner d’un côté ou de l’autre suivant la réponse que l’on donne, ceux qui sont dans le doute peuvent rester sur la ligne (on parle de « débat mouvant »). La première question était : « l’automatisation complète des services de la CAF est : a) un cataclysme annoncé et b) une immense opportunité ». Les arguments des uns et des autres sont écoutés, puis les participants changent éventuellement de camps suite à la discussion. D’autres questions défilent : « faut-il automatiser la suppression d’un guichet qui ne reçoit presque plus personne ? », « faite-vous plus confiance à un humain qu’à un robot pour traiter une tâche administrative ? ». Etc.

La prédiction reste un exercice délicat. Il existe néanmoins plusieurs méthodes à même d’évaluer les impacts, les valeurs et le degré d’acceptabilité d’une innovation (je parlais récemment de Ethical OS, je pense aussi au design fiction, au rétro-design et dans une certaine mesure, au design thinking). La méthode du « pour ou contre » a quant à elle, des limites et des vertus. Un des avantages, qui s’est beaucoup ressenti pendant l’atelier, est la force des propositions qui sont exprimées dans le clivage. A la question de savoir si une relation peut être « pleinement » virtualisée (par exemple à l’aide d’une assistance vidéo type télémédecine pour recevoir les administrés dans des zones peu peuplées où le guichet a fermé), une employée des services sociaux livrait le témoignage suivant (je retranscris de mémoire) : « quand on est dans un service social, on reçoit des gens qui sont dans des situations désespérées, par exemple une mère de famille qui n’arrive pas à joindre les deux bouts et qui se met à pleurer. Vous voyez, le simple fait de lui mettre la main sur l’épaule, un contact physique, et bien ça veut dire quelque chose. » Elle poursuit avec une autre situation : « la personne que vous avez en face de vous, vous devez la sentir, si elle sent bon par exemple, c’est agréable, si elle sent mauvais et qu’elle ne s’est pas lavée depuis trois jours, ça dit aussi quelque chose de sa situation. » Un petit dernier pour la route : « c’est bête, mais quand vous voyez quelqu’un arriver avec deux chaussettes différentes, ou avec de poux dans les cheveux, ça vous renseigne aussi, ça vous oblige à vous adapter, c’est aussi ça le social, on ne le voit pas forcément dans une vidéo. »

Bien sûr, ce témoignage suscite l’émoi du groupe et d’autres témoignages se succèdent, aussi forts et réels. Je ne relaterai pas ici l’ensemble des échanges qui ont eu lieu et qui ont fini par porter sur des sujets aussi vastes que l’existence potentielle d’une intelligence artificielle forte à la péréquation en passant par la justice sociale.

En fin d’atelier, les participants sont invités à décrire une situation difficile (ou au moins notable) qu’ils ont pu vivre dans leur relation avec l’administration. J’ai fait partie de ces gens, en expliquant que lors d’une période de chômage passée, Pôle Emploi m’envoyait des propositions de travail totalement déconnectées de mon parcours (du genre : peintre en bâtiment, assez loin de mes compétences), offres auxquelles je ne répondais pas, ce qui me valait ensuite des « menaces » de radiation particulièrement anxiogènes. Une participante est ensuite venue m’« interviewer », nous avons déconstruit cette situation, nous en avons tiré une morale et même des idées d’améliorations fonctionnelles du service (par exemple : pouvoir motiver un refus à l’écrit, et être sûr que ce refus sera relu par un être humain). Mon cas n’est pas isolé (rassurez-vous, je m’en suis sorti), mais je pense à la mère de famille seule qui rate un rendez-vous parce qu’elle doit aller chercher son enfant à l’école, ou qui refuse un poste pour une légitime question d’horaires. Ce n’est pas nouveau, la vie est faite de mille petites exceptions qui, mises bout-à-bout, nous rappellent à quel point chaque situation est unique. Nous entrons rarement dans les cases des algorithmes. Je précise que mon anecdote date de 2011, elle ne vaut peut-être plus aujourd’hui.

Je tire de cette petite expérience plusieurs enseignements qui pourront vous paraître évident mais comme on dit : « ça va mieux en le disant ». D’une part, comme je n’ai de cesse de le rappeler : la technologie n’est jamais neutre. Elle génère des effets au-delà de ce qui est prévu, et ces effets peuvent parfois être négatifs (je pense aussi aux changements occasionnés par les caisses automatiques dans la qualité de vie au travail des caissières : loin de l’améliorer, les automates l’empirent. Les caissières se retrouvent à surveiller six caisses en même temps et à devoir aider les personnes en difficulté avec les machines). Deuxième enseignement : la mise en controverse est un exercice socialement passionnant. Bien sûr, le trait de la méthode est grossier, les questions sont très générales, mais le format permet de commencer à identifier des préjudices potentiels produits par une transformation technologique et donc de s’en prémunir, dans le meilleur des cas (de façon très concrète : en refusant une innovation ou en la transformant suivant les critiques dont elle a été l’objet). Ensuite, cet échange permet d’aborder des questions sociales de haut niveau (cela dépend aussi de la nature des questions posées, bien sûr). En prenant une transformation par son versant technologique et avec son regard de citoyen, il devient possible d’interroger des rapports de force, la relation entre un salarié et les choix de son employeur, l’injonction à la réduction des coûts et bien d’autres choses encore. Bien sûr, comme toute démarche de co-design, le passage au concret demande plus de cadrage et de suivi. Par ailleurs, si un tel atelier s’inscrit bien dans une démarche de transformation du service public, il n’est pas forcément applicable tel quel pour un service privé : on se voit mal interroger les questions sociétales posées par Ubereat ou Feed avec ce même regard citoyen. Pour ces services qui sont sous le feu de nombreuses critiques, on considère que le marché gère la controverse. Si vous n’aimez pas, n’achetez pas (un argument très limité, mais passons).

Je ne cache évidemment pas que je suis favorable à une démocratie beaucoup plus délibérative et directe, notamment à l’endroit des innovations, qu’elles soient publiques ou privées. A plus forte raison quand des « disruptions » brisent certains codes et restructurent l’espace public ou ce qui touche à la vie en société (sans que cela fasse nécessairement partie de l’espace public à proprement parler d’ailleurs, qu’il s’agisse de la vie de famille ou de la relation à la nature). Dans le cadre d’une montée progressive des entreprises vers des démarches éthiques, il me semble intéressant de diffuser plus largement ce genre de méthodologies. Sans naïveté bien sûr, mais en gardant à l’esprit qu’elles peuvent aider les salariés à trouver du sens à leur travail, et aux entreprises à répondre à des besoins réels sans tout casser autour d’elles.

Enfin, cette petite expérience conforte l’idée selon laquelle quelque chose manque dans la tech, quelque chose qui s’appelle la démocratie.

Nous devons aller plus loin que la simple prise en compte des « retours clients » au travers d’itérations. Nous devons questionner ce que nous faisons sous un prisme social qui envisage les véritables questions qu’une société doit se poser à l’ère de l’anthropocène, à l’ère des Gilets jaunes. Nous devons réveiller le citoyen qui sommeille dans le client ou l’utilisateur. Différents événements et formats témoignent de cette aspiration croissante, je pense par exemple aux Tribunaux des générations futures d’Usbek & Rica, au Grand Barouf du numérique organisé à Lille, ou aux controverses animées par Campt’ TIC (33 éditions depuis 2014 !), il en existe des tas d’autres. Ces rencontres offrent des simulations (et peut-être dans certains cas, des simulacres) de procédures démocratiques. C’est comme si nous essayions d’inventer les institutions qui n’existent pas (ou trop peu) pour réguler le progrès et l’innovation technologique ! Il est donc urgent de faire émerger ces institutions et ces procédures pour de vrai, au-delà de ces petits ateliers, pour rendre nos démocraties et nos technologies plus démocratiques.

[1] Dominique Pasquier est sociologue, elle a récemment publié une enquête sur les usages d’Internet dans les familles modestes (une interview sur Internetactu). Orianne Ledroit est Directrice de la Mission Société Numérique, pour une réalisation récente, voir la série « Hyperliens ». François Huguet est sociologue, il est notamment à l’initiative de la MIN (Maison de l’inclusion numérique).

Irénée Régnauld (@maisouvaleweb)

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *