Misère de la « nouvelle stratégie numérique européenne »

Le 19 février, la commission européenne a publié son livre blanc sur l’intelligence artificielle A European approach to excellence and trust. Je n’en ferai pas une revue détaillée, juste un commentaire, tant il me semble qu’y investir plus de temps reviendrait à le perdre. 

Le lecteur pressé s’arrêtera aux premières phrases du premier paragraphe de la première page, tant celles-ci réduisent à merveille le déroulé du document tout entier :

« L’intelligence artificielle se développe vite. Elle va changer nos vies en améliorant la santé, en optimisant l’agriculture, en contribuant à l’atténuation du changement climatique ».

Cette prémisse première, confiante et prophétique, déterre d’entrée de jeu ce qui semblait pourtant avoir rempli les poubelles de l’histoire, à savoir cette indéfectible foi dans la puissance de l’incontournable progrès de la technique. Les mots changent mais pas le fond, et le scientisme qui teinte nos bureaucraties, bien que nouvellement marqueté de tous les « by-design » disponibles sur le marché de la novlangue, reste inchangé.

A cette prémisse il faudra en ajouter une seconde : la crainte de perdre son rang dans la compétition internationale. Puis une troisième : l’absolue nécessité du numérique (y compris pour gérer la crise climatique : « Digital technologies such as AI are a critical enabler for attaining the goals of the Green Deal »). Puis une quatrième : la pseudo-neutralité de la technique, qu’Ursula von der Leyen, présidente de la Commission, exprimera en ces termes dans une tribune à L’Usine Nouvelle :

« L’intelligence artificielle n’est ni bonne ni mauvaise en soi : tout dépend du pourquoi et du comment elle est utilisée »

Il faudra en revanche attendre quelques lignes pour qu’enfin, on saisisse la grande idée de ce document : limiter les « risques » de l’intelligence artificielle, et notamment ses « biais ». Car depuis l’histoire du distributeur de savon qui ne fonctionne pas avec les peaux noires, les choses ont changé. Désormais, la commission connaît sa mission : résoudre les biais algorithmiques. Les biais des systèmes publics. Les biais des véhicules autonomes. Les biais des systèmes de surveillance. Les biais par-ci, les biais par-là. Ce n’est pas faute de marteler qu’avant de constater des biais, il a déjà fallu accepter de numériser quelque chose, et d’en récupérer les données pour en faire autre chose. Et qu’à chacune de ces étapes, des humains ont pris et prendront des décisions d’ordre politique, qui elles-mêmes impliqueront des transformations à tous les étages de la société. Mais la commission ne semble pas s’y intéresser car l’IA : c’est bien. Pour la santé, pour le transport, pour la démocratie (« e-government »), pour le service public, pour l’éducation, pour les PME (« intelligent enterprise »), c’est bien. Ursula Von der Leyen ajouterait sûrement la technologie, c’est bien car l’IRM, c’est bien. Peu s’en faut pour admettre que finalement, toutes ces choses se portent plus ou moins mal car nous manquons d’IA. Ainsi donc, nul besoin de complexifier, ni encore d’interroger les finalités derrière les injonctions à tout numériser (quels transports voulons-nous ? Qu’entend-on par « service public » ? A quoi sert l’éducation ?). A cette dernière question, on répondra juste qu’il faut faire usage d’« analyse prédictive » et s’assurer –  je résume – que les force vives qui entreront bientôt sur le marché du travail seront « compatibles » avec le nouvel âge de l’IA (« upskilling the workforce to become fit for the AIled transformation »). Un brin tautologique. Et tant pis si les jeunes eux, n’ont que faire de devenir « éducateurs de robots ».

Dès lors, on comprend le défi de l’Europe qui doit « rattraper son retard » face à la Chine, comme le titre si bien Ouest France. Et plus encore la nécessité d’adapter le cadre juridique à la nouvelle donne technologique. C’est la grande trouvaille du livre-blanc : changer la loi, pour éviter que les nouveaux systèmes d’intelligence artificielle ne l’enfreignent. C’est déjà ça, me direz-vous : le minimum légal. Mais c’est autre chose également : la Commission n’a du droit qu’une vision instrumentale. Le « cadre juridique » n’étant pas considéré comme l’expression écrite de choix démocratiques, ni même comme la déclinaison pratique d’une philosophie, mais comme un simple outil de mise en œuvre d’un programme technologique – voire algorithmique. Le droit des véhicules autonomes. Le droit des systèmes de reconnaissance faciale (qu’on se refusera d’ailleurs à interdire). Le droit de l’industrie 4.0. Le droit de la 5G. Etc. Des règles qui viendront changer ici et là quelques caractéristiques du produit final, dont la légitimité-même ne saurait souffrir d’aucune interrogation. La juriste Antoinette Rouvroy le résume ainsi :

« Gouverner » s’amenuise jusqu’à ne plus consister qu’à « accompagner l’innovation », c’est-à-dire à ménager au déploiement du capitalisme numérique les boulevards de l’acceptabilité sociale en encourageant le développement d’algorithmes « Fair, Accountable and Transparent », en assurant autant que possible la protection des données personnelles « by design », en gardant « l’humain dans la boucle » lorsque les dispositifs algorithmiques interviennent dans les processus décisionnels

Aux effrontés qui rêvent encore d’un monde alternatif, débarrassé des injonctions à innover, et basé sur d’autres prémisses que les conflits de puissance, deux choix s’offrent à vous. Le premier de vous fier à Ursula von der Leyen pour qui de toute évidence, le problème vient des Américains, dont les pratiques ont érodé le capital-sympathie des technologies. Dans ce cas rassurez-vous : la 5G européenne sera beaucoup plus éthique que la 5G américaine. La reconnaissance faciale « à la française » sera bien moins intrusive que sa cousine chinoise.

Le second choix, c’est celui de la participation. Car bien sûr, la Commission souhaite « une IA démocratique », rappelle Maddyness. A ce titre réjouissez-vous, le livre blanc de la commission est ouvert à la consultation publique jusqu’au 19 mai, car c’est bien cela la démocratie : « l’égale possibilité pour chaque citoyen d’influencer la décision », comme le disait si bien Robert Dahl. Si vous parlez anglais et que vous ne craignez pas la novlangue managériale, vous pouvez apporter votre pierre à l’édifice. Peut-être serez-vous entendu.

PS : Virginia Dignum, Catelijne Muller and Andreas Theodorou, membres du « High-Level Expert Group on AI » livrent une critique politiquement correcte du document dans un article First analysis of the EU whitepaper on AI. Ils interrogent notamment la pertinence de considérer l’IA comme une « course », et rappellent qu’une approche « centrée sur l’humain » du développement de l’IA demande d’invoquer sérieusement toute une série de disciplines lors de sa conception, ainsi que les « partenaires sociaux » (qu’on appelait autrefois des « syndicats » – politiquement correct je vous disais). Pour eux, la vision « fataliste » de l’IA telle que présentée dans le whitepaper risque de nous conduire à un monde que nous ne souhaitons pas.

Irénée Régnauld (@maisouvaleweb), pour lire mon livre c’est par là, et pour me soutenir, par ici.