L’intelligence artificielle réactualise-t-elle le rêve cybernétique de gouverner le monde ?

La grande oubliée des débats liés à l’intelligence artificielle est très probablement l’un de ses fondements : la cybernétique. Du grec κῠβερνήτης (kubernêtês) « pilote, gouverneur », la cybernétique devient sous l’égide du mathématicien américain Norbert Wiener « la science du gouvernement des hommes ». En 2004, avec son ouvrage L’Empire cybernétique, Des machines à penser à la pensée machine la sociologue Céline Lafontaine interrogeait l’impact de la discipline sur les sciences humaines dans l’hexagone… Cet écrit, qui n’a pas pris une ride, est l’occasion de questionner le nouvel essor de l’intelligence artificielle dont les effets croissants sur la société ne sont pas sans lien avec cette discipline à l’origine de beaucoup de nos conceptions modernes de la communication.

Cybernétique : la science traumatisée

La cybernétique tire ses racines du conflit de la seconde guerre mondiale. Par l’entremise du mathématicien américain Norbert Wiener, elle permet historiquement la conception des canons capables de viser des objets en déplacement – en l’occurrence des avions de guerre allemands – à une époque où la vitesse des aéronefs interdit le tir à vue. Ces dispositifs fonctionnent en mettant continuellement à jour leur trajectoire en comparant le trajet de la cible avec leurs estimations.

C’est dans l’après-guerre que la discipline ouvre un nouveau continent intellectuel. Naît alors une « science » multidisciplinaire mêlant notamment psychologie, sociologie, économie, automatique et électronique[1]. Dans l’après guerre, la cybernétique vient en quelque sorte rattraper l’enfer nucléaire dont beaucoup de scientifiques sortirent traumatisés. En guise de rédemption, elle promet de réguler la société en se basant sur les concepts d’entropie, d’information et de rétroaction. L’information étant simplement l’inverse de l’entropie (et du chaos), c’est-à-dire ce qui permet de s’adapter à son milieu et donc de vivre efficacement. Dans son ouvrage Cybernétique et société, Norbert Wiener propose cette nouvelle vision du monde dont l’information et la communication sont les piliers, reléguant la loi au second plan et évacuant d’emblée toute critique… devenant de fait inopérante devant l’objectivité de la science. Pour résumer, la bonne organisation humaine et l’établissement de la paix seraient affaires de bonne communication et non plus de politique. Ainsi, la cybernétique se place au-dessus du politique et de tous systèmes idéologiques. Dans son stimulant ouvrage, L’utopie de la communication, le chercheur Philippe Breton décrira la cybernétique comme une « religion laïque » : un courant de pensée dont la finalité serait de réguler la société en programmant les comportements individuels et collectifs, eux-mêmes assimilables au fonctionnement d’une machine.

C’est lors de conférences de Macy, de 1946 à 1953 que se met en place le paradigme cybernétique. Ces réunions concernent des scientifiques dans des champs aussi variés que l’informatique, l’automation, les sciences cognitives, la prothétique ou la biologie moléculaire. Céline Lafontaine nous rappelle un fait important : ces rencontres se tiennent alors même que les Etats-Unis s’embourbent dans le McCarthisme. C’est donc sous une apparente neutralité que les scientifiques se réunissent, toute pensée politique trop véhémente est d’office exclue, quand bien même le projet largement partagé par tous est de faire de la cybernétique un modèle de gestion de la société ! C’est aussi à ce moment que Georges Boulanger, Président de l’Association Internationale de Cybernétique prophétisera que ce nouveau champ saura « définir l’intelligence et la mesurer, expliquer le fonctionnement du cerveau et construire des machines à penser ». Il ajoutera que la sociologie, le droit et la philosophie « deviendront tributaires » de la cybernétique. Les quelques discours actuels qui souhaitent ériger le quotient intellectuel (QI) en étalon ultime et objectif de l’intelligence humaine s’inscrivent dans cette tradition – réductionniste – qui met sur le même plan hommes et machines.

Le flou de l’antihumanisme

L’ouvrage de Lafontaine est intéressant car il remet la cybernétique dans un contexte historique plus large. La sociologue rappelle les liens étroits entre la discipline et le béhaviorisme (ou comportementalisme) qui stipule que tout comportement humain, y compris la pensée, peut être assimilé à des réactions adaptatives selon le schéma stimulus-réponse. En allant plus loin encore, la cybernétique postule un individu « vide » dont les actes ne seraient que le fruit de réactions déterminées par l’environnement. Cette hypothèse vient nourrir la thèse de Céline Lafontaine selon laquelle la cybernétique est un antihumanisme. Si l’humanisme est aujourd’hui un terme fourre-tout qui fait l’objet de nombreuses critiques, il n’en revendique pas moins une intériorité humaine – et un libre choix individuel – que la cybernétique récuse. Norbert Wiener convenant en retour qu’une machine pourrait être dotée d’une individualité propre (quand on lui rétorque qu’une machine n’a pas d’intériorité car elle ne souffre pas, il laisse planer le doute : « Ce n’est pas si sûr… »). C’est dans ce flou philosophique qui touche à la vision même de ce qu’est un homme que sont venus se loger nombre d’applications de l’intelligence artificielle, nous y reviendrons.

Norbert Wiener - affiche du colloque Cybernétique, intelligence et imagination

Norbert Wiener – affiche du colloque Cybernétique, intelligence et imagination

Ce qui est paradoxal, c’est qu’une science née de l’horreur de la guerre « porte en elle les tendances totalitaires qu’elle devait combattre », écrit Lafontaine. Paradoxal, ou pas : les éminents chercheurs des conférences de Macy (parmi lesquels John Von Neumann et Claude Shannon) avaient pour objectif rien de moins que suppléer les erreurs humaines en créant une machine capable de contrôler, de prévoir et de gouverner. Et ceci en dehors de tout contrôle démocratique, à l’abri des velléités du peuple, des considérations bassement politiques, des luttes de classes. Un tel programme n’est pas sans rappeler l’actuel projet chinois de « social credit system », qui attribue aux citoyens de l’empire du Milieu un score notant leurs comportements mesurés par un simple Smartphone et jugés vertueux ou non par des algorithmes aux mains du pouvoir central (payer ses factures à l’heure est vertueux, dire du mal du gouvernement ne l’est pas). Un mauvais score étant synonyme de restriction du droit à certains services sociaux. Sous ce genre de programme, c’est l’irrationalité qui est désignée comme le nouvel ennemi. L’arme pour la combattre est bien sûr la surveillance de masse, avec pour cible les faiblesses humaines (qui selon l’idéologie cybernétique auraient conduit au désastre de la seconde guerre mondiale). La chercheuse Antoinette Rouvroy utilise le concept de « gouvernementalité algorithmique » pour décrire cette « stratégie de neutralisation de l’incertitude – et, en particulier, de l’incertitude générée par la spontanéité des comportements humains. »

Des influences multiples à l’assimilation abusive…

Bien sûr, l’ingénierie sociale ne date pas de la cybernétique. De l’hygiénisme du XVIIIe siècle au positivisme d’Auguste Comte, la normalisation des comportements s’écartant de la norme a été un cheval de bataille récurrent dans l’histoire. Cependant, l’ouvrage de Lafontaine est original en cela qu’il postule une filiation entre la cybernétique et la pensée post-structuraliste française (la French Theory). Ainsi, Deleuze, Derrida, Foucault, Jean-François Lyotard, Levi-Strauss et même Michel Foucault sont directement visés et accusés d’avoir produit, sinon renforcé, l’idée d’un « inconscient devenu un lieu vide où s’incarne la fonction symbolique ». Pour Lafontaine, ces intellectuels auraient à cette occasion mis à bas le projet humaniste. Notons que cette critique a également été reprise par le groupe technocritique Pièces et Main d’oeuvre, pour qui la French Theory n’a rien fait d’autre que préparer l’avènement transhumain, puis du post-humain (et cyborg ou « cybernanthrope »). Le point de bascule de ce déplacement de la cybernétique vers les sciences sociales françaises étant, toujours selon Lafontaine, l’anthropologue Gregory Bateson, qui aurait traduit, si l’on peut dire, la cybernétique en langage psychiatrique. La sociologue poursuit la filiation jusqu’à Friedrich Hayek, un des pères du libéralisme moderne avec ses « ordres sociaux spontanés » (entendre : un marché pleinement libéralisé dont le bon fonctionnement est assuré par la régulation naturelle des interactions individuelles). Pour ajouter à l’auto-da-fé, la sociologue adjoint au groupe le gourou Raël, dûment accusé de militer pour le transfert de la conscience humaine dans les ordinateurs. Rappelons au passage que la doctrine politique de ce dernier (la « géniocratie ») préconise que seules les personnes dotées d’un quotient intellectuel élevé soient chargées des fonctions dirigeantes.

On peut chercher quelques imprécisions chez Lafontaine, par exemple, la connexion idéologique un peu hâtive entre première et seconde cybernétique, qui ne reposent pourtant pas exactement sur les mêmes présupposés. Je ne reviendrai pas non plus sur la possible genèse américaine et cybernétique du post-structuralisme français, laissant aux experts de ces auteurs épars – qu’il me paraît délicat, sinon abusif, de placer sous une seule et même bannière – le soin de l’analyse personnelle. A cet endroit, François Cusset, dans son texte Cybernétique et “théorie française” : faux alliés, vrais ennemis, a largement défriché le terrain puisqu’il pointe une triple simplification de la part de la sociologue : « une illusion causale consistant à inférer d’une convergence fragmentaire un transfert intellectuel d’ensemble ; une myopie idéologique liée au refus d’admettre qu’on puisse se référer aux mêmes concepts dans un cadre — et un but — politique opposé ; et une courte-vue historique interdisant de tenir compte de l’alliance objective depuis vingt à trente ans, en France comme aux États-Unis, de l’antihumanisme cybernétique et de l’humanisme démocratique dominant. » Il n’en demeure pas moins que l’exposition complète du paradigme cybernétique par Lafontaine permet quelque actualisation concrète avec la réalité des discours prophétiques liés à l’intelligence artificielle. C’est très lisible dans la littérature des futurologues qui raffolent de scénarios où sont automatisées les actions et décisions humaines.

La cybernétique est parmi nous

Réfléchir à la cybernétique aujourd’hui peut sembler un peu théorique. Ses applications pratiques sont pourtant nombreuses. La guerre moderne par exemple, est profondément cybernétique. Les armes actuelles comme les drones et autres robots-tueurs tendent à devenir de plus en plus autonomes : elles préconisent de tuer non plus des hommes mais des « patterns » de données sur la base d’inférences statistiques. On touche de près au fantasme d’une guerre pleinement automatisée faite par des machines qui sauraient assurer l’élimination rationnelle et silencieuse d’un ennemi sans visage, en dehors de tout contrôle humain. Il en va de même pour la justice prédictive, on table sur l’intelligence artificielle pour prédire le lieu et le moment d’un crime. Le système HART (pour Harm Assessment Risk Tool) a par exemple été testé par la police de Durham (UK) en se basant sur quatre années d’archives d’arrestations. Dans la guerre où dans la police, la cybernétique accompagne la lutte contre l’incertitude, contre la fameuse entropie au centre de la théorie cybernétique.

Mais au-delà de ces exemples paradigmatiques, la logique cybernétique s’étend à des activités bien plus proches de notre quotidien. Le récent ouvrage Disruption du « digital evangelist » Stéphane Mallard en est une bonne illustration. L’auteur y théorise un futur façonné par les nouvelles technologies au sein duquel les individus seraient contraints de s’adapter à une forme de darwinisme techno-économique (la fameuse disruption – à la fois « violente et inéluctable »). L’inéluctabilité étant la première pierre d’un édifice évacuant par principe le politique, dans la droite lignée du projet cybernétique (à quoi bon lutter contre l’inéluctable ?). La conception même du rôle dévolu aux nouvelles technologies éclaire les racines cybernétiques de l’ouvrage, Mallard y décrit une révolution digitale qui « fluidifie et simplifie le monde » et ajoute « elle s’attaque aux aberrations économiques, aux frictions et aux rigidités ». A ce stade, on pourrait encore convenir du caractère probable (mais pas certain) de telles affirmations, on pourrait aussi mettre en doute la capacité du digital à « simplifier le monde » (si tant est que la formule ait un sens quelconque). A l’heure des fake news, de la cybercriminalité, du dérèglement climatique, des crises financières à répétition, on pourrait tout aussi bien avancer que le monde s’est complexifié. Mais passons.

La chose devient plus délicate quand l’auteur prophétise des assistants intelligents recommandant à l’utilisateur le meilleur achat possible pour son enfant à partir des données recueillies sur ses habitudes. Plus intrusif encore, de tels assistants seraient mieux à même de décider de l’avenir professionnel de l’utilisateur que si ce choix lui appartenait : « même si vous n’aviez pas encore pris conscience qu’il était temps de changer d’emploi, votre assistant, lui, saura où est votre intérêt et s’en sera chargé pour vous ». Cet exemple (il y en a beaucoup d’autres dans le livre) épouse parfaitement la doctrine cybernétique : les hommes ne sont plus considérés comme des êtres autonomes dotés de désirs et de projets, mais comme des sujets vides, sans intentions, tournés vers l’extérieur et seulement capables de répondre aux stimuli. Autrement dit, les hommes sont semblables à des machines cybernétiques sans intérieur, des boîtes noires apprenantes, à l’instar des réseaux de neurones qui se règlent par essais / erreurs. Lafontaine utilise le mot « réacteur » pour décrire ce nouvel homme dont les actions futures sont entièrement prédictibles par des algorithmes (avec les meilleures intentions). Il ne s’agit pas ici de dire que de tels assistants n’existeront jamais (après tout, Amazon est bien capable de prévoir nos achats futurs), ce qui est intéressant, c’est la vision de l’homme qui sous-tend cette prédiction et bien sûr la croyance ferme et définitive que celle-ci pourrait « servir notre intérêt », autant individuellement que collectivement (car bien sûr, la conjonction des choix individuels accoucherait naturellement d’une société optimisée, paisible et durable). Or le problème quand les machines préemptent nos désirs et les actualisent « à notre place », c’est que nous n’avons jamais vraiment l’occasion de vérifier ce que nous aurions pu faire sans elles. Sans aller jusqu’à affirmer que nous serions pleinement libres de nos choix (qui sont déterminés par tout un tas de facteurs complexes), le projet humaniste en prend un petit coup. Qui peut encore penser, à l’heure des plateformes monopolistiques collectionnant les scandales, que des machines pourraient allouer les bonnes « ressources humaines » aux bons endroits, assurant performance et prospérité à la marche du monde ? N’était-on pas sortis de cet imaginaire daté ? De cette utopie qui fait du réseau de communication la principale force motrice du progrès social ?

Entendons-nous : le débat doit vivre et on peut tout à fait souscrire à ce genre de vision. Ce qui interroge en revanche, est que l’auteur puisse dans une interview prétendre offrir « un regard neutre et accessible à tous sur le numérique et ses impacts sur le business, l’économie et la société ». Il devient urgent de débusquer les idéologies sous les discours technologiques qui sont trop souvent perçus comme neutres, voire dotés d’une incontestable aura scientifique.

Reprendre le contrôle (quelle ironie !)

La cybernétique a permis d’immenses avancées dans de nombreuses disciplines. Du médical au spatial, en passant par les diverses techniques d’intelligence artificielle qui s’y rapportent et qui peuvent aussi changer le monde positivement. Il n’est question ici ni de nier ces prouesses, ni de les stopper dogmatiquement.

Pas question non plus de réduire la complexité de la cybernétique et des multiples développements en intelligence artificielle à un ou plusieurs futurologues dont on sait que les prédictions sont très exagérées, peu représentatives de l’état des sciences et des techniques et encore moins des attentes réelles des citoyens et des consommateurs. La filiation dans les discours cependant, mérite d’être notée. Les prophéties technologiques ont historiquement eu un impact important sur les investissements dans le secteur. A quoi bon aujourd’hui, mettre les technologies les plus pointues que l’homme ait conçu au service de programmes qui réduisent l’autonomie et la liberté des individus ? C’est pour moi le grand paradoxe du libéralisme technologique qui s’est diffusé mondialement depuis la Silicon Valley. Si la liberté est la valeur cardinale du libéralisme, pourquoi alors s’enfermer dans des modèles algorithmiques ? Pourquoi cloisonner les populations dans des systèmes de surveillance permanente ? Récemment, Google défrayait la chronique pour avoir breveté un appareil capable de détecter la durée d’un brossage de dents et de reconnaître via une caméra un fumeur afin de prévenir son assurance du méfait… Cet énième exemple n’illustre-t-il pas parfaitement le cauchemar cybernétique dont il faudrait absolument s’éloigner ?

« Avec son idéal de contrôle et de gestion informationnelle, l’empire cybernétique nous aurait-il finalement confisqué l’avenir ? » demande Lafontaine en fin d’ouvrage. Une très courte conclusion se veut rassurante : le tableau est certes sombre mais il n’y aurait rien d’inéluctable. Une chute qui sonne faux après tout un argumentaire au vitriol. S’il y a un enseignement cependant, c’est que l’imaginaire technologique est bien souvent bouché, il s’embourbe dans des visions qui renforcent l’hétéronomie en lieu et place de l’autonomie. Nous en venons à oublier que nous pourrions faire tout à fait autre chose de ces technologies… L’IA peut rationaliser une multitude d’activités, faire progresser la médecine, la science et notre connaissance du monde, et pourquoi pas même, être mise au service de l’émancipation, de l’ « encapacitation » des citoyens, tout comme le web a pu l’être à certains égards. Pour veiller à ce que ces directions souhaitables soient prises, il convient de se défaire de quelques dogmes et théories qui souhaitent inscrire dans la technologie de véritables idéologies dont l’humain ne sortira pas forcément plus libre. Il faut aussi ne pas céder à la facilité de tout optimiser juste parce que c’est techniquement possible. Reparler de la cybernétique est une première étape.

[1] La difficulté à en faire une véritable science vient du fait que la cybernétique n’étudie pas un phénomène naturel et a seulement des finalités pratiques

3 comments

  1. C’est amusant, sans être expert du sujet, j’ai toujours eu une image de Wiener plus nuancée. Alors que Von Neumann a eu un rôle sans équivoque pendant la guerre froide, il me semblait que Wiener avait refusé tout financement militaire pour ses recherches après la seconde guerre mondiale et avait critiqué le Maccarthysme. Dans ce cadre, je trouve que cette phrase de Lafontaine mériterait d’être étayée :

    « Ce qui est paradoxal, c’est qu’une science née de l’horreur de la guerre « porte en elle les tendances totalitaires qu’elle devait combattre », »

    Sur le même sujet, j’avais lu il y a quelques temps cet autre article sur la cybernétique et le projet CyberSyn monté par le gouvernement Allende au Chili, au début des années 1970 :

    https://www.monde-diplomatique.fr/2010/07/RIVIERE/19389

    Voilà de quoi ouvrir un débat passionnant !

    Votre article est du reste excellent, et je prends toujours autant de plaisir à vous lire.

    Reply
    • Bonjour François, oui le livre de Lafontaine est clairement à charge. J’ai essayé de nuancer tout en ne parvenant pas à me défaire totalement de son argumentation, qui me semble tout de même très pertinente. Effectivement Wiener refusait tout financement militaire, mais la cybernétique est quand même née pour et pendant la guerre, c’est tout le paradoxe que souligne la sociologue (je me replongerai dans l’ouvrage pour apporter un peu de contexte à cette citation). J’avais également lu l’article que vous citez, mais qui ne m’a pas vraiment convaincu, l’idée est quand même de réguler l’économie sur le modèle du feedback, je cite l’auteur : « (…) concrètement, de relier ces entreprises sous forme d’un réseau d’information, avec pour objectif d’affronter en temps réel les inévitables crises de l’économie. », je trouve cela un peu illusoire. Le fait qu’il s’agisse d’une économie socialiste ne change pas grand chose : après quelques refus de Staline qui disait que la cybernétique était une science bourgeoise, l’URSS a complètement adopté le paradigme cybernétique et en a même fait un science officielle du régime. Ma lecture de Cybernétique et société date un peu, mais je me plonge à l’instant où je vous écris dans « God and golem », car j’ai envie de creuser un peu – dans le texte – le débat que vous soulevez. Et merci pour les éloges ;-), j’essaie de rendre cela interéssant et un peu plus actuel, les retours positifs font toujours plaisir.

      Reply
      • Je dois avouer que vous marquez un point sur l’article de Philippe Rivière, notamment sur l’utilisation de la cybernétique par l’URSS. De mon côté, mon point de vue se retrouve plutôt dans cette citation :
        « la notion cybernétique de contrôle n’est pas celle-là. Tout comme la psychiatrie de [Ronald] Laing a pu parfois être décrite comme l’antipsychiatrie, les cybernéticiens britanniques auraient été bien avisés, sur un plan rhétorique, de se définir comme spécialistes de l’anticontrôle »

        Je m’explique : en matière de science « behaviorist », je pense qu’on ne peut pas nier l’importance des théories développées par Daniel Kahneman (même si ce point de vue peut certes être nuancé au vu de la crise de reproductabilité actuelle dans les sciences psychologiques [1]). Certes, les travaux de Kahneman peuvent être utilisés par des Etats ou des entreprises dans un but de contrôle des populations (on retrouve les nudges, que vous avez déjà évoqués par ailleurs). Mais à titre personnel je tends à croire que prendre conscience de nos biais cognitifs peut permettre une certaine émancipation, individuelle ou collective. Bref, mieux prendre conscience de nos propres déterminismes (notre part cybernétique) pour renforcer notre part d’humanité. Mais je pense que ma position n’est pas très éloignée de la votre au final 😉

        [1] https://replicationindex.wordpress.com/2017/02/02/reconstruction-of-a-train-wreck-how-priming-research-went-of-the-rails/#comment-1454

        Reply

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *