Simulmatics : le big data au service de la manipulation politique 50 ans avant Facebook

Avec IF THEN : how the Simulmatics Corporation invented the future, l’historienne Jill Lepore retrace la passionnante histoire de Simulmatics, une entreprise tombée dans l’oubli, et pourtant pionnière des « big data » à des fins de manipulation politique. Le récit de Lepore nous mène en pleine guerre froide et pose, des décennies avant l’affaire Cambridge Analytica, les grands enjeux de la prédiction algorithmique sur les terrains électoral, militaire et publicitaire. Elu livre de l’année The Financial Times, IF THEN est certainement une brique qui manquait à l’histoire de l’informatique.

Les « Mad men » au service des Démocrates

Fondée par Ed Greenflield en 1959, Simulmatics est une contraction de deux termes : « simulation » et « automatics ». Son inventeur espérait que le mot-valise devienne, à l’instar de « cybernétique », l’équivalent d’un slogan. Malheureusement pour lui, c’est « intelligence artificielle » qui finit par remporter le lot, avec un sens assez proche de ce qu’il entendait par Simulmatics.

Mais il faut remonter de quelques années pour comprendre le contexte dans lequel naît l’entreprise. En 1952, le républicain Dwight D. Eisenhower entre à la maison blanche – contre toute attente, son élection avait été « prédite » par l’ordinateur Univac. L’époque est celle de l’informatique naissante, de la guerre froide, du combat pour les droits civiques et de l’essor soudain des sciences comportementales, elles-mêmes issues de plusieurs années d’études des stratégies de propagande à l’oeuvre pendant la seconde guerre mondiale. C’est aussi à ce moment qu’une bande de « Mad men », avec Greenfield à sa tête, se persuade qu’il est désormais possible de prévoir le futur grâce aux machines.

L’équipe réunit la crème de la crème. Greenfield, business-man et chef d’orchestre, Alex Bernstein, qui créera un des tous premiers programme informatique de jeu d’échec, Bill McPhee, programmeur en FORTRAN, Eugene Burdick, politiste et essayiste. Ce dernier proposera de classer les votants en 480 catégories bien distinctes. Burdick quittera vite le navire et sera remplacé par Ithiel de Sola Pool, du MIT, universitaire célèbre qui fut à l’origine de « l’effet du petit monde », plus connu sous le nom de « théorie des six degrés de séparation ». Ces hommes forment la colonne vertébrale du récit. Jill Lepore nous dira tout de leurs vies, de leurs penchants pour l’alcool, jusqu’à l’intimité de leurs relations conjugales.

Un futur obsédé par le futur

Fin des années 1950. Après deux défaites du candidat démocrate Adlai Stevenson face à Eisenhower, les démocrates sont en mauvaise posture. Le but premier de Simulmatics sera de faire élire J.F Kennedy à la primaire démocrate. Pour cela, Simulmatics met au point le « projet Macroscope », un système nourri de données éparses – enquêtes d’opinion, études des élections passées – conçu pour cibler les fameuses 480 catégories d’américains en âge de voter. Pour Lepore, c’est le point de départ d’une nouvelle conception de la politique. C’est aussi le début du profilage à la granularité de l’individu. Il ne s’agit plus de défendre des idées au nom d’une vision du monde, mais de concevoir un programme susceptible de répondre aux opinions exprimées par des personnes isolées les unes des autres.

Le postulat est simple, la machine agirait comme un « Macroscope » : « vous pouviez lui poser n’importe quelle question sur la position que devrait tenir un homme politique, et elle vous dirait comment pourraient réagir les différentes catégories de votants ».  A partir des analyses issues du Macroscope, Simulmatics conseillera à Kennedy de courtiser le vote noir et de raffermir ses positions sur les droits civiques. Lepore ironise : « un politicien devrait-il prononcer un discours fort sur les droits civiques dans le Sud parce que c’est ce qu’il faut faire ? Non. Un politicien devrait prononcer un tel discours dans le Sud si et seulement si le Macroscope le conseille, sur la base d’analyses statistiques. »

Qu’importe alors si le débat perd toute consistance. Qu’importe si moralement, on admettra jusqu’à dans les plus hautes sphères politiques et intellectuelles, qu’une telle pratique devrait être interdite. L’historien Arthur Meier Schlesinger lui-même, ne déconseillera pas à Kennedy d’en faire usage. Le projet Macroscope débute, et Lepore constate qu’il ne s’est pas arrêté depuis. Magnanime, elle nous rappelle que ses concepteurs n’étaient pas si mal intentionnés. Après tout, ils voulaient faire élire un démocrate ! Seulement, ils ne pensaient pas aux implications qu’allait avoir leur petit jeu, leur obsession du futur, un futur « obsédé par le futur ». 

Controverses et changement de stratégie

Avec la victoire de Kennedy à la primaire démocrate, les débuts de Simulmatics sont vécus comme un succès préoccupant. L’affaire fera les gros titres des journaux (Lepore rapporte un « KENNEDY CAMP DENIES USE OF AN ELECTRONIC BRAIN »). Dans la sphère publique, on se demande si une telle pratique est légale. Kennedy a-t-il triché ? Ce profilage est-il conforme à l’idée qu’on se fait de la politique ? Que devient la vie privée dans un monde de données ? Qu’est-ce que la prédiction fait à la démocratie ? Toutes les questions posées par Cambridge Analytica sont en quelques sorte, déjà là.

Il n’y a certes, aucun moyen objectif de mesurer l’apport de Simulmatics à la victoire de Kennedy. Les différentes conclusions de l’entreprise à l’ex-candidat furent d’ailleurs plutôt banales. La société l’encouragea par exemple à ne pas éviter le sujet de la religion (Kennedy était catholique et les américains n’avaient jamais élu un président catholique), ou encore, disions-nous, à clarifier ses positions sur les droits civiques. Ithiel de Sola Pool, comme pour écarter les accusation de tricherie, expliquera que l’ordinateur ne fut pas plus « qu’une autre voix que le candidat a consulté ». L’ambiguïté quant à l’efficacité de la « voting behavior machine » sera tout de même nourrie par Simulmatics. Faire croire que la machine aurait pu contribuer à faire élire Kennedy faisait clairement partie du business plan de Ed Greenfield, qui conclura en déclarant que « nous avons démontré comme les données de situations passées peuvent être utilisées pour simuler des situations futures ».

En 1960, Kennedy signe pour trois nouveaux rapports en vue des présidentielles. Ceux-ci, comme le précédent, prennent la forme de suggestions basées sur des scénarios IF/THEN (si… alors). Il gagne face à Nixon. Après la victoire, il niera avoir eu recours aux services de Simulmatics. Du point de vue réputationnel, la société en souffrira, et devra commencer à diversifier son portefeuille de clients. Elle étend ses activités à la publicité ciblée. Lepore résume : « Simulmatics prétend avoir créé une simulation de la population, les Etats-Unis en miniature, à partir de 3000 personnes absolument fictives mais représentatives du pays, vivant dans 1000 foyers distincts. Ils peuvent tester absolument tout sur cette population, des publicités de nourriture pour chien, du café, des céréales ou du chocolat. » Le modèle publicitaire est balbutiant, en interne, on reconnaît qu’on manque de données, et qu’il est encore difficile de mesurer avec précision l’attention des consommateurs… Les capacités techniques encore limitées à de nombreux égards n’empêchent pas Ithiel de Sola Pool d’imaginer ce que serait le futur sans ces limites. De façon plutôt prémonitoire, il écrit en 1968, dans la revue « Science and Technology », que « la révolution des communications, ce meilleur des mondes « connecté », ouvrira un nouvel âge hyper-individualiste au sein duquel, par exemple, des flux d’informations customisés seront mis en place, et cela signifiera que les gens ne verront que les informations qu’ils veulent voir ».

Big Data contre-insurrectionnel

Le modèle publicitaire de Simulmatics fait long feu. Après un échec cuisant avec le New-York Times qui souhaite littéralement se lancer dans le data-journalisme pour faire face à l’essor de la télévision, la société se réoriente de nouveau. Greenfield et Pool renouent avec leurs vieux rêves de prédictions. Si ce n’étaient les noms, on jurerait que Lepore nous parle des années 2010, et que ses personnages ne sont autre qu’Eric Schmidt (Google) ou Mark Zuckerberg (Facebook) : « ils croyaient qu’en simulant le comportement humain, leur « People Machine » allait pouvoir permettre d’éviter tous les désastres. Elle pourrait vaincre le communiste. Empêcher les insurrections. Vendre du dentifrice. Accélérer l’information. (…) Gagner la guerre au Vietman (…) prévoir les émeutes raciales et les épidémies (…) en finir avec le chaos. » Plusieurs fois dans l’ouvrage, Lepore rappelera que Simulmatics se voyait comme « la Bombe A des sciences sociales ».

En l’occurrence, la bombe fut mise au service de la guerre psychologique, et utilisée pour combattre le communisme. Nous sommes quelques années après la crise du Cuba, Mc Namara est secrétaire à la Défense et Simulmatics tente de prévoir les insurrections dans les pays en développement. L’Amérique latine est son terrain de prédilection. L’équipe prétend pouvoir simuler l’économie du pays, et propose à ses gouvernants un modèle de développement capable de vacciner l’économie locale contre le virus communiste. C’est le projet Camelot, soutenu par la DARPA, l’agence pour les projets de recherche avancée de défense. Les sciences comportementales pénètrent l’administration de la Défense et un autre projet similaire voit le jour « ComCom », pour « Communist Communication », qui de son côté ambitionne de créer une simulation des populations communistes, de façon à améliorer la propagande qui leur est destinée. La « People machine » pouvait bien prédire les votes et courtiser les consommateurs, pourquoi ne pourrait-elle pas gagner les coeurs et les esprits ?  

Chez Simulmatics, les désaccords internes prennent de l’ampleur. Peut-on créer de tels modèles sans aucun effort de théorisation, demandent certains ? Cependant, les projets continuent. Anecdotiquement, c’est au cours de l’un d’entre eux que naîtront les premiers messages électroniques (e-mail). Dans le récit de Jill Lepore, on croisera également Kubrick, et toute une série de romans, de films, directement inspirés de ce monde qui gravite alors autour des premiers ordinateurs IBM, et des promesses de l’intelligence artificielle naissante. Simulacron 3, qui donnera le film « passé virtuel », ou encore The 480, roman de Eugene Burdick, qui  travailla pour Greenfield en 1956, avant de devenir l’un de ses plus féroces critiques. On rencontrera également les manifestations étudiantes, alors nombreuses, à propos de l’ère informatique qui s’ouvre. Les militants du Free Speech Movement par exemple, portent autour du cou les cartes perforées IBM, et transforment le texte qui y figure en slogan pour eux-mêmes : « ne pas plier, ne pas percer, ne pas mutiler ». Les ordinateurs ne sont pas encore les appareils de libération qu’ils deviendront quelques années plus tard.

Le Vietnam comme laboratoire

Un autre grand terrain d’action privilégié par Simulmatics sera la guerre au Vietnam. C’est sous la présidence de Johnson (Kennedy est assassiné en 1963) que la DARPA demande à Simulmatics de se lancer dans différents travaux en Asie du sud-est. Les objectifs sont pluriels. D’abord, mieux utiliser les ordinateurs afin d’organiser la guerre de façon plus rationnelle. Simulmatics mettra au point des modèles de données afin de répondre à cet « objectif ». Le prix du riz, la taille des populations, le nombre de tanks, de troupes, d’hélicoptères ou encore l’inflammabilité des tiges de céréales seront ainsi agrégés dans d’immenses bases de données, afin de mieux guider l’action militaire. En parallèle, il sera question de concevoir un « modèle de l’esprit vietnamien », à partir duquel les actions de propagandes devraient être pensées. Lepore exhibe l’immense cynisme dans lequel les Etats-Unis s’embourbent alors, parachutant des caisses de flyers incitant leurs ennemis à faire défection et à rejoindre le Sud, tout en bombardant massivement les populations civiles, en détruisant leurs récoltes, en produisant la peur, l’effroi et la mort.

Plus cynique encore, l’historienne s’attarde sur les conditions de récolte et de production des données censées nourrir les modèles. Beaucoup d’entre elles émanent de questionnaires administrés dans des villages, ou à des exilés politiques dont il faudrait comprendre les raisons et motivations. L’enquête de Lepore est à cet égard impressionnante. L’historienne retrace de nombreux parcours individuels, et notamment ceux d’interprètes vietnamiens, ou encore de salariés qui depuis l’intérieur de l’entreprise, signalent que les entretiens sont tout simplement ineptes. Les questions ont été rédigées en chambre, sans ne tenir aucun compte de l’expérience des personnes interviewées. Elles dénotent non seulement une grave méconnaissance des méthodes des sciences sociales, mais aussi un profond désintérêt pour le vécu des populations locales. Ce sont pourtant bien ces questionnaires qui serviront de base « rationnelle » pour poursuivre l’effort de guerre sur des bases statistiques.

En 1966, Ithiel de Sola Pool, alors en charge des opérations à Saigon, déclarera que « le Vietnam est le plus grand laboratoire de sciences sociales que nous ayons eu ». C’est aussi là où Simulmatics fit le plus d’argent, plus que n’importe quelle autres années au cours de son existence. Naturellement, les conclusions de Simulmatics n’avaient aucune espèce de valeur, rappelle Lepore. Tout au mieux, elles confirmaient des hypothèses et des biais déjà bien présents au sein des instances de décisions, chez les hommes politiques et les militaires. L’opposition aux projets de Simulmatics au Vietnam fut importante dans les mouvements anti-guerre, mais aussi chez de nombreux intellectuels comme Noam Chomsky. Et cette défiance suscita, là encore, un mouvement de recul chez les hommes politiques, Johnson au premier plan, qui jugea bon d’expliquer « qu’il y a aucun ordinateur capable de dire l’heure et le jour de la paix ». Pourtant, la question fut bien posée par McNamara en 1967, à l’ordinateur IBM chargé de compiler les données, et qui venait de recevoir son ultime carte perforée : « quand allons-nous gagner la guerre au Vietnam ? », demanda-t-il. Après un week end de vrombissement, l’ordinateur répondit : « Vous avez gagné en 1965 » 

Déjà-vu

L’histoire de Simulmatics, écrit Jill Lepore, commence comme un rêve. « Le rêve de Greenfield, son engagement pour les droits civiques, son appétit de pouvoir et sa fascination pour les toutes dernières machines, les plus rapides ». Ce rêve tourne rapidement au cauchemar, et transforme une bande de jeunes hommes bien intentionnés en apprentis sorciers qui se lancent dans une partie de Sim-city en situation réelle, avec pour seule arme une calculette, et quelques présupposés sur le bien et le mal.

La force de l’ouvrage ne tient pas qu’à l’exhaustivité des sources, ni même à l’originalité de l’histoire. La mise en récit – qui donne une place de choix aux épouses des hommes de Simulmatics, nous fait littéralement traverser leurs vies, et en même temps une partie de l’histoire américaine, façon Forest Gump. Bien sûr, Jill Lepore ne manque pas d’établir quand il le faut, de nombreux parallèles avec l’époque actuelle. La smart-city (et notamment sa version sécuritaire, « safe city »), ou encore la police prédictive sont bien les héritières de l’histoire de Simulmatics. Ce sont bien, là aussi, les mêmes ressorts idéologiques qui entrent en action quand il s’agit de légitimer ces projets techno-politiques. Leurs promoteurs laissent entendre, sans ne jamais présenter aucune preuve, que les inégalités raciales, sociales ou encore les violences urbaines peuvent être traitées grâce à plus de caméras, plus de données, plus d’ordinateurs, « et par dessus tout, plus de « what if algorithmes », ajoute Lepore. Un tel projet n’avait pas convaincu il y a 60 ans, faute de données, et par manque de puissance de calcul. Aujourd’hui, il s’étend et se présente comme inéluctable (la reconnaissance faciale notamment, est en plein boom). Par petites touches cependant, ces systèmes sont également freinés (interdiction de la reconnaissance faciale à Portland, abandon du logiciel de police predictive PredPol à Los Angeles).

Ces systèmes de prédiction n’ont jamais fonctionné. Ils ne fonctionnent toujours pas. Ils ne fonctionneront jamais. Le fait que nous en déployons toujours plus avec toujours aussi peu de résultats nous rappelle juste que les mensonges traversent les époques.

S’il y a un autre enseignement à tirer du livre de Jill Lepore, c’est que la plupart des problèmes que posent aujourd’hui les « nouvelles technologies » et les systèmes de prédiction algorithmique ont été posés il y a bien longtemps. Or lorsqu’il s’agit aujourd’hui de défendre des projets technologiques potentiellement liberticides, un des arguments qui revient souvent consiste à dire qu’il n’est jamais aisé de prévoir ce que pourrait produire comme « effets » une nouvelle technologie, de sorte qu’il est inutile d’interroger sa légitimité, ou encore de penser à l’interdire. A mon sens, le détour historique de Lepore nous montre justement l’inverse. Peut-être est-il temps de ne plus chercher à prévoir le futur, mais à tirer les leçons du passé…

A lire également, la discussion entre Jill Lepore et danah boyd “We Don’t Want the Program” 

Irénée Régnauld (@maisouvaleweb), pour lire mon livre c’est par là, et pour me soutenir, par ici.