Il faut « contenir » l’intelligence artificielle, affirme Mustafa Suleyman dans son ouvrage The coming wave, Technology, power and the 21st century’s greatest dilemma (Crown, 2023), unanimement salué par la « critique » (Bill Gates, Daniel Kahneman, Eric Schmidt, Tristan Harris, etc.).

Contenir est à lire ici dans le sens « d’endiguer », en écho à la stratégie des États-Unis dans l’après-guerre pour stopper l’extension de la zone d’influence soviétique. Initiateur du « Partnership on AI » , une coalition visant une utilisation responsable de l’intelligence artificielle, Suleyman est aussi et peut-être surtout, le fondateur de la société Deepmind, rachetée en 2014 par Google et notamment connue pour avoir mis au point le programme de jeu de Go AlphaGo. C’est donc depuis l’intérieur du réacteur que l’entrepreneur écrit, avec une thèse centrale : l’essor de l’intelligence artificielle et de la biologie de synthèse est inéluctable. Ces technologies ont déjà commencé à converger et rien ne les arrêtera. Mais les enjeux et les risques sont multiples : ces progrès doivent donc être domestiqués. Suleyman n’est pas un techno-béat classique, ni un libertarien. Son livre est un exercice d’équilibriste et tente de concilier l’inarrêtable élan technologique avec les exigences d’une société apaisée. Une pente savonneuse.

There is (almost) no alternative

Le point de départ de Suleyman tient en deux grands principes. D’abord, l’inévitabilité de la « vague » technologique qui arrive – soit un « ensemble de technologies qui surgissent au même moment, propulsé par une ou plusieurs nouvelles technologies à usage général, avec des implications sociales fortes. » (p. 26) Ensuite, l’aveuglement des élites politiques et, à certains égards, entrepreneuriales, incapables de percevoir les risques considérables que cette déferlante implique, toutes coincées qu’elles sont dans leur aversion au pessimisme. L’auteur se positionne entre les deux. S’il ne lâche rien aux éblouissants progrès et aux promesses de croissances qui devraient découler des nanotechnologies, biotechnologies, technologies de l’information et sciences cognitives (NBIC), il présente son approche comme prudente : « nous devons contenir l’intelligence artificielle » (p. 18). Par « contenir », il entend la capacité à « contrôler, limiter et si besoin, fermer certaines technologies à n’importe quel stade de leur conception ou de leur déploiement. » (p. 36).

Le début d’ouvrage vient illustrer cette vague de nombreux exemples, de l’automobile à la Loi de Moore (selon laquelle la puissance des microprocesseurs double tous les 18 mois) en passant par l’imprimerie. En résumé : l’accélération est inévitable et l’histoire le prouve. La technologie suit nécessairement le chemin de la performance et finit par se diffuser largement. Suleyman ne plonge pas plus en détails dans les contextes socio-historiques qui expliquent par quoi les choix techniques sont motivés (celui de la voiture par exemple, n’a jamais été une évidence, et a découlé de stratégies des majors pétrolières qui y avaient tout intérêt^[1]), pas plus qu’il n’interroge la notion même d’efficacité (depuis L’idéologie sociale de la bagnole d’André Gorz, on sait bien que la voiture n’est pas l’objet le plus « efficace » pour se déplacer). S’il demeure capable de citer ici et là quelques historiens des techniques (Lewis Mumford par exemple), sa bibliographie reste sélective, et mène à cette étrange ambivalence qui parfume tout le livre : il n’y a pas d’alternative au futur des technologies, mais il faut tout de même le contenir.

Est-ce seulement possible ? A-t-on déjà dit « non » au progrès ? Pas vraiment, rappelle Suleyman. Le nucléaire (et notamment les traités de non prolifération) compte parmi les rares exceptions qui confirment la règle : « notre appétit pour l’invention est insatiable » (p. 41). Cette lecture qui ne tient pas compte des régulations technologiques à la marge – c’est-à-dire en dehors de l’interdiction pure, surprend par son réductionnisme. Mais il y reviendra en fin d’ouvrage, dans une quasi-contradiction et pour défendre sa thèse : il faut se donner les moyens d’influencer le cours du progrès technique…

Explosion cambrienne technologique

Dans son collimateur : les technologies liées à l’intelligence artificielle. Les progrès en la matière sont impressionnants. Dans trois à cinq ans, écrit-il, des IA seront capables, avec une mise de départ de cent mille dollars, de « faire un million de dollars sur Amazon en quelques mois » (p. 76) en repérant ce qui s’y vend le mieux, en le faisant construire par un fournisseur sur Alibaba et en mettant à jour régulièrement les éléments de communication en tenant compte des retours des utilisateurs. Il faudrait, à la rigueur, aider un peu l’IA à ouvrir un compte bancaire et à monter une entreprise. Les grands modèles de langage actuellement sous les feux des projecteurs permettraient d’atteindre ce palier dit « d’intelligence artificielle capable » (ACI) – une IA capable est donc capitaliste, CQFD.

Mais cette « explosion cambrienne » concerne aussi la biologie de synthèse (l’ingénierie de la biologie) dont les développements sont également exponentiels. Tout comme les promesses d’ailleurs, qu’il s’agisse d’inverser l’âge pour ne plus vieillir (la biotech Altos Lab a levé 3 milliards de dollars à cette fin), de capter le CO2 de l’atmosphère (à la manière de ce que fait la startup Solugen) ou encore de synthétiser des phytoplanctons qui « aideront les océans à devenir des puits de carbone plus importants et plus durables » (p. 139). Sans oublier Deepmind bien sûr, qui a réussi la prouesse de prédire la structure de centaines de millions de protéines avec Alphafold. Il faut à ce titre reconnaître que Suleyman n’est pas complètement naïf. Il sait saupoudrer ici et là ses envolées de réflexions plus pragmatiques, et même de critiques à l’encontre des glissades technosolutionnistes et autres rappels de l’urgence et de la réalité du dérèglement climatique. Il ne manque pas grand-chose pour qu’il dénonce le manque d’éthique dans les pratiques d’Elon Musk, dont les équipes n’ont pas hésité à sacrifier des cochons, des moutons et des singes pour développer l’implant neuronal de Neuralink (un des fleurons de cette convergence NBIC), mais sans doute par choix de ne pas verser dans les attaques ad hominem, on ne lira rien de tel. En définitive, toutes ces technologies pourraient bien nous permettre de vivre mieux, plus longtemps et en meilleure santé.

La liste continue avec la robotique. Aujourd’hui dans les entrepôts Amazon, les robots seront demain dans les écoles. Et aussi dans les champs (NB : ils y sont bien évidemment déjà, mais pas encore sous formes d’abeilles électroniques allant butiner en lieu et place des abeilles naturelles). Leur capacité à travailler en réseau, signal faible de la grande augmentation de leur intelligence, devrait cependant nous inciter à demeurer vigilants, prévient Suleyman. Le scénario du pire n’est jamais loin.

Autre brique essentielle de cette convergence : l’essor de l’informatique quantique, technologie de l’ultime frontière qui conduirait à une vertigineuse augmentation de la capacité de calcul des ordinateurs. Ce dernier développement caractérise à lui-seul la manière avec laquelle Suleyman cède aux phénomènes de hype, (ou « Quipe » en l’occurrence, pour quantum hype) qu’il tente pourtant, et vainement, de mettre à distance. L’informatique quantique en est à ses prémices, et reste en proie à de nombreuses spéculations, erreurs et exagérations (la notion, par exemple, de « suprématie quantique » est clairement décriée). Ce champ encore en émergence pourrait bien ne répondre à aucun des enjeux prévus, et conduire à de toutes autres découvertes… Quant à son coût énergétique, il reste à ce jour, à la fois inquiétant et peu étudié. Mais rien qui ne freine ici la stratégie discursive du fondateur de Deepmind : aligner les exemples, concéder ici et là que s’ils sont parfois incertains, telle équipe scientifique, dans tel laboratoire, a produit tel résultat fulgurant. Une extrapolation en somme, qui pointe toujours vers le scénario le plus maximaliste, le plus robotisé, ingénierisé, accéléré. Les impasses, elles, passent au second plan.

S’arrêter, c’est choisir de perdre

Quoi qu’il en soit, la vague approche. Les technologies se développent et se combinent. Après les listes sans fins de startups qui contribuent à cet effort, Suleyman s’attaque aux risques. Ils émanent de 4 caractéristiques notables de ladite vague. L’asymétrie des impacts des technologies d’abord : n’importe qui pouvant bientôt s’en saisir pour mettre en place une campagne de désinformation massive à bas coût, synthétiser un virus ou un poison et donc une arme chimique (aidée de flottes de drones par exemple). Leur hyper évolution ensuite, découlant des nombreuses itérations entre équipes et découvertes. Leur caractère « omni usage » : Suleyman rappelle ici, à raison sans doute, que les technologies en développement peuvent être utilisées à des fins très différentes : « Si vous construisez une bombe nucléaire, son usage est assez évident. Mais un système de deep learning peut être conçu pour jouer à un jeu autant que pour faire voler une flotte de bombardiers. » (p. 111). Souvent numériques, ces technologies sont difficiles à contenir. L’autonomie enfin : celle des armes, mais aussi d’une potentielle intelligence artificielle devenue « forte ». Si l’auteur ne fait pas siennes les frayeurs d’un Musk et de tous ceux qui s’inquiètent de cette perspective, il n’en démord pas complètement : « Dans sa forme la plus dramatique, la vague qui vient pourrait signifier que l’homme ne sera plus tout en haut de la chaîne alimentaire. » (p. 116) .

Pour ajouter à l’inéluctable, tout un passage du livre déplore les raisons plus psychologiques qui motivent cette vague.

La nature humaine d’abord : « Les gens veulent et ont besoin des fruits de la technologie. Les gens ont besoin de nourriture, de réfrigération, de télécommunications pour mener leur vie ; ils peuvent désirer des climatiseurs, (…) un nouveau colorant alimentaire révolutionnaire pour les cupcakes, ou l’une des innombrables utilisations quotidiennes auxquelles la technologie est destinée.» (p. 132). Le progrès reposerait donc sur la demande, et non pas sur l’offre – de quoi le naturaliser en une phrase, tout en évinçant la possibilité même d’une fabrique systémique des besoins (plus ou moins artificiels).

L’égo ensuite, et la fierté nationale de pays entier qui cherchent à s’affirmer symboliquement par la technologie. À l’humiliation que fut le lancement du satellite Spoutnik par les soviétiques pour les américains, répondrait une même confrontation entre ces derniers et la Chine, à l’endroit de l’intelligence artificielle. On ne lutte pas contre la compétition géostratégique, affirme Suleyman. Du développement de la 6G à celui des missiles hypersoniques, tout tend à montrer que la course n’est pas prête de s’arrêter : « Choisir de limiter le développement technologique lorsque l’on perçoit que les adversaires avancent rapidement équivaut, dans la logique d’une course aux armements, à choisir de perdre. » (p. 124).

C’est là que les critiques de Suleyman se corsent et que ses contradictions – qu’il assume progressivement – s’affirment. Après avoir maintes fois répété que nous n’arrêterons pas la vague, il se fait plus analytique. La technologie, c’est du pouvoir (il cite même Langdon Winner, p. 156). C’est de l’argent. C’est de l’égo. Mais c’est aussi « un orchestre sans chef d’orchestre » (p. 127), un développement hasardeux dont les résultats sont imprévisibles (pas de scoops, et on pourrait d’ailleurs discuter de ce dernier point : après tout, les ingénieurs qui étudient un sujet donné savent le plus souvent ce sur quoi il débouche. Quand on travaille par exemple, sur des casques de réalité virtuelle, on sait qu’on travaille sur des casques de réalité virtuelle). Mais qu’importe : « nous allons connaître l’accélération la plus rapide de la richesse et de la prospérité dans toute l’histoire de l’humanité. Mais ce sera aussi la plus chaotique » (p. 164). Et ce chaos concerne avant tout les États dans leur capacité à résister à la vague.

Oscillations

Suleyman le précise d’entrée de jeu : il n’est pas libertarien. Il croit en l’utilité d’une puissance publique forte, régulatrice. Mais que pourra faire cette puissance face à la « démocratisation » des armes autonomes ? Face aux « Deep fake » et à « l’infocalypse » des fausses informations ? Le futur des nations, pressent-il, rimera avec des écarts de richesse encore plus grands. Il sera aussi marqué par une contradiction profonde : alors que de nombreuses technologies puissantes deviendront plus facilement encore disponibles à tous – y compris à des groupes terroristes – le pouvoir n’en demeurera pas moins concentré dans les mains de quelques entreprises.

Les États eux aussi, pourraient céder chemin faisant, à la tentation autoritaire aidée de ces nouvelles technologies et, quel que soit le chemin choisi : « Dans la décennie à venir, les intelligences artificielles prendront des décisions quant à l’allocation des fonds publics, la répartition des forces militaires, ou ce que les étudiants devraient apprendre. Ces décisions se produiront à la fois de manière centralisée et décentralisée. Une IA pourrait, par exemple, fonctionner comme un vaste système qui s’étend à l’échelle de l’État, une utilité polyvalente unique gouvernant des centaines de millions de personnes. De manière tout aussi significative, nous disposerons également de systèmes hautement capables, disponibles à faible coût, en open source, fortement adaptés, répondant aux besoins d’une communauté. » (p. 202).

Indéniablement, Suleyman doute. Entre jouer les cassandre et envisager le pire, il oscille. Il faudrait contenir les technologies, mais la stagnation est pire encore, voire mortifère. Dans sa propension à renvoyer dos à dos des positions caricaturales, il n’envisage pas les micro-régulations et autres négociations plus fines qui concernent les technologies : du financement des laboratoires publics aux luttes syndicales localisées. L’effort passé à imaginer le pire passe comme souvent à côté de l’ici et du maintenant.

« Ce dont nous avons besoin n’a pas de nom »

On ne pourrait cependant, balayer d’un revers de main l’ensemble de ses propositions. Réunies dans un dernier chapitre, elles répondent aux grandes caractéristiques et enjeux posés par la vague que personne n’arrête. Suleyman les introduit en rappelant que si la régulation est utile, elle ne suffit pas. Aussi salue-t-il par exemple, l’IA Act européen, mais souhaite pousser plus loin : « ce dont nous avons besoin n’a pas de nom », lance-t-il (p. 235), mais se résume quand même en 10 points.

D’abord la sécurité. Il faudrait un « programme Apollo » en la matière, pour assurer que les systèmes d’intelligence artificielle et de biologie synthétique ne nous nuisent pas. Il se dit également favorable à une forme de précaution (sans pour autant citer le principe de précaution), nécessaire selon lui pour réfléchir avant de développer tout et n’importe quoi (« Pause before building », p. 270).

L’audit ensuite, un impératif déjà imposé par certaines régulations européennes. Suivent le contrôle des exportations et la limitation des échanges concernant certaines technologies (avec la Chine notamment) – dans l’esprit des règles s’appliquant à l’armement, comme ITAR (International Traffic in Arms Regulations). Les États sont invités à se mettre en capacité de concevoir des systèmes techniques et donc d’embaucher à bon prix les ingénieurs adéquats. Les « critiques » des technologies sont quant à eux enjoints de « pratiquer » avant de critiquer (les ingénieurs ne sont pas, en revanche, invités à renforcer leur esprit critique). Le label « B-Corp » octroyé à des entreprises répondant à des exigences sociétales et environnementales est également encouragé, dans l’esprit d’un capitalisme responsable.

Sur un plan plus structurel, Suleyman envisage la formalisation de traités analogues à ceux existant dans le domaine des armes nucléaires (TNP, Start, etc.), les mines antipersonnelles (convention d’Ottawa, 1997), ou des CFC (protocole de Montréal, 1987). En résumé : « il n’y a pas de chemin vers la sécurité technologique si on ne travaille pas avec son adversaire » (p. 266). L’idée sous-jacente : se mettre d’accord sur quoi financer ou non (notamment dans la manipulation de l’ADN), comment gérer l’essor d’intelligences artificielles de plus en plus autonomes.

Une dernière proposition fait un peu sourire. Suleyman rappelle que dans le monde des technologies, il n’existe aucun « nous ». L’humanité est plurielle, traversée de contradictions et de représentations diverses. Aussi, il en appelle à ouvrir le dialogue avec la société civile : « les assemblées citoyennes offrent un mécanisme permettant d’inclure un groupe plus large à la conversation. Une proposition consiste à organiser une loterie pour choisir un échantillon représentatif de la population afin de débattre intensivement et formuler des propositions sur la manière de gérer ces technologies. » (p. 272).

Conclusions

The coming wave est un objet intéressant. Il nous renseigne sur les sentiments contradictoires qui traversent ce « monde de la tech » et peut-être même une partie des entrepreneurs issus de la Silicon Valley dont Suleyman pourrait être le porte-voix. Après qu’on leur ait donné leurs blancs-seings, les tenants de l’économie numérique ont dû faire face à une série de critiques. Celles-ci ont parfois creusé profond, par delà les accusations en technosolutionnisme, les attaquant sur les flancs sociaux, environnementaux, politiques et idéologiques. D’un certain point de vue, certains n’en démordent pas. Un des grands argentiers de ce petit milieu, Marc Andressen, se fendait ainsi récemment d’un « manifeste techno-optimiste » qui ne lâche rien à ces critiques, poussant plus loin encore une odieuse vision techno-autoritaire matinée de références crypto-fascistes.

Suleyman n’est clairement pas de ceux-là : il a bien reçu et digéré les critiques. Pas de quoi renverser la table cependant. Caché derrière la rhétorique de l’inéluctabilité, le monde Suleyman reste in fine, à automatiser : « Nous allons vivre dans une époque où la majorité de nos interactions quotidiennes se feront non pas avec d’autres personnes, mais avec des intelligences artificielles. Elles organiseront nos vies et seront à l’écoute de nos désirs les plus ardents et de nos peurs les plus sombres. » (p. 284).

Son programme de croissance – une croissance optimisée – reste non seulement aveugle aux effets rebond qu’elle occasionnera, mais aussi aux autres visions du monde qui pourraient poindre, en marge d’un monde gouverné par les technologies. Celles-ci sont nombreuses mais, forcément, absentes du livre.

C’est tout le problème : parce que l’auteur est au cœur du réacteur, on ne peut que lui concéder une vérité, celle de l’envahissement concret et parfois brutal de notre monde par des visions technosolutionnistes. Certains des risques qu’il évoque, indéniablement, existent (désinformation, hacking, diffusion d’armes chimiques, etc.). Mais parce qu’il est de ce monde, on pourrait aussi lui renvoyer que ce double rôle de marchand de futur et de pompier-pyromane lui fait perdre tout crédit.

Suleyman n’a pas abandonné les discours d’enchantement : il les a seulement adjoint à leur face sombre, qu’il propose tant bien que mal, de gérer. Quant aux aspects positifs de la vague, personne n’a à redire sur le grand potentiel des technologies numériques, et de la biologie de synthèse, dans certaines sphères. Mais en déduire que tant de progrès sociaux en découlent automatiquement relève de l’incantation. À ne percevoir le monde que sous la forme d’immenses enjeux conflictuels, technologiques ou géopolitiques, Suleyman n’a pas pris le temps de s’arrêter dans une entreprise en voie d’automatisation. Ni dans une école en proie à un usage soudain de ChatGPT par les élèves. Ni à côté d’un data-center posé dans un quartier pauvre. Aussi découvre-t-il l’eau chaude, vantant les mérites de pseudo-débats citoyens qui sont pourtant depuis longtemps tentés et depuis au moins aussi longtemps passés sous silence. Aussi pour la même raison ne comprend-il pas que leur inefficacité repose précisément sur les mêmes raisons qui le pousse à tout automatiser, et que cette « convergence NBIC » peut être interprétée comme une représentation matérielle d’un système économique qui exploite les ressources et les corps , jusqu’à plus soif.

Les dernières pages du livre, qui s’ouvrent sur le mouvement des luddites, ces briseurs de machines qui s’opposaient à la mécanisation de leurs métiers lors de la révolution industrielle, en témoignent. Voilà selon lui, ce qu’il faudrait éviter : la rébellion. Ce n’est pas tant la technologie qu’il s’agit de contenir, mais la violence et la remise en cause de rapports de force et d’écarts de richesses qui ne changeront pas, comme il l’a rappelé. Autrement dit, il ne s’agit pas de débattre de l’utopie en termes généraux – une utopie dont la majeure partie de la population n’a jamais entendu parler, pas plus d’ailleurs que des technologies NBIC –, mais de continuer comme avant, sans s’aliéner les foules.

^[1] Voir Jean-Baptiste Fressoz, L’apocalypse joyeuse, Seuil, 2012.