De l’art d’échapper à l’apocalypse technologique

 

Le point de départ de Bostrom et van der Merwe est le suivant : les inventions humaines sont comme comme des boules que l’on sortirait d’un vase, une à une. Nous en aurions déjà tiré un certain nombre, qui auraient produit des effets variés au cours de l’histoire. Et il se pourrait qu’un jour, nous sortions du vase une « boule noire », une mauvaise pioche en quelque sorte, qui conduirait inéluctablement l’humanité à s’auto-détruire, car nous ne saurions pas la remettre dans le vase (nous ne « désinventons » pas les choses, écrivent les auteurs). Si tant est que nous acceptions cette éventualité, il n’y aurait plus qu’à prier pour continuer à avoir de la chance.

 

Bien sûr, concèdent les auteurs, des technologies capables d’anéantir l’humanité existent déjà. C’est le cas de la bombe nucléaire. Cependant, maîtriser l’atome demande un savoir-faire de haut niveau, un certain stade de développement industriel, la capacité à enrichir de l’uranium, etc. Autrement dit, fabriquer une bombe atomique n’est pas à la portée du premier venu. Il reste néanmoins possible d’imaginer, et c’est ce que font les auteur, que la bombe atomique aurait pu être plus proche encore d’une « boule noire ». Disons par exemple que dans une réalité alternative, il deviendrait possible d’en concevoir une chez soi, dans son lavabo, moyennant quelques morceaux de verre, un objet en métal et une batterie.

 

Dans cette hypothèse, il est peu probable qu’une telle découverte reste longtemps secrète. Comment réagiraient alors les gouvernements ? Peut-être en interdisant la possession de verre, de certains objets en métal, ou dans un scénario maximaliste, en restreignant l’utilisation d’électricité en dehors d’espaces militarisés et hautement surveillés. Les citoyens eux-mêmes, feraient l’objet d’une surveillance sans précédents, afin de s’assurer qu’ils ne réunissent pas les ingrédients nécessaires à la fabrication d’une bombe. Certes, on peut s’imaginer que l’acceptabilité sociale de mesures de surveillance drastiques et intrusives serait nulle, mais « après quelques champignons nucléaires au-dessus de grandes villes, l’opinion publique changerait », écrivent les auteurs. Dans le pire des scénarios, l’humanité finirait par s’anéantir jusqu’à ce que la fabrication même d’engins nucléaires devienne impossible… Eventuellement, on finirait par oublier que de telles catastrophes eurent lieu un jour.

 

L’éventualité d’une « boule noire », c’est ce que les auteurs nomment « l’hypothèse d’un monde vulnérable ». C’est-à-dire la possibilité qu’un certain niveau de technologie puisse conduire à l’annihilation – sauf à considérer un contrôle drastique par le haut, probablement l’Etat. Pirouette rhétorique : les auteurs n’attendent pas que l’on prenne cette hypothèse au sérieux, mais que l’on considère qu’elle n’est pas impossible. Une sorte de pari pascalien en somme. Pari qui repose sur la présence possible, et jamais tout à fait évaluable, d’une minorité de gens animés par des sentiments de haine, un besoin de vengeance, une volonté de détruire, cette minorité que les auteurs nomment le « résiduel apocalyptique ».

 

Les auteurs mentionnent également un scénario où le passage à l’action destructrice n’émanerait pas d’un groupe isolé, mais des grandes puissances elles-mêmes…. comme cela faillit être le cas durant la guerre froide, avec sa course à l’armement. Bostrom et van der Merwe considèrent d’ailleurs que si l’humanité a échappé à l’holocauste nucléaire pendant cette période, c’est juste parce que les deux puissances savaient que déclencher une première frappe ne pouvait garantir aucune victoire, puisqu’une deuxième frappe (de la part du pays attaqué) interviendrait automatiquement, produisant de fait une destruction mutuelle. Les auteurs invitent donc à imaginer que, suivant la théorie du monde vulnérable, une « boule noire » aurait pu prendre la forme d’une garantie qu’une première frappe détruise intégralement, et du premier coup l’ennemi. Dans un tel scénario, les barrières à une première frappe auraient été plus fragiles, et l’apocalypse plus probable.

 

Dans un autre registre, les auteurs invitent à penser que le dérèglement climatique aurait pu être une boule bien plus noire, avec des effets plus rapides et intenses. Plutôt que d’augmenter de 3, 4 ou 5 degrés, la température pourrait par exemple, dans une autre configuration physique, augmenter de 20° degrés d’ici 2100. A cette hypothèse ils ajoutent des les paramètres suivants : abondance de pétrole, coût faramineux des énergies renouvelables décourageant toute tentative d’y recourir… Dans ce cas précis, la « boule noire », ne serait ni le fruit d’une action isolée, ni de l’hubris des grandes puissances, mais l’agrégation de toutes les actions des individus qui vivent sur Terre, et la résultante de leurs actions et choix passées (comme le dérèglement climatique bien actuel, soit dit en passant).

 

***

 

Comment se prémunir d’une « boule noire » ? C’est là que le petit exercice de Nick Bostrom et Matthew van der Merwe devient intéressant. La première option consisterait à arrêter de tirer des boules du vase. C’est-à-dire stopper le développement technologique, ce qui selon les deux auteurs se solderait inévitablement par une catastrophe. Une autre solution consisterait à modifier la nature humaine de façon à éliminer le « résiduel apocalyptique » – et par ce biais les tendances destructrices, qu’elles soient issues de groupes isolés comme de puissances institutionnelles. Il faudrait cependant que ce résiduel soit réduit au maximum : le diminuer de 50%, dans le cas où chacun peut fabriquer une bombe atomique dans sa cuisine, ne serait que de peu d’utilité. Il faudrait par ailleurs que tous les Etats s’y mettent, comme pour un virus, tout défaut local peut entraîner des conséquences globales.

 

Les attributs d’une véritable protection contre les « boules noires » sont donc une coopération internationale optimale, et une surveillance totale des citoyens. Pour les auteurs, si les bombes nucléaires artisanales étaient une réalité, il faudrait surveiller chaque individu préventivement, quitte à vivre dans un « panopticon high-tech ». Tout refus d’être surveillé pourrait conduire à une arrestation. De tels systèmes sont théoriquement et techniquement envisageables, rappellent Bostrom et van der Merwe : on ne peut que leur concéder. De nouveaux, après quelques villes anéanties, leur acceptabilité sociale serait garantie. Par ailleurs, les auteurs avancent qu’il serait préférable de construire ces systèmes de surveillance dès maintenant, quitte à ne pas les activer, plutôt que de regretter leur absence au moment d’une catastrophe. Bien sûr, rien de tout cela n’est souhaitable, écrivent-ils… tout en relativisant ce cauchemar, y décelant même quelques points positifs : une surveillance totale pourrait selon eux réduire le crime et stabiliser les potentielles vulnérabilités des sociétés face aux « boules noires ».  

 

La semaine prochaine, terminent Bostrom et van der Merwe, « un groupe de scientifiques pourrait publier un article dans Science, où ils décriraient une nouvelle technique de biologie synthétique. Deux jours plus tard, un blogueur populaire pourrait écrire un post expliquant comment ce nouvel outil pourrait être utilisé afin de causer une destruction de masse. » Ils en déduisent que dès lors, il ne semble pas absurde de mettre au point un système de surveillance « à la demande », une forme d’état d’urgence dont l’activation pourrait être déclenchée par plusieurs parties-prenantes en cas d’impérieuse nécessité. 

 

***

 

Le texte de Nick Bostrom et Matthew van der Merwe réunit ce qu’il faut de références pour prétendre à un minimum de sérieux. Le statut des auteurs y contribue également. Bostrom jouit d’une certaine aura, surtout parmi les partisans du transhumanisme et autres zélés d’intelligence artificielle. Je passerai outre le ton de l’article qui tente maladroitement d’adopter une posture neutre – qui n’est que de façade – pour terminer en justifiant l’édification de systèmes de surveillance massive, tout en laissant entendre que ceux-ci pourrait exister sans que l’on ne s’en serve… Pour le plaisir de déconstruire ce qui doit l’être, confrontons-nous aux prémisses des auteurs.

 

Le point de départ tout d’abord, est douteux. Considérer que les inventions et les technologies sont des « boules » que l’on sort d’un vase signale une certaine vision du progrès technique : celui-ci relèverait du hasard et de la nécessité. Il serait un « déjà-là » en attente d’être pioché. Comme l’archéologue faisant apparaître un fossile en l’époussetant, dévoilant par ce geste un passé enfoui, l’homme moderne n’aurait qu’à sortir une boule d’un vase pour faire surgir les technologies à venir et par la même occasion, les civilisations du futur. Entendons-nous : il y a certes, de la sérendipité et de l’inattendu dans la science : la radioactivité, l’acier inoxydable ou encore le kevlar ont été découverts ou inventés plus ou moins par hasard. Cependant, il demeure tout à fait naïf de laisser entendre que les scientifiques ne savent pas ce qu’ils vont découvrir, étant donné qu’ils sont souvent payés à cette fin. La « boule noire » n’émane pas du vide interstellaire : elle est souvent un projet industriel, comme le fut la bombe. Avant la boule, (puisqu’il y a bien un avant), il y a donc tout un espace possible pour la négociation ou le refus, le refus de contribuer à certaines recherches. Et cela ne relève pas d’une théorie hypothétique, mais de la responsabilité des ingénieurs et des scientifiques qui mettent leur savoir-faire au service d’un projet.

 

Le deuxième point gênant dans l’article est lié à l’imaginaire que l’on se fait de « l’anéantissement ». La destruction que redoutent Nick Bostrom et Matthew van der Merwe est totale, apocalyptique au sens biblique du terme, c’est une catastrophe massive et violente qui signe la fin du monde. Néanmoins, les auteurs parlent de la bombe comme si celle-ci n’avait pas explosé – puisqu’elle n’a pas explosé pendant la guerre froide. Ils redoutent les virus tueurs, ceux qui les tueraient eux, sans prendre la peine de rappeler que certaines maladies, comme le paludisme, tuent des centaines de milliers de personnes par an. Cette fin du monde est finalement très semblable à l’idée que l’on se fait souvent de « l’effondrement », dans le sens où le monde qui prend fin est le monde moderne occidental. L’humanité, et le « nous » auquel les auteurs se réfèrent est tout sauf représentatif de l’ensemble des humains vivant sur cette planète. La possibilité que d’autres pays aient été – puissent encore être – anéantis du fait de l’industrialisation, de « boules » pas du tout noires, ne les effleurent pas un seul instant. Tant que leur monde n’est pas entièrement détruit, alors le monde n’est pas détruit. Tout se passe comme si aucune catastrophe technologique n’avait jamais eu lieu, et comme si l’on n’avait pas déjà identifié les raisons exactes pour lesquelles ces catastrophes surviennent.

 

Le petit essai de Bostrom et van der Merwe n’est selon moi qu’un procédé rhétorique supplémentaire pour avancer des thèses et des idées par ailleurs fort discutables. C’est le scénario du pire, toujours utile pour rendre moral et acceptable l’injustifiable, ici en l’occurrence la réduction préventive – paranoïaque – de libertés pour se prémunir de phénomènes improbables. Et pour rester convaincant, il faudra expliquer, comme le font les auteurs, qu’ils ne souhaitaient évidemment pas cette réduction des libertés, qu’ils ne font que prendre de la hauteur, qu’ils restent neutres, etc. Dans son magnifique essai La Peur des barbares : au-delà du choc des civilisations, Tzvetan Todorov dénonçait déjà cette esbroufe. Il prenait pour exemple la série 24 heures chrono, où chaque épisode repose sur la peur d’une bombe à retardement. C’est le scénario de l’explosion imminente dans une école maternelle. On a attrapé le terroriste, mais il refuse de dire quelle école est visée, il devient alors justifié de le torturer pour en savoir plus : la fin justifie les moyens. Cette série, c’est celle de l’ère Bush, de Guantanamo, du waterboarding. Comme si le monde n’était finalement qu’un blockbuster hollywoodien, avec un méchant façon James Bond, chat sur les genoux et fauteuil pivotant, suscitant des réflexions éthiques grossières et des approximations sur le bien et le mal. 

 

Bref, on pourrait continuer longtemps cet exercice de démontage. On se demande tout de même pourquoi les deux auteurs déploient autant d’énergie pour ignorer ce qu’ils savent. Après tout, avec des « si », on mettrait Paris en bouteille. 

 

Irénée Régnauld (@maisouvaleweb),