Le faux dilemme de l’intelligence artificielle. Ou pourquoi faut-il arrêter de penser de façon binaire

Il y a des controverses qui embrument. Dans le domaine de l’intelligence artificielle, c’est manifeste : bonne part du discours ambiant ne va pas plus loin qu’un mauvais film hollywoodien. Il y aurait « une bonne intelligence artificielle » et « une mauvaise intelligence artificielle ». Sur les deux berges pourtant, on retrouve les mêmes défenseurs d’une inexorable avancée technique qui frise parfois le déterminisme le plus absolu.  

L’intelligence artificielle regroupe cet ensemble d’algorithmes, de techniques et de procédés qui permettent à une machine d’atteindre un niveau d’intelligence comparable à celui de l’humain. Nous n’en sommes pas encore là mais en attendant nous avons mis au point des machines capables de réaliser certaines tâches que l’homme accomplit grâce à son intelligence (comme gagner une partie d’échecs ou de jeu de Go). Suite à ces avancées, certains se demandent si l’homme finira englouti par sa créature : une fausse question.

Pourquoi diable tracer cette ligne de fracture entre le bien et le mal dans l’intelligence artificielle ?

Pourquoi cette dichotomie savamment orchestrée ? Il y aurait d’un côté, des sociétés américaines (Alphabet, Amazon, Facebook, IBM et Microsoft) formant un partenariat éthique sur l’intelligence artificielle dont on ne sait ni à quoi il sert ni par qui il sera financé. D’un autre côtéStephen Hawkins et Elon Musk (Paypal, Tesla) qui émettraient quelques doutes sur la question et appelleraient à réfléchir un minimum avant de créer ce qui pourrait être notre « dernière grosse bêtise » sur ce caillou perdu dans l’espace. Vu sous cet angle, le débat ressemblerait presque à une lutte de la magie noire contre la magie blanche.

Dans les deux camps cependant, on envisage l’intelligence artificielle comme une nécessité (au sens philosophique du terme, c’est nécessaire car ça ne peut pas être autrement). Les prémisses sont les mêmes : il faut aller de l’avant en matière technologique. Ce qui est déjà en soi un parti pris puisque rien n’oblige jusqu’à preuve du contraire (on y reviendra) à prendre une direction technologique plus qu’une autre (certains d’ailleurs, s’insurgent contre l’IA, comme cette association, on pourrait également citer le clonage, l’extraction de gaz de schistes, etc).

Ne nous y trompons pas, il n’y a bien qu’un camp et pas deux, technocritiques et technoprophètes sont souvent les deux faces d’une même pièce. En polarisant le débat et en faisant une question morale sur fond de science-fiction, nous risquons de faire l’impasse sur le fait que l’intelligence artificielle n’évolue qu’à l’intérieur du cadre conceptuel que ses artisans lui octroient.

Quand la morale cache l’amoral

Évacuons d’entrée les accusations en technophobie : oui, l’intelligence artificielle nous permet de faire mille et une chose plus facilement comme trier des informations, traduire une langue, reconnaître des images et même des objets, faire avancer la médecine. Oui, tout ceci est utile, bienvenu. J’ai l’air d’enfoncer une porte ouverte, mais c’est aussi pour affiner la question. Prenons un exemple, les voitures autonomes :

Comme beaucoup, j’ai lu ces études passionnantes sur la voiture qui se conduit toute seule et visité ce site http://moralmachine.mit.edu/ ou l’on nous met face aux défis des problèmes moraux que posent les voitures autonomes (ou « véhicules à délégation de conduite » en bon français).

On retrouve là le dilemme du tramway appliqué aux algorithmes : dans une situation où une voiture intelligente ne pourrait rien faire d’autre qu’écraser une jeune femme ou bien un vieil homme, que devrait-elle faire ? Même question si une voiture autonome n’a pour option que de tuer son passager ou de percuter un enfant traversant en dehors des clous (on peut multiplier les situations à l’infini…). Bref, nous avons définitivement besoin de travailler les questions morales (et parfois donc, les intérêts individuels) que pose la délégation de nos choix cognitifs à la machine. Mais il y a un mais dans ces passionnants dilemmes.

Mais si ça n’était pas la (seule) question ?

Le « mais » du dilemme du tramway, c’est qu’on en oublierait presque de penser à une société sans voitures. Qu’on en oublierait presque que les voitures autonomes sont bourrées d’électroniques et de métaux rares, et qu’elles polluent énormément. Qu’on en oublierait presque qu’au delà des simples économies de carburant, c’est avant tout le recours systématique à la voiture qu’il faut repenser. La situation est analogue dans le cas des voitures dites « propres », écoutons Philippe Bihouix en parler [1]:

« Les économies de consommation ne sont pas toujours récupérées car le coût d’utilisation en baisse fait augmenter la demande : ainsi, ma voiture qui consomme moins de carburant me permet de rouler plus de kilomètres, et éventuellement de dépenser autant de carburant pour un budget de départ donné. »

J’entends bien qu’une flotte de voitures autonome pourrait dans un futur proche, nous éviter de posséder chacun un véhicule. Peut-être même de décongestionner certains axes en optimisant radicalement chaque véhicule (mobilité partagée au sens des optimisations d’actifs : une voiture ne serait jamais « au repos » mais toujours en marche, ce qui pourrait réduire considérablement le nombre d’entre elles).

J’entends aussi qu’un milliard de voitures est déjà en circulation et que s’il faut reconstituer ne serait-ce que 30% de ce parc, c’est déjà une mauvaise nouvelle en soi, vue la raréfaction des ressources et l’état de l’environnement (faut-il rappeler que nous vivons la sixième extinction animale de masse ?). Ce n’est pas parce que nous aurons des voitures plus intelligentes que nous roulerons moins ou que nous arrêterons de rouler pour rien, quand nous pourrions par exemple marcher ou pédaler.

C’est la fameuse question des « deux écologies » : « pour l’environnement » ou « pour le milieu » :

« La première s’occupe d’impact sur l’environnement et tente de modifier nos techniques pour les rendre plus éco-compatibles, la seconde s’occupe de qualité du milieu de vie et tente de modifier notre relation au technique, autrement dit notre mode de consommation et de production. » 

Alors peut-être faudrait-il refermer Gorz, Ellul et les autres. Arrêter de babiller à propos d’une hypothétique utopie où l’on ne passerait pas 30% de son temps à travailler pour payer un véhicule qui nous amène… au travail. C’est sûr, sous cet angle le problème est bien plus complexe (repenser les trajets domicile-travail, l’urbanisme des villes…). C’est quand même autre chose que mettre des puces RFID partout et d’appeler ça « smart-cities ». D’ailleurs, aucune fatalité ne nous arrête sinon notre propre incompétence : le jeune maire de Tirana (Albanie) par exemple, a bien réussi lui, à remettre en question le tout voiture intelligemment.

Ne cédons pas à l’impératif technologique qui dans un dualisme rachitique de la pensée, réduit l’avenir en une une controverse binaire : ne nous faisons pas retirer notre futur par ceux là même qui nous imposent de l’envisager comme une pièce qu’on lance en l’air.

L’avenir sera technologique ou ne sera pas

Et c’est peut-être là que le bât blesse. L’innovation n’est pas qu’une histoire de technologie. De plus en plus, nous comptons sur des projets titanesques pour nous relever des démissions des Etats-nations face à l’ampleur du phénomène technique sur l’emploi et la vie en général. Pensons à l’hyperloop d’Elon Musk, train du futur reliant San Francisco à Los Angeles à une vitesse incroyable, propulsé au nucléaire. J’entends souvent autour de moi (ou plutôt dans ma bulle, soyons honnête) que nous avons besoin de rêver, et que c’est de bonne augure.

Clairement, c’est ici la politique du fait accompli, un projet industriel de cette ampleur modifie radicalement nos modes de vies sans que nous ne l’ayons vraiment vu venir. Si l’humanité a besoin de grands projets et de rêves communs, c’est pourtant là exactement le même schéma que le précédent : main dans la main, course à la vitesse et course à la technologie ne vont pas dans le sens d’une réduction globale de notre propension à consumer l’espace-temps dans une frénésie destructrice pour la planète. Preuve en est avec l’hyperloop, dont l’efficacité n’a rien à envier à celle du TGV justement, comme l’explique Eric Vidalenc. Mais ce sujet nous éloigne de l’intelligence artificielle.

Sous les algos, l’innovation (la vraie)

Ce soliloque est certes, un peu décousu, que retenir ? Sans doute que la si l’on ne peut éluder la question morale en intelligence artificielle (la fameuse « moral tech »), il faut aussi comprendre qu’elle est par essence techno-centrée. Innover, c’est améliorer la vie des gens, c’est une affaire humaine et sociale, nous dit Marc Giget, la technologie peut être secondaire.

Ajoutons également qu’il ne faut pas penser l’intelligence artificielle selon le prisme d’Hollywood ou des sociétés qui propagent une pensée unique sous une forme apparemment conflictuelle. Non, il n’y a pas de complot, mais il y a un discours qui domine et qui obstrue la pensée, une dichotomie interne qui renouvelle et instrumentalise d’anciennes questions.

L’intelligence artificielle n’est pas le territoire de la lutte entre le bien et le mal.

Notes de l’article :

[1] Bihouix, Philippe, L’Âge des low tech: Vers une civilisation techniquement soutenable, Seuil, 2014 (retour au passage)

Image en tête d’article : « Janus »- watercolour by Tony Grist

2 comments

  1. Aurais-je mal compris ou le propos est bien de dire que la technologie, ici l’IA, n’est ni bonne ni mauvaise, et donc neutre ? 🙂

    Reply
    • Mmmh non… Cet article est loin d’être abouti… J’ai même pensé à le retirer à vrai dire. Mais bon il faut assumer. Je ne dis pas du tout que la technique est neutre, ça n’est pas le propos. Je mentionne juste le fait qu’à tout penser sous forme de dualiste on en finit par oublier que la question n’est pas que celle de la technologie, mais bien de son imbrication dans un milieu humain (et accessoirement, terrestre). Je suis juste un peu saoulé des discours « la bonne IA » Vs « la mauvaise IA »…

      Reply

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *