Sommes-nous vraiment « déjà devenus des cyborgs » ?

« Nous sommes déjà des cyborgs. Votre téléphone ou votre ordinateur sont des extensions de vous-même, mais vous utilisez vos doigts ou la parole comme interface. C’est très lent. », déclarait Elon Musk à une journaliste de Vanity Fair en février dernier pour introduire (et banaliser ?) Neuralink, une entreprise dont l’ambition est d’augmenter le cerveau humain -trop humain- en l’hybridant avec des implants neuronaux. L’accroissement spectaculaire des capacités cognitives qui résulteraient d’une telle manipulation, permettrait à l’humain de ne pas être menacé par l’essor potentiel d’une intelligence artificielle hostile. Selon le nouveau héraut de l’humanisme 180.0, le meilleur moyen de se prémunir d’une éventuelle volonté dominatrice de cet ennemi éthéré, n’est autre que de fusionner avec lui ! Au célèbre : « Sois proche de tes amis, et encore plus proche de tes ennemis », Musk pourrait répondre : « Non ! Incarne ton ennemi. »

_______________________________

Un article rédigé par Julien De Sanctis, doctorant à l’UTC en philosophie et éthique appliquée à la robotique interactive. Il effectue sa thèse en CIFRE avec Spoon, une jeune start-up créée fin 2015. Julien est également rédacteur pour iPhilo et le blog de vulgarisation philosophique La Pause Philo. Parallèlement à ces activités académiques et d’écriture, Julien travaille avec l’agence Thaé  qui promeut la philosophie pratique auprès d’acteurs privés comme les entreprises, notamment via l’organisation d’ateliers philosophiques ou l’accompagnement des comités stratégiques.

_______________________________

L’analyse du discours des superstars de la Silicon Valley me paraît plus que jamais nécessaire, si l’on souhaite conserver ou réhabiliter le primat de la pensée sur nos actions et convictions en matière technologique. C’est pourquoi, j’aimerais m’arrêter un instant sur l’affirmation péremptoire de Musk selon laquelle nous serions déjà des cyborgs. Derrière cette « petite phrase » se cache une conception très « siliconienne » de la technique ou, pour le dire autrement, très solutionniste. Après avoir rapidement éclairci la notion de cyborg, nous verrons, que la déclaration de Musk s’inscrit dans le registre du fait avéré alors que notre nature cyborganique n’a rien d’une évidence. Nous tenterons ensuite d’expliquer en quoi il peut être fallacieux mais aussi dangereux d’invoquer des technologies existantes comme alibi pour le développement d’autres artefacts. Plus généralement, cette critique sera pour moi l’occasion de revenir sur un certain nombre d’apports de la philosophie des techniques permettant de comprendre que nos artefacts ne se réduisent pas, loin s’en faut, à leur seule dimension instrumentale.

Qu’est-ce qu’un cyborg ?  

La première utilisation du terme cyborg est attribuée au neuropsychologue Manfred Clynes, dans les années 60. Contraction de l’anglais « cybernetic organism », le terme désigne une entité mi humaine mi machine telle que le célèbre RoboCop. Au sens propre, un cyborg est donc un être humain techniquement modifié dont la biologie fusionne –ou, au moins, s’accorde- avec des implants technologiques de natures diverses. On peut, cependant, concevoir le terme au sens figuré. Un cyborg devient alors un être dont les capacités d’action sur le monde et, plus largement, le mode d’être au monde sont médiatisés technologiquement. Il est vrai que, dans ce second sens, l’homme a toujours été un cyborg, l’hominisation étant consubstantielle au développement des premiers outils. La formule n’en demeure pas moins métaphorique.

Du cyborg métaphorique au cyborg authentique

La pirouette argumentative de Musk –volontaire ou non- consiste à faire passer le cyborg métaphorique pour un cyborg authentique et ainsi, faire comme si la nature de son projet d’implant cérébral, ne se démarquait en rien de ce qui, techniquement, se fait déjà et s’est toujours fait. La chose n’est pas anodine puisqu’elle instaure un simulacre de continuité entre des technologies comme l’ordinateur et le futur implant cérébral de Neuralink. Le cyborg métaphorique sert ici à instaurer une pseudo-logique des faits justifiant le passage au cyborg authentique, c’est-à-dire d’une techno-extension [1] à une techno-fusion [2].

La fausse unité du technique 

Ce relativisme de commodité risque de nous faire oublier le principal : entre l’utilisation d’un téléphone portable et la greffe d’un implant cérébral d’augmentation, il y a une différence de nature et non de degré. L’idée selon laquelle chaque dispositif technique découlerait d’une essence commune ne résiste pas à l’étude empirique des artefacts. Elle permet, certes, de construire de beaux discours technoprophétiques et de justifier le concept déterministe infondé de « flèche du progrès », mais elle évacue insolemment un petit détail pouvant avoir son importance : le réel. Heidegger, dans sa Question de la technique, affirme que l’essence de la technique moderne n’est pas technique mais « arraisonnante ». L’arraisonnement (Gestell), désigne un rapport au monde où celui-ci est conçu comme « fonds disponible ». Autrement dit, il s’agit d’un rapport de domination, de prédation où la nature est mise en demeure par l’homme de se plier à sa volonté. Bien que de nombreux exemples abondent dans ce sens (OGM et autres manipulations génétiques, extraction déraisonnée des ressources, géoingénierie, projet transhumaniste etc.), l’essentialisation de la technique dans l’arraisonnement échoue à rendre compte fidèlement du phénomène technique, ou, du moins, ne rend-t-elle compte que d’une partie de ce dernier.

S’il est vrai que nos artefacts nous engagent dans le monde, il est plus douteux que cet engagement soit d’une seule et même nature. Les rapports mondains co-constitués (dans une relation avec un objet technique, il y a toujours deux pôles, l’humain et l’objet, d’où la co-constitution) par les technologies dépendent grandement des singularités des technologies en question. La voiture n’instaure pas les mêmes relations au monde que l’échographie qui, elle-même, diffère des agents conversationnels comme Echo d’Amazon et Google Home, ou encore de la mal nommée réalité virtuelle. C’est l’analyse empirique et attentive des artefacts qui permet de mettre au jour ces relations et ce qu’elles impliquent.

Et les rapports robot-robot ? N’en parlons pas !

L’intentionnalité technologique

Mais par quel processus les objets techniques participent-il au tissage de nos relations avec le monde ? Le philosophe des techniques américain Don Ihde et, à sa suite, Peter-Paul Verbeek, expliquent qu’il existe une intentionnalité technologique, c’est-à-dire une capacité des technologies à médiatiser (au sens de truchement) notre intentionnalité. En phénoménologie [3], l’intentionnalité est un concept fondateur permettant d’expliquer les relations entre l’humain et le monde [4]. Il stipule que toute conscience ou perception est toujours conscience ou perception de quelque chose [5]. Comme l’exprime très clairement Verbeek : « Au lieu de séparer l’être humain du monde, le concept d’intentionnalité dévoile les liens inextricables qui les unissent. Du fait de la structure intentionnelle de l’expérience humaine, l’Homme ne peut être compris indépendamment de la réalité dans laquelle il vit. Celui-ci est toujours dirigé vers le réel. Il ne peut pas simplement « penser », mais pense toujours quelque chose ; il ne peut pas simplement « voir », mais voit toujours quelque chose ; il ne peut pas simplement « ressentir », mais ressent toujours quelque chose. En tant qu’être d’expérience, l’humain ne peut échapper à ce lien permanent avec les entités qui constituent son monde. En conséquence, parler du monde « en soi » n’a pas réellement de sens. De la même façon que les êtres humains ne peuvent être compris indépendamment de leurs relations avec la réalité, le réel ne peut qu’être compris à partir des relations que ces derniers ont avec lui. Le monde « en soi » est inaccessible par définition puisque toute tentative pour le saisir fait de lui un « monde pour nous »[6]. Le concept d’intentionnalité peut être très simplement schématisé sous la forme d’une flèche nous unissant au monde :

Moi Þ Monde

Toutefois, ce schéma est uniquement applicable dans le cas des perceptions im-médiates. Dans nos sociétés hypertechniques, nos perceptions et conscience du monde sont constamment médiatisées par nos artefacts, c’est-à-dire passent à travers eux. Le concept d’intentionnalité technologique nait de ce constat relativement simple et fait des objets techniques des médiateurs de nos relations au monde. Le schéma intentionnel devient alors celui-ci :

Moi – Artefact Þ Monde

Dans Technology and the Lifeworld, Don Ihde établi une typologie des relations qu’engendrent les artefacts. Il s’agit des relations 1) d’incarnation (embodiment), 2) d’altérité (alterity), 3) herméneutiques (hermeneutic) et 4) d’arrière-plan (background). Chacune d’entre elle représente une façon particulière d’être en contact avec le monde par le biais des objets techniques. En voici une rapide présentation :

  • Les relations d’incarnation sont produites par des artefacts « portés » ou « incorporés » (au sens superficiel) par l’Homme. Les lunettes fournissent un bon exemple de ce type de relation : elles donnent à voir le monde à travers elle, sans être explicitement remarquées.

(Moi-Artefact) Þ Monde

  • Les relations d’altérité sont celles où monde et artefact se confondent. Notre intentionnalité est à la fois médiatisée et destinée à l’objet technique, de sorte que celui-ci devient un quasi-autre. Les distributeurs de billet ou encore les ordinateurs sont de bons représentants de ces relations.

Moi Þ Artefact (-Monde)

  • Les relations herméneutiques donnent accès au monde sous la forme d’une interprétation (en grec, hermeneutikè signifie « art d’interpréter ») comme par exemple avec les radios, IRM, scanners, sismographes et autres thermomètres.

Moi Þ (Artefact-Monde)

  • Enfin, les relations d’arrière-plan ne nous confrontent pas directement à l’objet technique mais à ses effets sur l’environnement. Ici, l’artefact façonne le contexte de notre expérience sans que l’on s’en rende compte, comme avec le thermostat par exemple.

Moi (- Artefact – Monde)

Ces précisions ne sont pas purement théoriques ou descriptives. La médiatisation de notre intentionnalité par les artefacts n’est pas une opération neutre : c’est la qualité de notre expérience du monde qui s’y joue ; car l’intentionnalité n’est pas non plus une opération « chimiquement pure ». L’isolement du processus intentionnel qui nous unit au monde est purement analytique. Empiriquement, la mise en relation qu’est l’intentionnalité s’accompagne toujours d’une interprétation. Notre perception est une mécanique duale qui comporte un versant perceptif et un versant herméneutique. Pour le dire comme Don Ihde, nos microperceptions, c’est-à-dire nos sensations physiologiques issues des cinq sens, sont indissociables du prisme culturel et axiologique qui les « formatent » a priori. Percevoir, c’est toujours aussi interpréter. Dès lors, on comprend que nous ne sommes pas seuls dans la façon dont nous interprétons le monde, et, par conséquent, y agissons. Les relations humain-artefacts sont d’ordre partenarial, et comme dans tout partenariat, chaque partie apporte ses particularités au résultat de leur association.

On commence alors à comprendre le caractère périlleux de l’allégation de Musk. La confusion entre cyborg authentique et métaphorique n’est pas seulement formelle, mais aussi conceptuelle. L’impact des technologies sur notre perception, nos interprétations du monde et, en dernière instance, nos actions étant propre à chacune d’entre elles (cela n’exclue aucunement l’existence de similitude d’un artefact à l’autre), il est sommes toutes malavisé, voire malhonnête d’invoquer les unes pour justifier les autres sans examen approfondi.

Umwelt phénoménotechnique

Outre ce « pouvoir » d’intentionnalité technologique, les artefacts sont également des entités cosmogènes : ils participent à la création/expansion permanente du monde humain. Cette cosmogénèse n’est pas physique comme le Big Bang, mais phénoménale. Autrement dit, les techniques génèrent des phénomènes [7] qui participent au monde auquel nous avons accès par les sens et la conscience. Par exemple, avant l’invention du téléphone, le monde phénoménal téléphonique n’existait pas. La présence sonore d’autrui dans son absence physique – une présence désincarnée donc- était alors inconnue, et le monde humain était phénoménalement moins « riche ». L’exemple de Skype relève de la même logique, mais augmente la présence désincarnée d’une représentation visuelle de l’interlocuteur. La cosmogénèse artefactuelle est donc une phénoménogénèse : le monde humain (cf. note 4), s’enrichit constamment des phénomènes que les artefacts génèrent.

Là encore, ce constat n’est pas uniquement descriptif. En tant qu’il accroit le champ des perceptions et représentations possibles, l’enrichissement phénoménal du monde par les artefacts élargit l’éventail des actions possibles en son sein. Si ce que je perçois conditionne en partie ma capacité d’agir, alors plus je perçois, plus ma capacité d’agir s’accroît. Les artefacts étendent ce que le biologiste et philosophe allemand Jakob von Uexküll appelait l’Umwelt. Traduit par « monde propre » en Français, l’Umwelt désigne l’environnement spécifique d’une espèce. Spécifique, car il ne s’agit pas d’un milieu indifférencié, commun à tous les êtres vivants. Chaque organisme biologique co-construit le monde qu’il habite. Ses perceptions sont issues d’un processus de sélection des stimuli auxquels il réagit ; un stimulus n’étant pas stimulus en lui-même, mais pour et par quelque-chose d’autre que lui-même. Chaque espèce vit donc dans un Umwelt qui lui est propre et qu’il ne partage pas autrement qu’en apparence avec les autres. Uexküll cite l’exemple, désormais célèbre, de la tique. Ce petit parasite se caractérise par l’extrême pauvreté de son Umwelt. En effet, la tique ne perçoit que trois « signes perceptifs » auxquels correspondent trois actions déterminées :

  • Elle perçoit les émanations d’acide butyrique des follicules sébacés des mammifères et se laisse alors tomber sur l’animal ;
  • C’est à présent son sens de la température qui prend le relai : la chaleur corporelle de sa proie indique à la tique qu’elle touche au but ;
  • Elle se fraie alors un chemin sur le mammifère, se fiant à son sens du toucher pour trouver un endroit dépourvu au maximum de poils et perforer l’épiderme de son hôte.

Contrairement à la tique, l’humain s’épanouit dans un Umwelt riche et évolutif, en très grande partie grâce aux artefacts. Comme nous l’avons vu, ceux-ci accroissent le nombre de phénomènes mondains, mais permettent également à l’Homme d’avoir des perceptions non sélectionnables par ses appareils sensoriels biologiques. C’est le cas, par exemple des technologies infrarouges, échographiques ou encore de résonnance magnétique. Les artefacts peuvent phénoménaliser ce qui est originellement invisible pour nous. Toutefois, ils ne permettent pas (encore ?) de modifier les sélections opérées par nos cellules perceptives. Ils ne modifient donc pas notre Umwelt au sens propre, mais accroissent les possibilités de perceptions/actions en son sein.

Ici, une question émerge : est-on certain que les technologies cyborganiques telles que l’implant cérébral de Neuralink n’aboutiront pas à une modification réelle de notre Umwelt ? Quel(s) impact(s) l’augmentation humaine aurait sur notre perception du monde et nos manières d’agir ? L’exploration métaphysique, et, bien entendu, scientifique à laquelle nous invite cette question n’est pas un appel à l’interdiction a priori des recherches en la matière, mais plutôt une invitation à prendre le temps de la pensée sur ces sujets que je n’hésiterai pas à qualifier d’existentiels. Les déclarations à l’emporte-pièce, telles que celle de Musk, ne favorisent pas cette attitude et cette temporalité indispensables, surtout lorsqu’elles sont soutenues par des millions voire des milliards de dollars. L’utilité et la vertu sociales des techniques que nous développons n’est pas uniquement fonction de leur utilité économique ou technologique, et ne peut être décrétée par une seule, quand bien même serait-elle un génie absolu. Ceci est d’autant plus vrai que les artefacts, outre les capacités de médiations évoquées plus haut, participent également à l’introduction et à la sédimentation de valeurs morales dans nos vies quotidiennes. Ce sera notre dernier point.

Les médiations éthiques des artefacts

Le pouvoir médiateur des artefacts est également éthique en ce que 1) ils incitent l’humain à agir d’une certaine façon, et 2) ils incarnent et véhiculent des valeurs.

Comme l’explique un récent article de Mais où va le Web ? dédié à Gilbert Simondon, il y a de l’humain de nos objets techniques. Cette « humanité » des artefacts se retrouve dans les savoir-faire, les gestes et les connaissances nécessaires à leur conception, mais également dans les valeurs, points de vue sur le monde et autres biais culturels (conscients ou non) que toute création humaine implique. Contrairement à une idée largement répandue dans la sphère économique, la technologie n’est pas neutre ! L’idée que les seuls les usages déterminent la « moralité technicienne » est pourtant disqualifiée depuis longtemps, et pas uniquement sous la plume d’Ellul (mais peut-être cette idée peine-t-elle encore à s’évader du milieu académique ?).

L’action hybride : scripts et multélie techniques

Les travaux de Bruno Latour ont contribué à répandre l’idée selon laquelle nos artefacts ne sont pas de simples instruments passifs. La philosophie a longtemps fait l’erreur de délaisser l’analyse des moyens au profit des fins, négligeant un constat décisif : les moyens influencent les fins. Comme le dit Latour, dans « Morale et technique : la fin des moyens », « [celui] qui croit que les outils sont de simples ustensiles n’a jamais tenu un marteau en main, et n’a jamais laissé courir jusqu’à sa conscience le flux de possibles qu’il se sent soudainement capables de trier ». L’action dite humaine est très souvent le résultat d’une hybridation entre notre « programme d’action » et celui ou ceux permis par les artefacts. En d’autres termes, ceux que nous qualifions trop rapidement de purs moyens participent à l’élaboration des fins que nous nous fixons. Ceci est dû à la téléologie initiale de l’artefact, celle imaginée par les concepteurs lors de sa production, et que Latour nomme script technique, mais aussi à la nécessaire multitélie des technologies, c’est-à-dire leur tendance, une fois couplées avec leurs utilisateurs humains, à déborder les usages pour lesquels elles ont été conçues et à co-générer de nouvelles finalités. On peut citer, parmi des milliers d’autres, l’exemple de l’aspirine. Initialement développée pour ses effets antalgiques, son action fluidifiante sur le sang justifie aujourd’hui un usage alternatif du médicament à celui de base : prévenir la formation de caillots sanguins. En augmentant techniquement nos capacités cognitives, Musk n’ouvrirait-il pas une boite de Pandore tant la multélie de ses implants serait vertigineuse ? Qui peut prévoir les effets d’une reconfiguration/augmentation technique de l’intelligence ? Comment anticiper l’éthos technique d’un humain supérieurement intelligent ? Les voies du transhumain sont-elles pénétrables ?

La promotion des valeurs par la technique

Enfin, les artefacts sont porteurs de valeurs. Tout objet technologique est action cristallisée dans la matière. En tant que telle, ils participent à la promotion des valeurs inscrites dans les actions qu’ils rendent possibles. Quand il s’agit d’une chaise, l’intérêt de l’analyse est limité, j’en conviens ; mais lorsqu’il s’agit d’un airbag, par exemple, l’idée devient subitement plus stimulante. En effet, l’airbag promeut la valeur de sécurité, pour laquelle la préservation de la vie humaine est une priorité. L’exemple prend tout son sens quand on sait que cette technologie est restée plusieurs années au placard pour des questions de rentabilité.

De quelles valeurs l’implant cérébral est-il l’émissaire ? De l’émancipation et du progrès humain diront ses prescripteurs. Ils auront peut-être raison, qui sait ? Personnellement, j’y vois un peu (beaucoup) de cette hubris technoéconomique dont les prétentions cosmiques feront bientôt notre réputation sur Mars ! J’y vois aussi une consécration de valeurs très en vogue aujourd’hui dans le monde économique, à savoir la performance et la vitesse [8].

Pour conclure

Je ne doute pas de la sincérité d’Elon Musk –bien que la question soit légitime-, je cherche simplement à comprendre le raisonnement. Si on laisse de côté le postulat singulitariste dont relève la crainte du patron de Tesla, pour admettre le réalisme d’un tel scénario, alors la logique est la suivante : pour ne pas être dépassés et, éventuellement, menacés par l’IA, la fusionnons avec elle ! Comme je l’ai dit en introduction, le solutionnisme est ici à son comble. Le politique est relégué au rôle qui est trop souvent le sien désormais : celui de marionnette de l’économique et du technologique. Pourtant, pour éviter qu’un IA hostile nous domine, on pourrait d’abord croire que la solution serait de ne pas développer une telle IA. Je dis ça, je dis rien comme on dit aujourd’hui.

P.S. Mais convenons qu’il est difficile pour Elon Musk de se battre pour la limitation de l’IA alors qu’il en a besoin dans le cadre de ses activités chez Tesla pour la production de véhicules électriques réellement autonomes.

P.S.2. Pour rappel, tenter de penser la technique n’est pas nécessairement un acte technophobe. Ni philia ni phobia, juste sophia, pourrait-on dire pour définir une technosophie.

[1] Nous définissons la techno-extension comme l’un des principes essentiels de toute technologie : l’accroissement des capacités humaines d’actions, qu’elles soient spatiales, temporelles, physiques, intellectuelles etc. Contrairement à la techno-fusion, la techno-extension reste extérieure au corps humain.

[2] La techno-fusion correspond à l’incorporation au sens propre de la techno-extension : la technique franchit la barrière charnelle. Elle se couple au biologique sur le mode de l’interaction et non du simple « support » comme ce pourrait être le cas d’une broche orthopédique, par exemple.

[3] La phénoménologie est la branche de la philosophie qui étudie les phénomènes, l’expérience vécue et les contenus de conscience.

[4] Le monde est ici défini comme l’ensemble des phénomènes apparaissant aux sens et à la conscience.

[5] Le mot d’intentionnalité vient du latin intendere, « orienter », « donner une direction ».

[6] Peter-Paul Verbeek, « Cyborg intentionality – Rethinking the phenomenology of human-technology relations » (notre traduction).

[7] Le phénomène est défini comme « Ce qui apparaît, ce qui se manifeste aux sens ou à la conscience, tant dans l’ordre physique que dans l’ordre psychique, et qui peut devenir l’objet d’un savoir » (CNRTL).

[8] Pour une lecture passionnante sur ce point, voir Hartmut Rosa, Accélération. Une critique sociale du temps chez La Découverte.

2 comments

  1. Pingback: Sommes-nous vraiment « déjà des cyborgs » ? – publications

  2. Pingback: Réflexions sur les relations humain-artefact : sommes-nous déjà des cyborgs ? – publications

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *