Faut-il punir les robots par avance pour ce qu’ils vont peut-être nous faire ? C’est la question que se sont posé deux artistes, Filipe Vilas-Boas et Paul Coudamy, avec leur installation The Punishment (2017). Alors même que les robots apprennent « tout seuls », notamment grâce aux techniques de Deep Learning, la question de leur éducation se pose : comment guider les machines dans leur appropriation des lois humaines, et comment les corriger quand ils en dépassent les frontières morales ?
Extension du domaine de la punition : « I must not hurt humans »
The Punishment, c’est ce bras articulé, symbole de la main que l’homme a volontiers « exosomatisée » (étymologiquement « sortie de son corps ») au profit de la machine : il répète inlassablement la même routine qui consiste à écrire ces lignes : « I must not hurt humans ». Ironie, le robot n’emploie pour une fois pas du code, mais bien l’antédiluvienne technique rébarbative à l’usage de tous les cancres du monde. Mais pourquoi cette punition ? A en croire Filipe Vilas-Boas, c’est là une manière de convoquer tout un tas de technologies (NBIC, intelligence artificielle) dans un mouvement d’anthropomorphisation qui semble nous rassurer sur notre place dans la course avec les machines :
« Sans nous en rendre compte, leur utilisation croissante pose des questions fondamentales à l’humanité : bien entendu, notre relation au travail dont certains annoncent la fin et donc la question de notre utilité voire notre inutilité, mais aussi la porosité homme-machine qui se concrétise de plus en plus avec les nano et neuro-sciences ou encore, le fonctionnement de l’éducation qui n’a pas changé depuis des lustres. »
La démarche a quelque chose comique, pour autant, comment échapper au sérieux des questions qu’elle pose ? Derrière le robot, est-ce l’humain que l’on doit punir et ainsi tourner en rond ? Punir une machine, c’est admettre son existence juridique : « l’acte criminel requiert une personne morale » affirme Xavier de la Porte dans sa chronique. Et d’ajouter, « Cela a-t-il un sens de mettre un bracelet électronique à un robot ? » car après tout, ils ne sont pas humains. Et s’ils l’étaient d’ailleurs, comment ne pas pousser la logique et percevoir qu’à force de répétition du mot d’ordre, la punition produise – in fine – l’effet inverse ? Frissons métalliques.
Quand les machines nous parlent d’elles mêmes
Car s’il y a bien quelque chose de vrai dans cet exercice, c’est que les machines et les hommes sont encore trop peu sur le registre de la compassion. Or châtier un robot, c’est l’aimer un peu. Pour Filipe, c’est aussi un prolongement de son travail d’artiste :
« Je voulais faire le lien avec une série d’installations précédentes de détournements religieux qui traitaient en partie d’une certaine forme de sacralisation de la technologie : en 2014, pour la Nuit Blanche à Paris, un lieu de culte avec « Shooting Thoughts » à l’église Saint-Eustache, et en 2015, une icône religieuse avec « iDoll » une madone interactive exposée à la galerie Flaq, le 8 décembre exactement pour coïncider avec la fête de l’Immaculée Conception – histoire de ne pas faire les choses à moitié. »
« Shooting Thoughts », Filipe Vilas-Boas
« iDoll » Filipe Vilas-Boas
Il y aurait beaucoup à dire. A commencer par le fait que tout ceci une fois de plus, illustre le caractère éminemment transcendantal que l’on prête à la technique. Derrière les lignes à copier, il y a cette claire référence à la punition originelle, celle de l’homme par dieu, ou encore « certain tropisme judéo-chrétien. Nous les hommes, nous retrouvant dans la position du créateur, punissons en cascade notre élève, la machine. »
Un monde où « l’intelligence des robots déstabilise le système maître-esclave initialement établit en informatique » nous dit Filipe. Car si les humains ont leurs 10 commandements, les robots ont leurs 3 lois d’Asimov : chacun sait que les règles sont d’abord faites pour être transgressées (et ainsi alimenter des scénarios de films de science-fiction).
Et l’Habeas Corpus alors ?
Jusqu’à présent donc, les ingénieurs étaient ceux qui corrigeaient les machines. Le futur nous prépare peut-être des « gardiens d’algorithmes » guidant les meutes de robots intelligents tels de fougueux épagneuls encerclant leurs nouveaux moutons numériques. Mais il y a un peu de chemin, et la mise en scène plutôt humiliante de notre bras robotique le prépare peut-être, même si ce n’est pas ce que l’on fait de mieux pédagogiquement parlant.
D’ailleurs, toute l’ironie de l’oeuvre est cette charge contre les robots, miroir direct de notre insatiabilité pour le rôti de sorcières. Après tout, ils ne nous ont pas fait grand chose de plus que ce que nous leur avons enjoins à faire, plus ou moins consciemment, certes. Mais pourquoi déjà les punir ? Et comment ne pas penser au très cyberpunk Minority Report, directement inspiré de la non moins célèbre nouvelle de Philip K. Dick dans laquelle les « precogs », sortes d’hommes machines rêvent à l’avance des crimes que des individus commettrons – ou pas – permettant ainsi à la police d’intervenir avant la réalisation des faits pour arrêter… des innocents. Pur scénario de science-fiction, non ?
Lire aussi cette passionnante conversation autour des hommes-machines de Philip K. Dick
Sommes-nous des hommes machines ? Une plongée dans les univers de Philip K. Dick [table ronde]
Mais la science-fiction n’a-t-elle pas pour rôle de prévenir ? D’être clairvoyant quant à l’avenir, et donc au présent ? Dans le genre, on en avait vu d’autres, l’artiste Marc Hassenzahi par exemple, qui design des objets techniques à même de nous « conscientiser » sur leur impact écologique, parmi les inratables de la série : « the never hungry Caterpillar » qui prévient son possesseur qu’un appareil en veille consomme de l’électricité pour rien… On pourrait aussi parler de cette lampe électrique qui se ferme pétale par pétale, comme pour nous rappeler que l’énergie pompe à la nature : « Forget me not » de Matthias Laschke.
En attendant, il faut se réjouir que les robots intéressent les artistes : c’est là une juste appropriation des machines par la culture. Lisons entre ces lignes ce qu’il y a à y lire : une façon d’interroger le droit, l’éthique, la morale et la technique pour faire avancer ensemble systèmes techniques et systèmes sociaux.
L’artiste sur Twitter @filiperies et sa page Facebook : https://www.facebook.com/vilasboasfilipe/
[metaslider id=6285]
Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.
…En attendant, il faut se réjouir que les robots intéressent les artistes : c’est là une juste appropriation des machines par la culture…
Le jour est proche où les artistes intéresseront les robots. Peut-être est-il déjà là sans que nous nous en rendions compte. Après tout, on ne s’aperçoit guère que la terre nous emporte dans sa course folle autour du soleil à une vitesse qui devait nous décoiffer ni même que notre galaxie fonce vers un amas à la vitesse de 30 000 km/s. Vous allez dire » je ne vois pas le rapport » . Quittons un instant l’anthropocentrisme qui a nous a fait construire les dieux à notre image et nous a persuadé que la Terre était au centre de l’univers. Tout ça pour nous rassurer évidemment. Les trois lois d’Asimov reflètent un optimisme qui paraît bien crédule quelques décennies plus tard. Les robots humanoïdes d’Asimov ne sont pas ceux qu’il faut craindre. Ils continueront pendant quelques temps encore à amuser les enfants à Noël. Mais vous avez remarqué que les enfants ne demandent plus au Père Noël un Goldorak en plastique capable de lancer des fléchettes mais un smartphone ou une tablette. Et avec ça et la complicité des fabricants de logiciels, ils se font happer par le virtuel en se bourrant de friandises génétiquement modifiées. Je trouve Michel Serres bien optimiste avec sa » petite poucette » Mais bon, il est vieux et son milieu social l’empêche de connaître l’emprise qu’un certain virtuel issu des arts graphiques a sur les adultes de demain
Ha ha, cette histoire de planète qui fuse et d’enfants qui demandent des tablettes à Noël mériterait une petite nouvelle (que je publierais avec plaisir ici). Oui, c’est une invitation. Concernant Michel Serres, je ne peux que être d’accord, nous en avions parlé ici http://maisouvaleweb.fr/la-bonne-innovation-a-lecole-est-elle-numerique-un-debat-avec-anne-cordier-et-loys-bonod/