Mon ami Julien De Sanctis, doctorant en philosophie et éthique appliquées à la robotique sociale me dit souvent que les robots sociaux « ne servent à rien et c’est là tout leur intérêt ». Ce à quoi je réponds qu’ils doivent au moins servir à faire de l’argent puisqu’ils ne sont pas gratuits. Passé ce détail financier, il faut reconnaître que la question est vertigineuse : pourquoi fabrique-t-on des êtres « mécatroniques[1] » si semblables à nous-mêmes ? A quoi ressemblera le monde lorsque nous les aurons dotés d’émotions – artificielles – et de capteurs à même de juger de nos joies et de nos tristesses ?
Petit teasing avant notre débat « Pourquoi nos robots deviennent-ils empathiques ? » (inscriptions ici) organisée par le Mouton Numérique et qui aura lieu le jeudi 12 avril à 19h30 au Centquatre. Serge Tisseron, psychiatre membre de l’Académie des technologies, et Jérôme Monceaux, Président de Spoon Artificial Creatures, ancien co-fondateur d’Aldebaran Robotics (aujourd’hui Sofbank Robotics) y proposeront leurs réponses en éclaircissant les concepts de « robot social » et d’ « empathie artificielle ».
Les robots sociaux ne servent pas vraiment à rien
Rendons à Julien ce qui lui appartient puisqu’il rappelle tout de même que les robots sociaux (qui « simulent des comportements sociaux ») sont inutiles seulement dans la mesure où ils n’ont pas une fonction précise, comme peut en avoir un balai, un manche de casserole ou encore un robot non social comme une découpeuse laser. Il y a certes de rares cas où les robots sociaux ont une utilité véritable, par exemple auprès des personnes autistes ou encore en gériatrie. Mais sortis de ces deux exemples qui reviennent souvent, c’est le grand vide : les robots sociaux sont à peu près aussi indispensables que l’étaient les Tamagotchis.
On pourra aussi arguer du fait que nous autres humains avons déjà en notre possession tout un tas d’artefacts absolument inutiles fonctionnellement parlant : des figurines en plastique qui arborent nos étagères aux bijoux fantaisies en passant par cette lampe purement décorative mais qui ne marche plus. En dehors de leurs fonctions esthétiques, ostentatoires ou sociales, ces objets sont à proprement parler inutiles. Mais étant donné que nous sommes des êtres de culture, sociaux, ravis d’épater la galerie et de porter notre regard sur les belles choses, nous aimons l’inutile (qui s’avère être en fait très, très utile). Tout comme nous aimons l’art. Et éventuellement les robots sociaux.
Mais pourquoi fabrique-t-on des robots dotés d’émotions ?
La première réponse à cette question serait d’affirmer que c’est juste « pour le fun », artistique, rigolo, techniquement stimulant. Peut-être même que toutes les espèces dites intelligentes ont en partage cette curieuse fascination pour l’autoréplication par voies détournées. Pour répondre à cette question, il faudrait pouvoir le vérifier auprès d’une civilisation intelligente sur une autre planète, ce qui est pour le moment impossible (et rien ne dit que cette autre espèce aurait des émotions de toute façon). Une autre réponse consisterait à dire que nous avons affaire à une forme de déterminisme technologique : tout développement technique conduirait inexorablement à la création d’êtres robotiques imitant leurs concepteurs (mais sincèrement, je ne crois pas).
L’autre théorie est bien moins farfelue : nous créons des robots pour asseoir un système économique qui exploite les affects, comme l’expliquent les chercheurs Camille Alloing et Julien Pierre. Le robot empathique, c’est aussi le robot qui nous affecte et qui pourrait à la manière des Likes et autres émotions actionnables sur Facebook nous encourager à partager nos états d’âmes (directement avec un robot ou bien avec nos pairs). Julien De Sanctis nous dit très justement que le robot social pourrait être ce « cheval de Troie émotionnel », un programme connaissant notre humeur en temps réel, peut-être capable de l’influencer [2] – pour notre plus grand bien – ou pour nous vendre une nouvelle paire de chaussures. Mais réduire le robot social à une logique purement capitaliste, c’est faire fi de tous ces chercheurs en robotique qui ont d’autres rêves.
Où tout ceci va-t-il nous mener ?
Si les questions relatives à la robotique sociale fusent, c’est parce que les risques sont perceptibles : manipulation des affects, « grand remplacement » (hausse du chômage à cause des robots-à-tout-faire) ou encore danger de détourner l’homme des « vraies choses sensibles » (comme par exemple ses semblables). On parle d’ailleurs d’éthique en robotique, même si le plus souvent c’est pour s’assurer qu’un robot ne reproduira pas un stéréotype de genre ou prendra la bonne décision lorsqu’il faudra sauver quelqu’un au péril de la vie de quelqu’un d’autre (lois d’Asimov et dilemme du tramway). Mais à mon sens, les questions éthiques devraient intervenir en amont. Si l’éthique est schématiquement une appréciation, un partage entre ce qui est recommandable et ce qui ne l’est pas, alors les questions écologiques devraient précéder les questions robotiques car après tout, ces objets sont aussi inutiles qu’ils sont polluants (voir à ce sujet une réponse intéressante dans la notion d’éco-éthique développée par la philosophe japonais Tomonobu Imamichi [3]). Peut-être même que les robots sociaux ne devraient pas du tout exister. Mais ils existent, ne refaisons pas l’histoire (quand bien même elle fleure bon le déterminisme technologique).
Il y a une seconde option qui fait fantasmer son petit monde, c’est celle du robot utile socialement. L’assistant du quotidien, optimisateur de vie et régulateur social. « Le majordome hissé à son niveau le plus pur » disais-je dans cette nouvelle jamais terminée « La fabuleuse histoire de Robobo, le robot Bobo » (à ne pas confondre avec Robobo, le robot qui soigne les bobos de la très charmante école maternelle de la Châtaignerie). Bref, ce robot, c’est un ami (la preuve : Alfred est bien plus que le majordome de Bruce Wayne, c’est son ami). Le psychiatre Serge Tisseron (invité au débat du 12 avril) s’inquiète d’ailleurs de cette amitié nous liant aux robots… Comment s’assurer que nous ne finirons pas par les préférer à nos semblables ? Après tout, les robots ne râlent pas, ils sont dociles, obéissants, disponibles. Pour autant, si l’amitié est une relation spirituelle et morale, il y a peu de chance qu’un robot qui me propose un produit dérivé toute les trente minutes reste longtemps mon ami. Par ailleurs, dans une industrie standardisée, nous aurions tous le même robot, donc à peu près[4] le même ami : un tel monde serait terrifiant.
L’empathie, cette nouvelle tarte à la crème
En 1982, dans le film de science-fiction de Ridley Scott Blade Runner, le test imaginaire de Voight-Kampff démasquait les non humains en détectant l’absence d’empathie. Effectivement, les robots ne feront jamais que simuler les émotions. Et les humains qui programment aujourd’hui ces robots simulateurs devront s’attacher à rappeler ce simple fait pour ne pas tromper leur monde, c’est en tout cas une question éthique.
Et ne nous méprenons pas : si l’empathie tout comme la bienveillance, est devenue une réponse à tout, elle ne peut pas devenir une caution pour justifier n’importe quoi. L’empathie est une arme à double tranchant car elle peut être instrumentalisée : on peut ressentir de l’empathie pour un réfugié, autant que pour une personne agressée sexuellement par un réfugié. On fait de l’empathie une caractéristique pleinement humaine (ce qui est faux, puisque beaucoup d’animaux en sont dotés) mais elle n’explique rien et n’aide pas forcément à raisonner statistiquement comme le montre l’exemple précédent. Qui plus est, un robot trop empathique serait terriblement ennuyeux car la sociabilité ne s’y résume pas. Nous ne sommes pas des machines cybernétiques : nous n’avons pas toujours besoin d’être consolés lorsque nous sommes tristes ni apaisés lorsque nous sommes en colère ou rassurés quand nous avons peur. L’humain ne fait pas que reconnaître les émotions, il les interprète, il les relie à un contexte, une personne, etc. L’empathie véritablement humaine consiste aussi à réprimander son prochain, à l’insulter, à le maudire et enfin, à se réconcilier avec lui. Pas sûr que les robots sociaux nous battent à ce jeu-là.
Pour poursuivre la réflexion, rendez-vous le 12 avril au Centquatre, à 19h30 ! Inscriptions.
[1] La mécatronique est une discipline alliant la mécanique, l’électronique et l’informatique pour concevoir des systèmes de production industrielle.
[2] NB : les robots ne sont pas les seuls objets auxquels on s’attache. Comme l’indique Jordan Jordan (P.W.), « Pleasure with products: Human factors for body, mind and soul », pour tous les systèmes technologiques, « les produits ne sont pas uniquement des outils. Les produits sont des objets vivants avec lesquels les personnes ont des relations. Les produits sont des objets qui peuvent rendre l’individu heureux ou furieux, orgueilleux ou honteux, sécurisé ou anxieux… Ils ont une personnalité ».
[3] D’où la nécessité de mobiliser la notion d’éco-éthique telle que développée par Tomonobu Imamichi. Comme l’explique Peter Kemp « Si l’éco-éthique est l’éthique dans son sens le plus vaste, elle ne peut être limitée aux rapports personnels comme dans l’éthique traditionnelle européenne. Je veux dire par là que la vie bonne ne peut être considérée de notre vie corporelle qui organiquement est liée à la nature par laquelle nous vivons. L’Ethique, par conséquent, ne peut pas être limitée à une liberté abstraite de la pensée pure. Il s’ensuit que notre vie bonne dépend de la manière dont nous traitons la nature et dont nous jouissons de cette nature, jusqu’à la manière dont nous produisons et consommons ce qui provient d’elle. La vie bonne est donc loin d’être une abstraction, elle concerne la manière dont nous choisissons d’organiser notre rapport à la nature, rapport qui s’incarne à travers certaines logiques de production et de consommation. »
[4] Je dis « à peu près », ne sachant pas dans quelle mesure une intelligence artificielle ultra performante grâce au machine learning pourrait rendre notre robot unique puisque construit à partir de nos interactions. Il faudra veiller dans ce cas à ce que le robot ne nous ressemble pas trop, personne n’aimerait être ami avec soi-même, c’est totalement égotique.
Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.
[…] les robots étaient perçus négativement comme menaçant les emplois des professeurs et accentuant la dégradation des rapports sociaux entre les élèves. Mais très rapidement, grâce à la pédagogie et aux premiers résultats […]