Real Humans. Peut-on s’attacher à une machine comme à un être humain ?

Real Human

Que se passera-t-il lorsque les humains auront mis au point des machines capables de faire, sans aucune erreur, toutes les tâches pour lesquelles elles ont été programmées, y compris la conversation et l’amour ? L’homme sera partagé, plus que jamais, entre les deux désirs qui l’habitent depuis les origines: le désir d’emprise qui l’a conduit, au fil des millénaires, à contrôler toujours plus son environnement par technologies interposée, au prix parfois de vouloir réduire ses semblables au statut de simples machines ; et le désir de réciprocité, qui lui fait parfois accorder à des objets l’attention et le respect normalement dus à des êtres humains. Alors, pris de panique, certains penseront qu’il vaudrait mieux se débarrasser de ces machines devenues imprévisibles… tandis que d’autres décideront de leur donner leur liberté, et de les considérer comme une nouvelle catégorie du vivant. Mais tous seront en réalité partagés entre ces deux désirs contradictoires et opposés, dont le caractère complémentaire n’aura jamais été aussi évident. Telle est la fable que nous raconte la série télévisée suédoise Real Humans (en français 100% Humains), dont la première saison s’est terminée en en juin 2013.

L’idée de fabriquer une créature qui lui ressemble a toujours fasciné l’être humain. Elle a alimenté la légende – comme celle de Galem dans la tradition de la cabbale -, le roman – notamment le fameux Frankenstein de Mary Shelley – et bien entendu le cinéma, avec quelques films cultes, comme Métropolis[1], Mondwest (Westworld)[2], I Robot[3], Blade Runner[4], et bien entendu la série de Terminator[5]. Mais en dehors de ces œuvres qui font du robot un personnage central, rares sont les films de Science Fiction qui n’en comportent pas, et qui n’abordent pas latéralement les problèmes qu’ils posent : difficulté de distinguer un robot humanoïde d’un humain, perfection d’une créature qui a une mémoire sans faille et une logique à toute épreuve, capable d’accomplir les tâches les plus difficiles sans faire d’erreur, sans jamais s’énerver ni paniquer, et même capacité de préserver une extrême humanité dans les situations les plus inhumaines – à condition bien entendu qu’il ait été programmé dans ce but. Inutile d’insister plus, nous comprenons que pour certains, le robot soit l’avenir de l’homme…

Mais quel avenir ? Est-ce celui que ne manqueront pas de nous promettre les fabricants de ces robots ? Ou bien celui que ceux qui les utiliseront tisseront avec eux ?

Un laboratoire de la relation homme-robot

Par certains côtés, le monde de Real Humans est totalement irréaliste : on y retrouve nos voitures, nos aspirateurs, nos grille-pains, nos armes à feu, et même, un vieux téléphone à fil et à cadran chez la mère de l’un des personnages. Or si des robots humanoïdes comme ceux de Real Humans existent un jour, ils vivront – et les humains avec eux – dans un monde bien différent de celui d’aujourd’hui. Ils ne seront pas obligés de passer l’aspirateur, de conduire la voiture et d’aller au supermarché avec la carte bancaire de leur propriétaire pour y faire ses courses. La difficulté de concevoir un robot humanoïde autonome et multitâche est telle que de nombreux robots destinés à accomplir une tâche unique auront déjà transformé notre vie quotidienne avant qu’il n’apparaisse. Nos aspirateurs glisseront seuls sur le sol à la recherche de la poussière, nos voitures se déplaceront seules, guidées par des caméras et un GPS, nos placards et nos réfrigérateurs communiqueront entre eux et avec le supermarché sans que nous soyons obligés d’envoyer un robot humanoïde faire les courses à notre place en lui confiant notre carte bancaire, etc. Cela s’appelle le web 3.0, ou encore le web des objets. Il fait suite au web 1.0, dans lequel chacun a la possibilité d’envoyer des messages au monde entier, et au web 2.0 – encore appelé web communautaire – dans lequel tous les récepteurs d’un message peuvent interagir entre eux de façon à créer un forum, ou une communauté…

Mais si cette série décide d’ignorer à ce point les étapes prévisibles du progrès technologique, c’est pour s’attacher à un seul autre aspect des choses : la relation que les humains pourront établir, et entretenir, avec des créatures artificielles qui leur ressemblent.

Qu’est ce qu’un robot ?

Pour l’essayiste américain Peter W. Singer, un robot est défini par quatre critères : il est une machine construite par l’homme, il possède des senseurs pour appréhender son environnement, des programmes lui permettent de définir une réponse, et il peut la mettre en œuvre. Cette définition permet d’inclure des systèmes fixes, alors que d’autres définitions les excluent en considérant la mobilité comme un critère définissant un robot. Dans Real Human, les robots sont mobiles, et semblables par leur aspect aux humains dont ils semblent avoir toutes les fonctions, excepté les émotions et la capacité de libre décision… Ce n’est pas de la science fiction car Hiroshi Ishiguro[6], a déjà conçu de tels robots humanoïdes, et notamment un clone à son image qui le remplace de plus en plus souvent dans des colloques : son visage est animé, et Hiroshi Ishiguro parle par sa bouche depuis une ville éloignée grâce à une connexion Internet. Comment réagissent ceux qui y sont confrontés ? Un mot résume tout : l’ambivalence. Et c’est exactement ce qui est au cœur de la série Real Humans. L’un des héros (Roger) hait les robots qui prennent peu à peu sa place à son travail, et ne rêve que de les détruire tous, mais il tombe finalement éperdument amoureux d’une séduisante robote avec laquelle il rêve de finir sa vie ; un autre (Mickaël) va voir des robotes prostituées, mais se méprise tellement de jouir avec des machines qu’il tente de se suicider ; une femme (Thérèse) désire que le robot avec lequel elle vit en couple (Rick) prenne toujours plus d’initiative, mais finit par le débrancher parce qu’il en prend un peu trop ; et un vieil homme (Lennart) qui cherche à échapper à la surveillance de son robot infirmière tatillonne (Vera), est bien obligé de reconnaître que c’est cette machine, et elle seule, qui lui sauve plusieurs fois la vie. Bref, entre l’homme et le robot, le quiproquo paraît bel et bien inévitable.

Un objet exactement pas comme les autres

Pendant une bonne partie du XXeme siècle, la consommation des objets a été stigmatisée comme un moyen de détourner à des fins mercantiles une énergie humaine (on disait alors « la libido »)  qu’il pourrait être plus satisfaisant d’investir dans les relations que dans l’achat d’objets toujours nouveaux. Le moteur de ce détournement était la publicité, vantant un objet condamné à nous décevoir : l’objet acheté était en effet incapable de satisfaire tous les rêves qu’on y avait mis, un autre était alors acheté, et ainsi de suite. Or de ce point de vue, le robot, dans Real Human, semble marquer à la fois un point d’aboutissement de ce système… et sa radicale subversion. En effet, comme pour tout objet acheté,  le robot livré n’est pas le robot désiré. C’est bien normal puisque ce désir relevait de l’imaginaire alimenté par la publicité et pas de satisfactions liées à un usage réel, forcément différent. Mais la complexité et la plasticité du robot fait bientôt découvrir au consommateur qu’il peut satisfaire avec cet objet des désirs qu’il n’avait pas anticipés. C’était évidemment un cas de figure peu probable avec les objets mécaniques, qui ne pouvaient remplir qu’une seule fonction, celle pour laquelle ils avaient été conçus : faire le café, cuire la nourriture, aspirer la poussière. Mais tout devient différent avec les objets informatiques. Et c’est justement cette révolution que met en scène 100% Humains. Avec les robots, une nouvelle relation aux objets apparaît : ils s’avèrent non pas supérieurs à ce que la publicité en avait fait rêver, mais simplement très différents, tout simplement parce qu’ils s’adaptent à des conditions personnelles et familiales toujours particulières que la publicité n’avait tout simplement pas prévu. Et chez ceux que cette différence n’effraient pas, elle devient la source de nouvelles satisfactions qui suscitent de nouveaux désirs de telle façon que le consommateur qui a acquis un objet ne désire pas en changer, mais lui donner de nouvelles fonctionnalités, qui peuvent être très différentes de celles que le constructeur avait imaginées au départ, et que le vendeur avait mise en avant pour motiver l’acte d’achat. A tel point que de tels robots susceptible d’évoluer sans cesse pour se plier aux attentes les plus imprévisibles des consommateurs mettraient fin au cycle traditionnel de la consommation basée sur le cycle de l’objet désiré, acheté, décevant et jeté pour en inaugurer un autre, basé sur l’attachement à un objet technologiquement dépassé, mais avec lequel une histoire aurait été partagée, et qui garderait la possibilité de continuer à nous étonner parce qu’il aurait la possibilité de continuer à apprendre.

Dans Real Humans, les humains qui créent des liens de proximité émotionnelle personnalisés avec les robots s’appellent des « Hubby ». C’est le cas de Lennart avec son hubot Odi. Il préfère le conserver détraqué, avec tous les risques que cela implique, plutôt que de le porter au contrôle technique, par peur qu’on lui dise qu’il n’est pas réparable et de le voir partir au recyclage, où il serait totalement détruit afin que ces matières premières soient récupérées pour fabriquer de nouveaux Hubots. Certains héros de cette série établissent aussi avec leur Hubot une forme d’attachement amoureux. C’est le cas de Thérèse avec Rick, qu’elle a d’abord acheté comme coach sportif, avant de découvrir à quel point son silence l’apaisait et lui donnait l’impression d’être comprise par ce robot biien plus que par son mari Roger. D’autres encore ont le coup de foudre pour un Hubot. C’est le cas de Pilar avec Bo, qu’elle a « rencontré » au supermarché. Et plus encore de Tobias, tombé fou amoureux de Anita, et qui lui fait une déclaration en bonne et due forme. « Je pense à toi tout le temps, je pense tellement à toi que ça m’empêche de dormir ». Au point que son père l’emmène chez la psychologue, à laquelle il déclare : « J’ai beau me dire que c’est une machine, ça ne sert à rien, c’est même pire ».

A chacun son robot

Au centre de cette série, il y a une famille, la famille Engman, dont les différents membres vont chacun utiliser le hubot de service à sa façon. Une famille dont le nom évoque étrangement « Endman », autrement dit « la fin de l’homme ». Et en effet, c’est en son sein que tout va se jouer. Mais le spectateur ne commencera à le comprendre qu’au cinquième épisode de la série. Avant, il aura eu le temps de se familiariser avec le père Hans, la mère Inger – dont le métier d’avocate va se révéler avoir une grande importance par la suite – et leur trois enfants : Mathilda qui travaille dans un supermarché, et dont l’emploi est menacé par la robotisation progressive de toutes les tâches ; l’adolescent Tobias, taraudé par les questions sexuelles propres à son âge et qui craint d’être un TransHumain sexuel parce qu’il « n’y a que les Hubots qui l’attirent » ; et enfin la petite Sofia, qui découvre vite qu’un robot est plus disponible pour jouer avec elle que sa mère toujours occupée et fatiguée. Mais il faudra compter aussi avec la famille élargie : Lennart, le père de Inger, Thérèse, sa sœur, qui a quitté son compagnon Roger pour se mettre en couple avec un Hubot Rick et son fils Kevin, copain de Tobias. En fait, le problème s’avère être toujours le même : aussitôt un hubot introduit dans une famille, il est bien difficile de le cantonner aux tâches ménagères pour lesquelles il a été en principe acheté. Chacun le désirait pour une tâche pratique précise, mais il va vite se rendre indispensable pour beaucoup d’autres raisons.

Dans la famille Engman, donc, la mère (Pia Halvorsen) n’aime pas les robots, et elle a décidé que jamais l’un d’entre eux ne franchira le seuil de sa maison. Il faudra que Odi, le hubot de son père, tombe en panne, et que son mari se charge de l’achat d’un nouveau pour qu’Anita (Lisette Pagler) entre dans leur maison. Et Anita bouleversera leur vie à tous, exactement comme le beau garçon blond du Théorème de Pasolini. Car Anita en fait de beauté et d’étrangeté, n’a rien à envier au sulfureux héros pasolinien. Ce Hubot promis au rôle de femme de ménage a une anatomie de top modèle, ou, plus prosaïquement, de sex toy, puisque c’est à ce rôle que sont normalement promis les hubots de son acabit. Elle est d’ailleurs livrée avec une puce permettant de la transformer en parfaite compagne de plaisirs – inutile de préciser que Monsieur Engelman s’empresse de la faire disparaître dans sa poche… Mais qu’est-ce qui a bien pu traverser la tête du marchand quand il a fait cadeau de Anita à l’honnête père de famille venu acheter un hubot de compagnie pour son beau-père ? C’est que Anita est un robot de marché noir, volé par des récupérateurs qui l’ont fait échapper à la casse, et dont le bon fonctionnement est loin d’être assuré. Et en effet, malgré sa déprogrammation et sa reprogrammation, Anita souffre de réminiscences, ou plus précisément de souvenirs traumatiques liés à une vie antérieure, quand elle s’appelait Mimi, et qu’elle était amoureuse…

Mais restons-en pour le moment à la relation ambiguë que Inger va nouer avec Anita. Elle n’en voulait pas, disions-nous, elle va l’accepter à l’essai. Et plus rien ne sera jamais comme avant.

S’attacher à un robot comme à un humain

Tout commence par une querelle familiale autour de sommes d’argent mystérieusement disparues du portefeuille de Hans Engman. A table, la question est posée aux trois enfants, de savoir si l’un d’entre eux aurait « emprunté » cette somme. Devant l’incrédulité générale, Inger suggère que peut-être…Anita… Hans et ses enfants en rient en arguant qu’un robot de compagnie n’a pas tellement l’usage de l’argent. Mais Inger pose quand même la question. « Anita, savez-vous où est cet argent ? » Ce à quoi le robot répond oui, et emmène la famille ébahie vers un coffret caché sous le lit de Sofia. Celle-ci met Anita hors de cause en disant que c’est elle la voleuse, Inger l’accuse de mentir pour protéger Anita, Sofia insiste encore, et Inger comprend qu’elle dit vrai, que Anita n’y est pour rien. Alors elle se répand en excuses, demande pardon à Anita de l’avoir accusée injustement, bref, lui parle comme à une vraie personne… Les dés en sont jetés. Et lorsque Inger acceptera finalement que Anita reste avec eux, elle posera des conditions relatives à une personne et pas à une machine : « Je veux qu’Anita soit traitée comme un être humain », « Je ne veux pas qu’on lui hurle des ordres », « Les enfants feront eux-mêmes leur chambre », et… « Elle aura quartier libre à partir de 21 heures ». « Mais pourquoi quartier libre ? » demande à juste titre son mari Hans, « Que veux-tu qu’un robot fasse d’un quartier libre ? ». Et Inger de répondre : « Pour moi, c’est une question de dignité. Nous devons la respecter, c’est tout ». Un peu plus tard, elle emmènera Anita se choisir des bandeaux pour les cheveux, échangera des vêtements avec elle, et s’attirera un commentaire acerbe de sa fille aînée Mathilda: « Tu ne vas pas faire comme toutes ces cinglées qui déguisent leur Hubot ». Mais Inger répondra en proposant d’emmener Anita dans le magasin où elle a été achetée « afin qu’elle sache d’où elle vient ».

Sommes-nous dans en pleine science-fiction ? Non, nous sommes bel et bien dans la réalité de la relation que nous entretenons avec les machines qui nous servent. D’ailleurs, le caractère anthropomorphique d’une machine n’est pas indispensable pour que certains d’entre nous soient tentés de la considérer comme irremplaçable à l’égal d’un être humain, même si, indiscutablement, cette caractéristique y aide. Il a ainsi été dit que parmi les soldats américains utilisant des robots démineurs Packbots, tous ne se comportent pas de la même façon. Certains leur donnent très vite un nom en prétextant qu’ils peuvent ainsi les différencier plus rapidement qu’en consultant à chaque fois leur numéro matricule. Mais cette pratique n’est pas anodine. L’introduction d’un nom incite à prêter à la machine une personnalité propre dans la mesure où celle-ci est alors identifiée exactement de la même manière qu’un individu est nommé dans la vie courante. Cette personnalisation met en valeur l’individualité d’une machine et  renforce son incarnation en personnage. Il n’est donc pas étonnant que les soldats qui agissent de cette façon aient également plus souvent tendance à essayer d’utiliser leur propre robot que celui de leurs camarades. A l’opposé, d’autres soldats ne cherchent pas à différencier leur robot autrement que par son numéro matricule et acceptent plus facilement d’en changer : ils ne sont pas « attachés » au leur.

Dans le même ordre d’idée, Mark Tilden, un physicien en robotique, donne un exemple d’une relation excessivement empathique entre un homme et un robot (Singer P.W., 2009). Il a construit un robot démineur en prenant exemple sur le corps d’un phasme. Le robot parcourt le champ de mine en s’arrêtant intentionnellement sur chaque mine qu’il trouve. Il perd ainsi à chaque fois une patte et continue sur le champ de mines jusqu’à ne plus en avoir. Tilden explique que le colonel de l’U.S Army en charge du programme n’a pas supporté la vision du robot se faisant exploser une patte après l’autre, jusqu’à ce que, brûlé et endommagé, il se traîne jusqu’à la dernière pour exploser tout à fait. Ce colonel aurait décrit ce test comme « inhumain », bien que le robot démineur ait l’apparence d’un phasme, autrement dit qu’il ressemble à un bâton muni de huit pattes. On peut se demander comment aurait réagi ce colonel si ce robot avait été anthropomorphe et avait perdu sur chaque mine un prolongement qui ressemble à une jambe ou à un bras ! L’attitude de ce colonel face à la « souffrance » qu’il prête au robot-phasme est manifestement une composante de sa vie psychique, et il est peu probable qu’une formation sur le caractère « consommable » des robots le fasse changer d’avis. Il est plus réaliste de repérer cette particularité de son fonctionnement mental pour le tenir à l’écart des unités engagées avec des robots en première ligne.

Dans « 100% Humain » le plus spectaculaire est évidemment que dans la famille Engelman, ce soit la personne a priori la plus hostile à l’introduction d’un robot dans leur vie domestique qui se révèle finalement être la plus encline à le traiter comme un être humain. Mais ce n’est finalement guère étonnant. Pensons à ceux qui refusent de jouer à un jeu vidéo de peur de devenir « addict » et de délaisser toutes leurs autres tâches. Cette menace ne pèse pourtant pas sur chacun de la même façon. Pour en revenir aux soldats américains travaillant avec des robots démineurs, certains en personnalisent l’apparence, lui donnent un prénom, et demandent qu’il soit réparé en cas d’avarie, tandis que d’autres ne font rien de tout cela, et acceptent de  recevoir un packbot tout neuf sorti de l’usine lorsque le leur est endommagé.

Tous les humains ne sont donc pas concernés de la même façon par le risque de développer vis-à-vis de robots une relation d’empathie excessive. D’ailleurs, dans Real Humans, les deux trafiquants de Hubots et le patron du supermarché qui est leur complice n’éprouvent rien de semblable. Le problème est qu’ils ne semblent guère capables non plus d’éprouver des sentiments humains pour les êtres humains… Cette série, de ce point de vue, simplifie excessivement un problème complexe. Rien ne prouve que ceux qui établissent des liens d’empathie avec les humains en établissent aussi spontanément avec les machines, et inversement, que ceux qui établissent des liens d’empathie avec les machines en établissent aussi avec les humains. Ceux qui aiment les animaux n’aiment pas forcément les humains, comme l’a largement montré l’affection que les nazis portaient à leurs chiens. Et ceux qui aiment les humains n’aiment pas forcément les animaux ! Pour éviter que des travailleurs en contact rapproché avec des robots n’établissent avec eux une relation de trop grande proximité empathique susceptible de nuire à leur travail, il pourrait donc être nécessaire – et cela sans attendre l’hypothétique apparition de robots humanoïdes – de sélectionner ceux qui en sont capables. Cela pourrait se faire par un « test d’empathie pour les robots » (TEPR).

S’attacher à une histoire partagée

Si Inger semble s’attacher à Anita par une capacité d’empathie propre à sa personnalité, d’autres personnages autour d’elle vont le faire pour des raisons plus pratiques. Sa jeune fille Sofia, par exemple, qui préfère que ce soit Anita qui lui lise une histoire le soir, parce qu’un hubot est toujours disponible, toujours souriant, jamais fatigué… Ou Lennart, le père de Inger, qui refuse de mettre son vieil hubot Odi à la casse et le cache dans sa cave. A vrai dire, Lennart semble considérer Odi comme son grand fils, plutôt que comme un simple robot. Il a oublié de lui faire passer les contrôles de sécurité, pensant sans doute qu’il n’en avait pas plus besoin que lui-même d’aller chez le médecin… de suivre un régime et de prendre ses médicaments. Mais on comprend vite que Odi est en fait sa mémoire. Lennart évoque une situation, et Odi, avec sa  prodigieuse mémoire informatique, en énumère les caractéristiques.

Et puis il y a une troisième façon de s’attacher à un robot. C’est de vouloir retrouver en lui la mère qu’on a aimée enfant. C’est le cas de Léo. Tombé amoureux de sa jeune et séduisante baby-sitter Mimi à l’âge de 10 ans, il la retrouve inchangé dix ans plus tard et devient son amant. Un Hubot ne prend en effet aucune ride, et ils sont maintenant du même âge.

Comme le dit l’un des personnages du film : Que deviendront nos enfants élevés par des robots ? La réponse semble aller de soi : des adultes capables de tomber amoureux d’un robot.

Serge Tisseron

BIBLIOGRAPHIE

SINGER, Peter W. (2009). Wired for War, New York, The Penguin Press.

TISSERON, S. (1999). Comment l’esprit vient aux objets, Paris, Aubier.

[1] Film de allemand de Fritz Lang, première sortie en 1927.

[2] Film américain de Michael Crichton, sorti en 1973.

[3] Film américain de Alex Proyas, sorti en 2004.

[4] Film américain de Ridley Scott, sorti en 1982.

[5] Série de quatre films américains sortis respectivement en 198419912003 et 2009..

[6] De l’école polytechnique d’Osaka.

4 réflexions au sujet de « Real Humans. Peut-on s’attacher à une machine comme à un être humain ? »

  1. Intéressant, complet, pour avoir vu il y a quelques temps la série, je dois dire qu’on y retrouve les principales questions qu’elle pose. Elle conclut dans la dernière saison sur l’éternelle ritournelle de la « libération des robots », direct clin d’oeil aux Civil Rights américains (mais aussi à l’esclavage et à toute autre sortie de l’asservissement des peuples). Egalement intéressant de soulever la question du désir, même si au niveau de la série, celui-ci s’exprime d’abord comme pulsion et assouvissement libidinal – d’abord sexuel – (il n’y a qu’à voir l’état de l’adolescent de la famille quand arrive cette ravissante et impudique petite robote). Il faudrait pousser l’analyse et faire le parallèle avec nos robots à nous, bien plus réels et actuels, que sont les algorithmes. Eux, anticipent nos désirs et nous connaissent mieux que quiconque. Pour sûr, nous ne sommes pas prêts de nous y attacher, et je pense que vous êtes un peu optimistes en avançant que la robotique pourrait sonner le glas de l’obsolescence programmée… Certes, l’iphone de 2045 aura peut-être aura peut-être forme humaine, mais il n’en sera pas pour autant le seul objet qu’un humain pourrait acheter… Une société comme Apple vend aussi des services, sert de plate-forme à tout un tas d’autres produits vendus par tout un tas d’autres vendeurs qui fonctionnent très bien en revendant les mêmes produits chaque année, sous un vernis différent. Customiser un objet ne veut pas dire qu’on pourra se passer des modes, ni de l’envie d’en avoir plus. La preuve, les relations entre humains sont aussi faites de rejets et d’attachements (les gens divorcent, se trompent), ces événements auront lieu également dans une relation homme machine (anthropomorphisée) si cette dernière est amenée, un jour, à exister.

    A ce titre, je pense que vous faites fausse route sur ce point précis, le robot n’améliore pas le monde ni les modes de consommation, mais peut y contribuer. Il est remède et poison, dirait un certain Bernard Stiegler, il est ce qu’on en fait…

    Bref, vaste sujet, je serai ravi d’en discuter plus longuement, je l’ai traité à quelques reprises, notamment ici http://maisouvaleweb.fr/homme-robot-travail/

    A très bientôt

  2. I discovered your blog web site website on the search engines and check several of your early posts. Always sustain up the very excellent operate. I lately additional increase Rss to my MSN News Reader. Looking for toward reading much far more on your part later on! bdddkckfbdbd

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *