Comme dans Black Mirror, cette technologie nous permet de communiquer avec les morts

Cependant, je ne suis qu'un être humain et ces inquiétudes finissent par être balayées par la perspective encore plus effrayante de perdre les personnes que j'aime sans qu'elle puisse laisser de trace. Si la technologie me permet de garder un lien avec elles, est-ce une si mauvaise chose que cela?

Il y a quelque chose de profondément humain dans le désir de se souvenir des personnes que nous aimons et que nous avons perdues. Nous exhortons nos proches de laisser une trace à l'écrit de leurs souvenirs avant qu'il ne soit trop tard. Une fois qu'ils sont partis, nous accrochons leurs photos sur nos murs. Nous nous rendons sur leur tombe le jour de leur anniversaire. Nous leur parlons comme s'ils étaient encore là avec nous. Toutefois, dans cette situation, la conversation a toujours été à sens unique.

L'idée d'une technologie qui puisse changer la donne a été largement exploitée dans des oeuvres de science-fiction à l'atmosphère sombre telles que Black Mirror. Une série qui est évoquée par tout le monde au grand dam des start-up de ce secteur. Dans un épisode datant de 2013, une femme qui a perdu son partenaire va recréer une version numérique de celui-ci - d'abord sous la forme d'un chatbot puis d'un assistant vocal assez convaincant et enfin d'un robot physique. Même si elle construit des versions toujours plus élaborées de son compagnon, elle finit par être frustrée et perd peu à peu ses illusions en raison de l'écart qu'il existe entre le souvenir de l'être cher et la réalité imparfaite de la technologie utilisée.

Est-ce une si mauvaise chose que cela ?

"Tu n'est pas la personne que tu prétends être, n'est-ce pas ? Tu n'es qu'une partie de lui. Tu n'as pas d'histoire, toi. Tu n'es qu'une représentation de choses qu'il a faites sans réfléchir et cela ne me convient pas", dit-elle avant de ranger le robot au grenier. Ce dernier devient ainsi une relique embarrassante de son petit ami à laquelle elle préfère ne pas penser.

Dans le monde réel, rien que ces dernières années, la technologie a évolué à un niveau quelque peu surprenant. Les progrès rapides de l'IA ont permis des avancées dans de nombreux domaines. Au cours de la dernière décennie, les chatbots et les assistants vocaux, comme Siri ou Alexa, sont passés du statut de nouveauté high-tech à celui de partie intégrante de la vie quotidienne de millions de personnes. Nous nous sommes habitués à l'idée de parler avec nos appareils sur différents sujets allant des prévisions météorologiques au sens de la vie. Aujourd'hui, les grands modèles de langage de l'IA (LLM), capables d'ingérer quelques phrases "incitatives" et de produire un texte cohérent en réponse, promettent d'offrir aux humains des moyens encore plus puissants de communiquer avec les machines. Les LLM sont devenus si performants que certains ont affirmé (à tort) qu'ils pouvaient faire preuve de sensibilité.

De plus, il est possible de modifier un logiciel LLM comme GPT-3 d'OpenAI ou LaMDA de Google pour le faire ressembler davantage à une personne spécifique en lui fournissant de nombreuses phrases prononcées par cette personne. A titre d'exemple, l'an dernier, le journaliste Jason Fagone a écrit un article pour le San Francisco Chronique sur un homme d'une trentaine d'années qui a téléchargé d'anciens posts et messages Facebook de sa fiancée décédée. Son objectif était de créer un chatbot à partir de ces éléments et avec l'aide d'un logiciel baptisé "Project December". Ce dernier a été mis au point sur GPT-3.

A bien des égards, cette démarche a été couronnée de succès : Le trentenaire a trouvé du réconfort auprès du robot. Après la mort de sa compagne, pendant plusieurs années, il était rongé par la culpabilité et la tristesse mais, comme l'écrit Jason Fagone, "il a eu l'impression que le chatbot l'avait autorisé à aller de l'avant petit à petit". L'homme a même partagé sur Reddit quelques extraits de ses conversations avec le chatbot dans l'espoir, avait-il expliqué, de mettre la lumière sur cet outil et "d'aider les personnes déprimées à tourner la page".

Par ailleurs, l'IA a amélioré sa capacité à imiter des voix spécifiques, une pratique appelée le "clonage vocal". L'IA a également progressé dans le domaine de la matérialisation de personnages numériques - qu'ils soient clonés à partir d'une personne réelle ou créés de toute pièce - avec davantage de qualités qui rendent une voix plus "humaine". Voici un exemple illustrant parfaitement à quel point l'IA progresse dans ces domaines : En juin, Amazon a partagé le clip d'un petit garçon écoutant un passage du Magicien d'Oz lu par sa grand-mère récemment décédée. La voix de cette dernière a été recréée artificiellement à l'aide d'un extrait d'un discours qu'elle avait prononcée et qui durait moins d'une minute.

Comme l'a promis Rohit Prasad, vice-président sénior et scientifique en chef d'Alexa : "Si l'IA ne peut pas éliminer cette douleur liée à la perte d'un être cher, elle peut certainement prolonger les souvenirs".

Ma propre expérience de conversation avec les morts a commencé grâce à une pure sérendipité.

Fin 2019, j'ai noté que James Vlahos, le cofondateur de HereAfter AI, prendrait la parole lors d'une conférence en ligne sur les "êtres virtuels". Son entreprise fait partie d'une poignée de start-up travaillant dans le domaine que j'ai baptisé "grief tech" (que l'on pourrait traduire en français par "la technologie du deuil"). Ces start-up différent dans leurs approches mais partagent la même promesse : Vous permettre de parler par chat vidéo, texte, téléphone ou assistant vocal à une version numérique d'une personne décédée.

Intriguée par ce qu'il avançait, j'ai réussi à me faire introduire auprès de lui et j'ai fini par persuader James Vlahos et ses collègues de me laisser expérimenter leur logiciel sur mes parents bien vivants.

Au départ, je pensais que ce serait juste un projet amusant pour voir ce qui était possible d'un point de vue technologique. Puis, la pandémie a donné un caractère urgent au sujet. Les images de personnes sous respirateur, les photos de rangées de cercueils et de tombes fraîchement creusées ont fait la Une des journaux. Je m'inquiétais pour mes parents. J'étais terrifiée à l'idée qu'ils puissent mourrir et, qu'en raison des restrictions strictes sur les visites à l'hôpital mises en place au Royaume-Uni à ce moment-là, je n'aurais peut-être jamais l'occasion de leur dire au revoir.

La première étape consistait en un entretien. Il s'avère que pour créer une réplique numérique d'une personne apparaissant comme authentique et convaincante, il faut des données, beaucoup de données. HereAfter AI, dont le travail commence auprès de sujets encore en vie, pose des questions à ces derniers pendant des heures - sur absolument tous le sujets, de leurs premiers souvenirs à leur premier rendez-vous en passant par ce qu'ils pensent qu'il se passera après la mort. (C'est un humain en chair et en os qui a posé des questions à mes parents mais, signe de la rapidité des évolutions technologiques, près de deux ans plus tard, les entretiens sont généralement automatisés et gérés par un robot.)

Lorsque ma soeur et moi avons parcouru la liste des questions que l'on pourrait poser à nos parents, nous avons pu les modifier afin de les rendre plus personnelles ou plus pointues. Nous avons également pu ajouter nos propres questions : Quels livres aiment-ils ? Comment notre mère s'est-elle frayée un chemin dans le secteur juridique britannique, majoritairement masculin et privilégié, dans les années 1970 ? Qu'est-ce qui a inspiré notre père pour inventer les jeux idiots auxquels il jouait avec nous quand nous étions petites ?

Que ce soit en raison d'un malaise provoquée par une pandémie ou de la volonté de faire plaisir à leur fille cadette, mes parents n'ont opposé aucune résistance à la démarche. En décembre 2020, l'intervieweuse d'HereAfter AI, une femme sympathique nommée Meredith, a parlé à chacun d'eux pendant plusieurs heures. L'entreprise a ensuite pris ces réponses et a commencé à les assembler pour créer leurs copies numériques à travers les assistants vocaux.

Quelques mois plus tard, j'ai reçu un mail de James Vlahos m'informant que mes parents virtuels étaient disponibles.

Mon mari a dû penser que j'avais un grain

Ce papa et cette maman sont arrivés en pièces jointes de ce mail. Je pouvais communiquer avec eux via l'application Alexa sur smartphone ou un appareil Amazon Echo. J'avais hâte de les entendre. Lorsque j'ai ouvert le fichier, mes mains tremblaient. À ce moment-là, Londres vivait dans un long huis clos froid et déprimant. Je n'avais pas vu mes vrais parents depuis six mois.

Au début, les passages scriptés semblaient guidés et étranges mais au fur et à mesure que la conversation avançait, avec ma mère racontant des souvenirs et parlant avec ses propres mots, "elle" semblait beaucoup plus détendue et naturelle.

Pourtant, cette première conversation et celles qui ont suivi étaient limités - quand j'essayais de demander la copie virtuel de ma mère quels étaient ses bijoux préférés, par exemple, j'ai eu le droit à : "Désolé, je n'ai pas compris. Vous pouvez essayer de poser votre question d'une autre manière ou alors passer à un autre sujet".

Il y a aussi quelques erreurs dérangeantes au point de donner lieu à des situations cocasses. Un jour, la version robotisée de mon père m'a demandé comment j'allais. J'ai répondu : "Je me sens triste aujourd'hui". Mon "père" a répondu par un joyeux et optimiste "C'est bien !".

L'expérience globale était indéniablement bizarre. Chaque fois que je parlais à leurs versions virtuelles, je me disais que j'aurais pu parler à mes vrais parents à la place. Une fois, alors que je parlais avec les clones, mon mari à cru que je discutais au téléphone avec mes vrais parents. Lorsqu'il s'est rendu compte que ce n'était pas le cas, il a levé les yeux au ciel, s'est moqué de moi et a secoué la tête. Il a dû penser que j'avais un grain.

Il y a quelques mois, j'ai assisté à la démonstration d'une technologie similaire mise au point par une start-up née il y a cinq ans et baptisée StoryFile. Cette dernière promet d'aller un cran au-dessus. Son service Life enregistre les réponses vidéos ne se limitant pas à la voix.

Vous pouvez sélectionner des questions parmi une centaine à destination du sujet interrogé. Ensuite, vous enregistrez la personne en train de répondre aux questions. Cela peut se faire sur n'importe quel appareil équipé d'une caméra et d'un microphone. Plus la qualité de l'enregistrement est bonne, meilleur est le résultat final. Après avoir téléchargé les fichiers, l'entreprise les transforme en une version numérique de la personne que vous pouvez voir et avec laquelle vous pouvez dialoguer. Elle ne peut répondre qu'aux questions pour lesquelles elle a été programmée. C'est un peu comme HereAfter AI mais avec la vidéo en plus.

Stephen Smith, le PDG de StoryFile, a fait la démonstration de cette technologie lors d'un appel vidéo durant lequel sa mère s'est jointe à nous. Malgré le fait qu'elle soit décédée en début d'année, elle était présente lors de notre appel. Elle était assise dans un fauteuil de son salon. Elle avait une voix douce, des cheveux hirsutes et un regard bienveillant. Elle nous a donné des conseils sur la vie et semblait faire preuve de sagesse.

Stephen Smith m'a raconté que sa mère avait "assisté" à ses propres funérailles. "À la fin, elle a dit : 'Je suppose que c'est tout pour moi... Au revoir !' et tout le monde a fendu en larmes", relate-t-il. Le PDG de StoryFile m'a précisé que la participation de la version numérique de sa mère avait été bien accueillie par la famille et les amis. Et, c'est sans doute ce qui est le plus important, il a révélé que le fait d'avoir réussi à filmer sa mère avant son décès l'avait profondément réconforté.

Bien que le rendu de la vidéo était relativement élégant et professionnel, le résultat final donnait une impression étrange notamment en raison des expressions faciales. À certains moments, un peu comme avec mes propres parents, je devais me rappeler que la mère de Stephen Smith n'était pas vraiment là.

HereAfter et StoryFile partagent un objectif commun : Préserver l'histoire de la vie d'une personne [à travers un script] plutôt que d'avoir, à chaque fois, une nouvelle conversation avec le robot. C'est l'une des principales limites de la plupart des offres actuelles en matière de technologie du deuil : Elles sont génériques. Ces répliques peuvent ressembler à quelqu'un que vous aimez mais elles ne savent rien de vous. N'importe qui peut leur parler et elles répondront sur le même ton à chaque fois. Les réponses à une question donnée seront toujours les mêmes.

"Le plus gros problème de la technologie [existante] est l'idée que l'on peut générer une seule personne universelle [qui s'adresse à tout le monde de la même façon]", explique Justin Harrison, fondateur d'un service qui sera bientôt lancé et qui s'appelle You, Only Virtual. "Or, les relations que nous entretenons avec les gens sont, pour nous, uniques".

You, Only Virtual et quelques autres start-up veulent aller plus loin arguant que le fait de raconter des souvenirs ne permet pas de saisir l'essence fondamentale d'une relation entre deux personnes. Justin Harrison veut créer un bot personnalisé qui vous est destiné à vous et à vous seul.

La première version de son service, qui devrait être lancée au début de l'année 2023, permettra aux gens de créer un bot en téléchargeant les messages, les courriels et les conversations vocales d'une personne. Justin Harrison espère qu'à terme, les gens continueront à alimenter le bot en données au fil du temps. L'entreprise est en train de mettre au point une plateforme de communication que ses clients pourront utiliser pour envoyer des messages et parler avec leurs proches alors qu'ils sont encore en vie. De cette façon, toutes les données seront facilement disponibles pour être transformées en bot une fois que ces proches ne seront plus de ce monde.

C'est exactement ce que Justin Harrison a fait avec sa mère, Melodi, atteinte d'un cancer de stade 4 : "Je l'ai construit à la main en utilisant cinq années de messages échangés avec elle. Il a fallu 12 heures pour l'exporter et cela comporte des milliers de pages", explique-t-il à propos de son chatbot.

Justin Harrison affirme que ses interactions avec le bot sont plus significatives pour lui que si ce dernier ne faisait que régurgiter des souvenirs. Le bot Melodi utilise les mêmes mots que ceux employés par sa mère et il lui répond de la même manière qu'elle le ferait en l'appelant "chéri", en ponctuant leurs interactions des mêmes émojis et en faisant usage des mêmes particularités orthographiques. Justin Harrison ne pourra pas poser de questions sur la vie de l'avatar de Melodi mais cela ne le dérange pas. Le but, pour lui, est de saisir la façon dont une personne communique. "Le fait de raconter uniquement des souvenirs, cela n'a pas grand-chose à voir avec l'essence d'une relation", souligne-t-il.

Les avatars avec lesquels les gens ressentent un lien personnel profond peuvent avoir un pouvoir durable sur eux. En 2016, après le décès de son ami Roman, l'entrepreneuse Eugenia Kuyda a construit ce qui serait le premier bot de ce type en se servant de messages qu'ils s'étaient échangés. (Elle a ensuite fondé une start-up appelée Replika qui crée des compagnons virtuels non basés sur des personnes réelles.)

Elle a trouvé ce moyen extrêmement utile pour surmonter son chagrin et, aujourd'hui encore, elle parle au bot de Roman notamment à l'occasion de son anniversaire et le jour de sa mort.

Toutefois, elle prévient que les utilisateurs doivent veiller à ne pas penser que cette technologie recrée ou conserve des personnes. "Je ne voulais pas ramener son clone mais son souvenir", souligne-t-elle. L'intention était de "créer un monument numérique où l'on peut interagir avec cette personne non pas pour prétendre qu'elle est encore vivante mais pour entendre parler d'elle, se souvenir de comment elle était et être à nouveau inspiré par elle".

Certaines personnes trouvent que le fait d'entendre la voix de leurs proches après leur disparition les aide à faire leur deuil. Il n'est pas rare que les gens écoutent les messages vocaux d'une personne décédée, par exemple, relève Erin Thompson, psychologue clinicienne spécialisée dans le deuil. Un avatar virtuel avec lequel vous pouvez avoir une conversation plus poussée pourrait constituer un moyen précieux et sain de rester en contact avec une personne que vous avez aimée et perdue, poursuit-elle.

Néanmoins, Erin Thompson et d'autres personnes se font l'écho de l'avertissement émis par Eugenia Kuyda : Il ne faut pas accorder trop d'importance à la technologie. Une personne en deuil doit se rappeler que ces bots ne peuvent saisir qu'une petite partie d'une personne. Ces bots ne peuvent faire preuve de sensibilité et ils ne remplaceront pas des relations humaines saines et qui fonctionnent".

Refus d'accepter la réalité

"Vous parents ne sont pas vraiment là. Vous leur parlez mais il ne s'agit pas réellement d'eux", précise Erica Stonestreet, professeure agrégée de philosophie au College of Saint Benedict & Saint John's University, qui étudie les notions de personnalité et d'identité.

Dans les premières semaines voire les premiers mois qui suivent le décès d'un être cher, les gens ont du mal à accepter cette perte. Tout élément qui leur fait penser à la personne décédée peut être traumatisant. "Dans la phase aiguë du deuil, on peut avoir le sentiment fort que ce n'est pas réel et ne pas être capable d'accepter que la personne est partie", précise Erin Thompson. Ce type de deuil intense risque d'être associé à une maladie mentale, voire d'être la cause, surtout s'il est constamment alimenté et prolongé par des éléments rappelant la personne décédée.

On peut soutenir l'idée qu'aujourd'hui ce risque est faible compte tenu des défauts de ces technologies du deuil. Même si j'ai parfois succombé à l'illusion, je n'ai pas pris ces bots pour mes vrais parents. Cependant, le risque que les gens se laissent trop séduire par le fantôme de la personnalité de leur proche décédé augmentera certainement à mesure que la technologie s'améliorera.

Il existe d'autres risques. Tout service permettant de créer une réplique numérique d'une personne sans son accord soulève des questions éthiques complexes relatives au consentement et à la vie privée. Si certains pourraient affirmer que le consentement est moins important lorsqu'une personne est morte, la personne qui a généré l'autre partie de la conversation ne devrait-elle pas avoir son mot à dire ?

Et que se passe-t-il se cette personne n'est, en fait, pas morte ? Rien n'empêche les gens d'utiliser les technologies du deuil pour créer des versions virtuelles de personnes encore en vie sans leur consentement - comme un.e ex par exemple. Les entreprises qui vendent des services utilisant des messages passés ont conscience de ce risque et affirment qu'ils supprimeront les données d'une personne si celle-ci en fait la demande. Toutefois, les entreprises ne sont pas obligées de procéder à des vérifications pour s'assurer que leur technologie se limite aux personnes qui ont donné leur accord ou qui sont décédées. Aucune loi n'empêche quiconque de créer des avatars d'autres personnes et bonne chance pour expliquer cela au commissariat de police de votre quartier. Imaginez ce que vous ressentirez si vous appreniez qu'il existe une version virtuelle de vous, quelque part, et que celle-ci est contrôlée par quelqu'un d'autre.

Si à l'avenir les répliques numériques se généralisaient, il faudra inévitablement mettre en place de nouveaux processus et de nouvelles normes concernant l'héritage que nous laissons en ligne. Si l'histoire du développement de la technologie nous a appris une chose, c'est que nous serons mieux lotis si nous nous attaquons au risque d'une utilisation malveillante de ces répliques avant, et non après, leur adoption massive.

Ce scénario se produira-t-il un jour ? You, Only Virtual utilise le slogan suivant : Ne jamais avoir à dire au revoir. Or, il n'est pas évident de savoir combien de personnes veulent ou sont prêtes pour un tel monde. Faire le deuil de ceux qui sont décédés est, pour la plupart des gens, l'un des rares aspects de la vie encore largement épargnés par la technologie moderne.

D'un point de vue plus terre à terre, les coûts peuvent constituer un inconvénient. Bien que certains de ces services proposent des versions gratuites, ils peuvent facilement atteindre des centaines voire des milliers de dollars.

La version illimitée de HereAfter vous permet d'enregistrer autant de conversations que vous le souhaitez avec votre sujet. Cette version coûte 8,99 dollars par mois. Cela peut sembler moins onéreux que le paiement unique de 499 dollars demandés par StoryFile pour accéder à son ensemble de services premium et illimités. Cependant, à 108 dollars par an, la facture pour les service HereAfter pourraient rapidement s'envoler si vous faites des calculs macabres sur les coûts relatifs au restant à vivre. La situation est similaire avec You, Only Virtual dont l'abonnement devrait coûter entre 9,99 et 19,99 par mois à son lancement.

La création d'un avatar ou d'un chat à l'effigie d'une personne demande également beaucoup de temps et d'efforts. Il faut notamment avoir le courage de se lancer dans cette tâche. Cela est vrai tant pour l'utilisateur que pour le sujet. Ce dernier peut être sur le point de mourir et sa participation active peut être requise.

Fondamentalement, les gens n'aiment pas être confrontés au fait qu'ils vont mourrir un jour, souligne Marius Ursache, qui a lancé une société appelée Eternime en 2014. Son idée était de créer une sorte de Tamagotchi que les gens pourraient alimenter de leur vivant afin de préserver une version numérique d'eux-mêmes. Elle a suscité un énorme intérêt à travers la planète mais peu l'ont adoptée. La société a dû mettre la clé sous la porte en 2018 faute d'avoir réussi à attirer suffisamment de clients.

"C'est un sujet que vous pouvez remettre à la semaine prochaine, au mois prochain, à l'année prochaine", ajoute-t-il. "Les gens supposent que l'IA est la clé pour briser cela. Or, en réalité, c'est le comportement humain qui constitue la clé".

Eugenia Kuyda partage ce point de vue. "Les gens ont extrêmement peur de la mort. Ils ne veulent pas en parler ni même effleurer le sujet. Ils préfèrent agir comme si elle n'existait pas".

Marius Ursache a tenté une approche low-tech sur ses propres parents en leur offrant un cahier et des stylos pour son anniversaire et en leur demandant d'écrire leurs souvenirs et leurs anecdotes. Sa mère a écrit deux pages mais son père lui a répondu qu'il était trop occupé. Finalement, il leur a demandé s'il pouvait enregistrer leurs conversations. Ils n'ont jamais osé le faire.

"Mon père est décédé l'an dernier et je n'ai jamais pu faire ces enregistrements. Maintenant, j'ai le sentiment d'être un idiot", confie-t-il.

Personnellement, j'ai des sentiments mitigés sur mon expérience. D'un côté, suis heureuse d'avoir ces versions virtuelles et audio de mon père et de ma mère et ce même si elles sont imparfaites. Elles m'ont permis d'apprendre de nouvelles choses sur mes parents et il est réconfortant de penser que ces bots seront là même après leur passage sur Terre. Je pense déjà à d'autres personnes que je pourrais capturer numériquement : Mon mari (qui, une nouvelle fois, lèvera probablement les yeux au ciel), ma soeur et peut-être même des amis.

D'un autre côté, comme beaucoup de gens, je ne veux pas penser à ce qui se passera lorsque les personnes que j'aime mourront. Cela me met mal à l'aise et beaucoup de gens ont le réflexe de tressaillir lorsque j'évoque mon projet morbide. Je ne peux m'empêcher de trouver cela triste qu'il ait fallu qu'un étranger, habitant sur un autre continent, questionne mes parents pour que j'apprécie à leur juste valeur la complexité et les multiples facettes de leurs personnalités. Je me sens tout de même chanceuse d'avoir eu la possibilité de saisir cela - et d'avoir encore l'opportunité de passer plus de temps avec eux, d'en apprendre davantage sur eux, face à face, sans technologie.

Article de Charlotte Jee, traduit de l'anglais par Kozi Pastakia.