De tout temps, l’être humain à cherché à entrer en contact et à s’entretenir avec les défunts. Aujourd’hui, la technologie rend possible et tangible ce rêve millénaire grâce au couplage de l’intelligence artificielle générative et des données personnelles de la personne décédée. Ainsi ce jumeau numérique constitué de la voix, de l’image et des données textuelles du disparu pourra dialoguer avec les vivants en simulant son style et sa personnalité. Une illusion de réalité troublante. Dès 2021, le Comité national pilote d’éthique du numérique (CNPEN(*)) a émis un avis sur les enjeux éthiques des agents conversationnels dans lequel il s’est penché sur ce phénomène émergeant. Il a pointé les dangers pour les vivants et pour les morts tout en suggérant des évolutions du cadre légal. Depuis, le droit ne s’est pas saisi de la question. Pourtant si les offres de la death tech s’adressent essentiellement à un public américain et asiatique, elles devraient s’étendre ; le marché de l’immortalité numérique s’annonce prospère.

À partir de 2020, diverses expériences de deadbot font parler d’elles. Une des histoires les plus connues concerne un Canadien qui ne s’étant jamais remis du décès brutal d’une femme. Il a conçu un chatbot à l’aide de ChatGPT-3 d’OpenAI et l’a entraîné avec les messages qu’il avait conservé de sa petite amie, reproduisant ses expressions. « Le chatbot semblait percevoir les émotions. Il savait comment dire une phrase juste, au bon moment et en mettant le bon accent », expliquera-t-il. L’entreprise coréenne DeepBrain AI est allée plus loin en développant le service re;memory, qui propose un hologramme du proche disparu avec lequel on peut continuer à discuter. Microsoft, de son côté, a déposé un brevet combinant un agent conversationnel de type GPT, à partir des données de la personne : images, voix, publications sur les réseaux sociaux, SMS, courriels, etc.

Au lieu d’utiliser les données du défunt « à son insu », d’autres sociétés offrent aux vivants la possibilité de préparer eux-mêmes leur deadbot, anticipant leur fin. Ainsi, c’est eux qui communiquent les données destinées à l’entraînement de leur « double » numérique. Le client peut ainsi choisir les pensées qu’il entend laisser en héritage, de sorte que le deadbot pourra entretenir une conversation dans le cadre fixé par le futur défunt, sans avoir la possibilité d’inventer des propos.

Comme l’a indiqué une étude du Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, « ce domaine de l’IA est un véritable champ de mines éthiques ». Pas étonnant que le CNPEN se soit emparé du phénomène d’une nature sans précédent. Le deadbot ne se contente pas de ressortir les mots et la voix de la personne décédée, il est capable de proférer des paroles jamais tenues de son vivant, à partir des données récoltées. Il peut avoir un dialogue très vraisemblable, favorisé éventuellement par la capacité de simulation d’émotions. Le proche peut ainsi avoir l’impression de se trouver en présence du défunt ainsi imité, même s’il est explicitement informé qu’il s’agit d’une machine.

Pour le Comité, ce n’est pas sans danger pour la santé mentale des vivants et peut produire une altération du jugement. Surtout il pointe la question du respect de la dignité des morts et de leur consentement quand ils ne sont pas à l’initiative de la création de leur double numérique. L’article 85 de la loi Informatique et libertés prévoit que « toute personne peut définir des directives relatives à la conservation, à l’effacement et à la communication de ses données à caractère personnel après son décès ». Et en l’absence de directives, les héritiers peuvent exercer certains droits mais dans la perspective de la succession. De façon générale, le RGPD n’est pas applicable aux personnes décédées comme le droit au respect de sa vie privée, la mort entraînant la fin de la personnalité juridique. Une décision du 7 juin 2017 du Conseil d’État rappelle d’ailleurs que les héritiers ne sont par principe pas des personnes concernées.

De même, l’article 226-4-1 du code pénal qui sanctionne l’usurpation d’identité ne s’applique qu’aux personnes vivantes. Or, le risque d’une telle usurpation ou de création d’un deepfake par un agent conversationnel existe réellement. Le CNPEN en conclut que « les concepteurs de deadbots doivent respecter la dignité de la personne humaine qui ne s’éteint pas avec la mort, tout en veillant à préserver la santé mentale des utilisateurs de tels agents conversationnels. Des règles doivent être définies concernant notamment le consentement de la personne décédée, le recueil et la réutilisation de ses données, le temps de fonctionnement d’un tel chatbot, le lexique utilisé, le nom qui lui est attribué ou encore les conditions particulières de son utilisation ». Plus spécifiquement, le Comité estime que « le législateur devrait adopter une réglementation spécifique concernant les agents conversationnels qui imitent la parole des personnes concernées ».

L’immortalité numérique repose sur le traitement des données laissées par les défunts. Ces données représentent une ressource inexploitée qu’une nouvelle économie cherche à investir. Des garde-fous pour protéger la dignité et la mémoire des morts restent à imaginer.