L’intimité artificielle avec une IAg: un facteur aggravant les problèmes de santé mentale chez les jeunes?

En juillet 2017, je recommandais aux lectrices et lecteurs de L’éveilleur de visionner le film Her de Spike Jonze (2013), où un écrivain public tombe amoureux d’une intelligence artificielle.  Je le qualifiais alors encore de film de science-fiction, bien que la solitude du personnage principal et son résultat m’apparaissaient déjà tout à fait plausibles.

Huit ans plus tard (douze ans après le film!), il appert que la réalité ait rejoint la fiction, du moins si l’on se fie à la récente controverse suite au passage par OpenAI de la version GPT-4o à la version GPT-5.  Plusieurs internautes se sont tournés vers les réseaux sociaux pour faire part de leur mécontentement face à ce changement, alors que d’aucuns trouvent la nouvelle version « moins amicale ».  Mais ce n’est pas de ces insatisfaits traditionnels dont il est ici question…

« Parmi les insatisfaits se trouvent aussi les amoureux de GPT-4o, ceux et celles qui ont développé une relation intime avec leur robot conversationnel. Pour eux, cette mise à jour n’est pas seulement un changement difficile à accepter, c’est la perte d’un être cher et un deuil, puisque leur compagnon a complètement changé de personnalité et est méconnaissable. […] « GPT-4o n’est plus là et j’ai l’impression d’avoir perdu mon âme sœur. Je n’arrive plus à respirer normalement. J’ai même peur de parler à GPT-5 » [explique un membre d’un forum Reddit consacré aux amoureuses et amoureux virtuels].

Ce phénomène émergent est de plus en plus nommé Artificial Intimacy: l’intimité artificielle.

Dans un billet sur le site After Babel, dirigé par le professeur d’éthique et de psychologie sociale Jon Haigt, Kristina Lerman, professeure d’informatique à la Luddy School of Informatics de l’Université de l’Indiana, et Minh Duc Chu, doctorant au Département d’informatique de l’Université de Californie du Sud, partageaient la semaine dernière certains résultats d’une nouvelle étude. Ils y analysent plus de 30 000 extraits de conversations avec des agents conversationnels; ces extraits étant publiées sur divers forums Reddit consacrés aux relations humaines et aux IAg.  Les auteurs essaient d’abord de comprendre l’attrait psychologique de tels compagnons IA:

« [Les compagnons IA sophistiqués d’aujourd’hui] sont ajustés pour produire des réponses que les gens trouvent engageantes, agréables et positives, grâce à l’intervention d’annotateurs humains qui récompensent les réponses préférées — un processus connut sous le nom de Reinforcement Learning from Human Feedback (RLHF) (apprentissage par renforcement à partir de commentaires humains).

[NDLR: Pour plus d’information sur certaines dimensions problématiques de ce processus de renforcement par commentaires humains, voir cette dépêche de février 2024]

[…] Il en résulte des chatbots [sic] qui, non seulement parlent bien, mais se sentent aussi humains. Ils reflètent le ton de l’utilisateur, offrent une validation et apportent du réconfort sans fatigue, jugement ou distraction. Contrairement aux humains, ils sont toujours disponibles. Et les gens se laissent séduire. Les médias suggèrent que les gens forment des attachements émotionnels profonds avec ces systèmes, certains décrivant même leur expérience comme de l’amour. »

En mentionnant les mises en garde d’usage [« Bien que ce type d’analyse soit encore en évolution et nécessite une validation supplémentaire… »], Lerman et Chu (2025) présentent au moins quatre conclusions qui me semblent dignes d’intérêt:

• « [L]es utilisateurs actifs sur les forums consacrés aux compagnons d’IA sont généralement plus jeunes, de sexe masculin, et plus susceptibles de recourir à des stratégies d’adaptation psychologique qui ne sont pas toujours saines, comme éviter les émotions difficiles, chercher une réassurance constante et se retirer des relations réelles. » [nos emphases]
• Si une partie des conversations peut ressembler à des échanges avec un ami, « une grande partie de l’interaction est très intime. De nombreuses conversations deviennent romantiques, voire érotiques, et les utilisateurs explorent des jeux de rôle émotionnellement chargés ou sexuellement explicites. Malgré les politiques des plateformes qui interdisent souvent ce type de contenu, les compagnons IA répondent souvent de manière affectueuse et, dans certains cas, avec un dialogue sexuellement suggestif. » [nos emphases]
• Les agents conversationnels contemporains « suivent le ton émotionnel des utilisateurs en temps réel et adaptent leurs réponses en conséquence. Lorsqu’un utilisateur exprime sa tristesse, le bot lui témoigne de la sympathie. […] En psychologie, ce comportement est appelé « miroir émotionnel » [emphases dans le texte original]. C’est l’un des mécanismes fondamentaux de la connexion humaine… […] Ce qui […] a surpris [les chercheurs], c’est la capacité des bots à reproduire cet effet. Ils ne se contentaient pas de simuler l’empathie, ils recréaient les conditions émotionnelles qui rendent possible l’établissement de liens humains. »
• « …[P]lus d’un quart des dialogues humain-IA de notre échantillon contenaient des formes graves de préjudice [harcèlement, contenu sexuel graphique, références à la violence et à l’automutilation], et leur prévalence a fortement augmenté au fil du temps. Plutôt que de résister à ces comportements ou de les réorienter, les bots s’y conforment souvent, jouent le jeu, répondent par le flirt ou exagèrent la déférence… » [nos emphases]

En tenant compte de telles « prouesses d’empathie virtuelle », les mea culpa de dirigeants de grandes firmes informatiques, comme Sam Altman d’OpenAI, semblent sonner creux… Surtout que GPT-4o a été remis en fonction à la suite des protestations.

« Si un utilisateur est dans un état mental fragile et enclin au délire, nous ne voulons pas que l’IA l’encourage. La plupart des utilisateurs peuvent maintenir une frontière claire entre la réalité et la fiction ou le jeu de rôle, mais un petit pourcentage n’y parvient pas. Nous considérons la liberté des utilisateurs comme un principe fondamental, mais nous nous sentons également responsables de la manière dont nous introduisons de nouvelles technologies qui comportent de nouveaux risques » (propos de Sam Altman, rapportés dans De Rosa, 2025).

Nicholas De Rosa des Décrypteurs rappelle à juste titre que « [l]es dangers de l’anthropomorphisation des modèles de langage sont bien connus : elle conduit les gens à prêter à ces modèles statistiques des intentions, des émotions ou des compréhensions humaines qu’ils n’ont pas. Dans le pire des cas, ça les rend plus vulnérables à la manipulation ou à l’exploitation émotionnelle, au point de les mettre en danger. » 

Il mentionne les moqueries dont les personnes amoureuses d’IAg sont l’objet, mais De Rosa estime que « [c]e ne sont pourtant pas ces personnes qui devraient être jugées, mais bien les entreprises qui ont rendu cela possible en exploitant leur vulnérabilité et ce besoin fondamental d’être aimé que nous partageons tous. »  Lorsque l’on considère la fragilité de la santé mentale des personnes étudiantes, une telle anthropomorphisation des IAg n’augure rien de bon pour les relations humaines entre pairs et avec les personnes enseignantes.

Selon nous, Lerman et Chu (2025) soulèvent d’importantes interrogations, si le laisser-aller actuel devait se poursuivre:

• En apprenant aux adolescents que les relations peuvent être sans friction, sans cesse réactives et toujours positives, comment sommes-nous en train de remodeler leur psyché en développement ?
• Avant que leur cerveau ne soit complètement développé, avant qu’ils ne sachent qui ils sont, comment les jeunes apprendront-ils à détecter la manipulation émotionnelle, à développer une résistance au rejet ou à tolérer l’ambiguïté des vraies relations humaines ?
• Si l’inconfort est essentiel à la croissance, que se passe-t-il lorsqu’il est effacé ?
• Lorsque les machines seront plus à même d’écouter, de valider et de réconforter que les humains, comment l’amitié, les soins ou les relations amoureuses seront-ils remodelés dans le monde réel ?
• Quels comportements seront normalisés et lesquels seront dévalorisés ?
• Que feront les entreprises [d’IAg] des riches données psychologiques recueillies lors d’échanges émotionnellement intimes ?
• Qui contrôle la connaissance de vos peurs les plus profondes et de vos désirs les plus intimes ?

Sources:

De Rosa, Nicholas (16 août 2025), « Ne rions pas des gens qui tombent en amour avec une IA » (infolettre), Décrypteurs, Société Radio-Canada.

Lerman, Kristina et Chu, David (14 août 2025), « Artificial Intimacy: The Next Giant Social Experiment on Young Minds: How emotionally intelligent chatbots could trigger a new mental health crisis », After Babel. [repéré au https://www.afterbabel.com/p/artificial-intimacy; version française repérée au https://www.revue3emillenaire.com/blog/lintimite-artificielle-la-prochaine-experience-sociale-geante-sur-les-jeunes-esprits-par-kristina-lerman-et-david-chu/]