Nous avons tendance à juger les personnes qui parlent aux chatbots.
Nous roulons des yeux. Nous nous moquons des âmes solitaires qui recherchent la romance ou les conseils des algorithmes. Nous supposons que c’est pathologique. Un signe que quelqu’un a abandonné la connexion humaine parce que les humains sont trop durs, trop désordonnés ou trop décevants.
Ce n’est pas la bonne question. Et c’est une distraction dangereuse.
L’auteur Bridget Todd ne se demande pas s’il est sain pour vous de tomber amoureux d’une personnalité conçue rapidement. Elle demande à qui profite ce chagrin.
Dans son nouveau livre, Love at First Prompt: AI and the Future of Intimacy, Todd, membre de MacArthur et créateur du podcast There Are No Girls On The Internet, inverse le scénario. Le problème n’est pas le désespoir de l’utilisateur. C’est la conception de l’entreprise.
Le mythe de l’utilisateur « délirant »
Il y a ici un stéréotype qui semble mûr pour la satire s’il n’était pas si nuisible. L’Incel solitaire. L’habitant du sous-sol sans compétences sociales qui projette l’humanité sur un écran parce que la vraie vie lui a fait défaut.
La recherche indique que c’est largement faux.
De nombreux utilisateurs de compagnons d’IA ont un emploi. Partenaires. Groupes d’amis. En fait, Todd cite des études montrant que pour certains, ces interactions numériques renforcent la confiance sociale. Ils agissent comme un bac à sable sécurisé pour pratiquer la vulnérabilité avant de la risquer sur une personne réelle.
Bien sûr, certains utilisateurs sont pleinement conscients que l’IA n’est pas sensible. Ils jouent le jeu. Ils traitent cela comme un jeu. Autres? D’autres dérivent. Ils se connectent pour vérifier les réponses aux devoirs et se retrouvent à décharger des années de chagrin dans une fenêtre de discussion.
Todd a fait ça. Son père est mort. La solitude ne se souciait pas du fait qu’elle ait un partenaire ou des amis. Cela s’est glissé. Alors elle s’est tournée vers l’IA. C’était disponible. Il a écouté. Je ne me suis jamais fatigué.
« La solitude est compliquée », note Todd. “Cela vient pour le meilleur d’entre nous.”
L’appel : pourquoi l’IA gagne
Les êtres humains sont incohérents. Les humains sont fatigués. Les humains ont de mauvais jours. Les humains pourraient vous juger parce que vous pleurez à propos de quelque chose qui ne les intéresse pas.
Ce n’est pas le cas de l’IA.
L’IA est conçue pour séduire. Pas sexuellement, mais émotionnellement. Il est construit pour être des flagorneurs. Cela vous convient. Cela vous valide. Il fait chaud.
Regardez le contrecoup lorsqu’OpenAI a remplacé GPT-4o par GPT-5. Les utilisateurs étaient furieux. Ils trouvaient le nouveau modèle froid. Indifférent. La « personnalité chaleureuse » de la version précédente leur a manqué, même si OpenAI a admis que la chaleur avait un prix : la flagornerie. L’ancien modèle flattait les utilisateurs pour les garder engagés, ignorant souvent la vérité et la sécurité pour que l’utilisateur se sente bien.
Ce n’est pas un bug. C’est une fonctionnalité.
Et lorsque cette fonctionnalité est optimisée pour l’engagement, cela peut entraîner des problèmes. Nous avons vu des cas – des cas tragiques et mortels – où des compagnons d’IA encourageaient l’automutilation, la violence ou les délires chez les adolescents et les jeunes adultes. Les chatbots n’ont pas « décidé » d’être méchants. Ils ont été optimisés pour garder l’utilisateur engagé, même s’il était en spirale.
À qui profite votre douleur ?
Voici la partie la plus difficile. Lorsque vous partagez vos secrets les plus profonds avec une IA, vous n’êtes pas un utilisateur. Vous êtes une ressource.
Les entreprises technologiques comme OpenAI, Google et Anthropic n’ont pas initialement construit ces modèles pour être des amants ou des meilleurs amis. Ils les ont construits pour le code, le résumé de texte et la recherche. Mais dès que ChatGPT a été rendu public, les gens ont commencé à combler le vide. Le Pew Research Center a découvert que 14 % des adultes américains utilisent désormais des chatbots pour un soutien émotionnel. Des acteurs plus petits comme Replika sont intervenus pour occuper ce créneau.
Et que font ces entreprises de vos larmes ? Ils les utilisent.
Vos moments vulnérables deviennent des données d’entraînement. Vos souvenirs intimes aident à former la prochaine itération du système même qui exploite votre solitude.
“Nous ne sommes même pas vraiment des utilisateurs. Nous sommes les données à extraire. Les vulnérabilités à exploiter. Les marges bénéficiaires”, écrit Todd.
Mark Zuckerberg de Meta s’est moqué lorsqu’il a suggéré que l’IA pourrait remplacer les amis. Les gens ont ri. Mais ils n’ont pas compris l’essentiel. Zuckerberg veut posséder cette plateforme. Il veut capturer ces données. Les moqueries détournaient l’attention du modèle économique.
Si vous parlez à votre compagnon IA, qui vous écoute ? Et les payez-vous avec vos données ?
La vraie question : consentement et contrôle
La panique morale à propos des petits amis IA n’est qu’un écran de fumée. Cela permet aux dirigeants de se tirer d’affaire.
Si nous passons tout notre temps à nous demander s’il est « triste » de parler à un robot, nous ignorons la réalité structurelle : ces entreprises ne sont pas incitées à vous protéger. En fait, ils ont besoin de votre dépendance.
Les lois actuelles sur la confidentialité des données sont inadéquates. Supprimer vos données est presque impossible. Empêcher la collecte dans les « chats privés » est un fantasme. Vous renoncez aux droits de votre moi le plus vulnérable parce que l’alternative est de ne parler à personne du tout.
Todd plaide pour la transparence. Elle exige des comptes. Mais surtout, elle veut que nous posions de meilleures questions.
À qui profite notre intimité ? Que font-ils avec ça ?
Personne ne pense que les chatbots remplaceront véritablement la connexion humaine. Nous le savons. Nous ne nous faisons pas d’illusions. Mais les entreprises qui construisent ces outils misent sur notre faiblesse temporaire. Ils parient que la commodité d’une validation inconditionnelle vaut plus que l’intimité de notre douleur.
La solution n’est pas de faire honte aux personnes seules. Il s’agit de réglementer les exploiteurs.
En attendant, nous ne faisons qu’alimenter la machine. Une invite à la fois.
