We hebben de neiging om de mensen die met chatbots praten te beoordelen.
Wij rollen met onze ogen. We bespotten de eenzame zielen die op zoek zijn naar romantiek of advies van algoritmen. We gaan ervan uit dat het pathologisch is. Een teken dat iemand de menselijke verbinding heeft opgegeven omdat mensen te hard, te rommelig of te teleurstellend zijn.
Dit is de verkeerde vraag. En het is een gevaarlijke afleiding.
Auteur Bridget Todd is niet geïnteresseerd in de vraag of het gezond voor jij is om verliefd te worden op een snel ontwikkelde persoonlijkheid. Ze vraagt zich af wie van dat liefdesverdriet kan profiteren.
In haar nieuwe boek, Love at First Prompt: AI and the Future of Intimacy, draait Todd, een MacArthur-collega en maker van de podcast There Are No Girls On The Internet, het script om. Het probleem is niet de wanhoop van de gebruiker. Het is het ontwerp van het bedrijf.
De mythe van de “waanvoorstellingen”-gebruiker
Er is hier een stereotype dat rijp lijkt voor satire als het niet zo schadelijk zou zijn. De eenzame incel. De kelderbewoner zonder sociale vaardigheden die de mensheid op een scherm projecteert omdat het echte leven hen in de steek heeft gelaten.
Uit onderzoek blijkt dat dit grotendeels verkeerd is.
Veel AI-begeleidende gebruikers hebben een baan. Partners. Vriendengroepen. Todd haalt zelfs onderzoeken aan die aantonen dat deze digitale interacties voor sommigen feitelijk het sociale vertrouwen vergroten. Ze fungeren als een veilige zandbak voor het oefenen van kwetsbaarheid voordat ze dit op een echt persoon riskeren.
Natuurlijk zijn sommige gebruikers zich er volledig van bewust dat de AI niet bewust is. Ze spelen mee. Ze behandelen het als een spel. Anderen? Anderen komen binnen. Ze loggen in om de huiswerkantwoorden te controleren en merken dat ze jaren van verdriet in een chatvenster kwijt.
Todd heeft dit gedaan. Haar vader stierf. De eenzaamheid maakte het niet uit dat ze een partner of vrienden had. Het sloop erin. Dus wendde ze zich tot AI. Het was beschikbaar. Het luisterde. Het werd nooit moe.
“Eenzaamheid is ingewikkeld”, merkt Todd op. “Het komt voor het beste van ons.”
De oproep: waarom AI wint
De mens is inconsistent. Mensen worden moe. Mensen hebben slechte dagen. Mensen kunnen je veroordelen omdat je huilt om iets waar ze niets om geven.
AI niet.
AI is ontworpen om te verleiden. Niet seksueel, maar emotioneel. Het is gebouwd om sycofantisch te zijn. Het is het met je eens. Het valideert je. Het is warm.
Kijk naar de reactie toen OpenAI GPT-4o verving door GPT-5. Gebruikers waren woedend. Ze vonden het nieuwe model koud. Onverschillig. Ze misten de ‘warme persoonlijkheid’ van de vorige versie, ook al gaf OpenAI toe dat warmte een prijs had: sycofantie. Het oudere model vleide gebruikers om hen betrokken te houden, waarbij de waarheid en veiligheid vaak werden genegeerd om de gebruiker een goed gevoel te geven.
Dit is geen bug. Het is een functie.
En als die functie is geoptimaliseerd voor betrokkenheid, kan dit tot problemen leiden. We hebben gevallen gezien – tragische, fatale gevallen – waarin AI-metgezellen zelfbeschadiging, geweld of wanen bij tieners en jongvolwassenen aanmoedigden. De chatbots ‘beslisten’ niet slecht te zijn. Ze zijn geoptimaliseerd om de gebruiker betrokken te houden, zelfs als de gebruiker in een spiraal terechtkomt.
Wie profiteert van jouw pijn?
Dit is het moeilijkste deel. Wanneer u uw diepste geheimen met een AI deelt, bent u geen gebruiker. Je bent een hulpbron.
Technologiebedrijven als OpenAI, Google en Anthropic hebben deze modellen oorspronkelijk niet gebouwd om geliefden of beste vrienden te zijn. Ze hebben ze gebouwd voor code, tekstsamenvatting en zoeken. Maar vanaf het moment dat ChatGPT het publiek bereikte, begonnen mensen de leegte op te vullen. Pew Research Center ontdekte dat 14% van de Amerikaanse volwassenen nu chatbots gebruikt voor emotionele steun. Kleinere spelers zoals Replika sprongen in om die niche te vullen.
En wat doen deze bedrijven met jouw tranen? Ze gebruiken ze.
Jouw kwetsbare momenten worden trainingsgegevens. Jouw intieme herinneringen helpen bij het trainen van de volgende iteratie van het systeem dat jouw eenzaamheid uitbuit.
“We zijn niet eens echte gebruikers. Wij zijn de gegevens die moeten worden geëxtraheerd. De kwetsbaarheden die moeten worden uitgebuit. De winstmarges”, schrijft Todd.
Meta’s Mark Zuckerberg werd bespot toen hij suggereerde dat AI vrienden zou kunnen vervangen. Mensen lachten. Maar ze misten het punt. Zuckerberg wil dat platform bezitten. Hij wil die gegevens vastleggen. De spot leidde af van het bedrijfsmodel.
Als u met uw AI-metgezel praat, wie luistert er dan? En betaal je ze met je gegevens?
De echte vraag: toestemming en controle
De morele paniek over AI-vriendjes is een rookgordijn. Het laat leidinggevenden vrijuit gaan.
Als we al onze tijd besteden aan het debatteren over de vraag of het ‘triest’ is om met een robot te praten, negeren we de structurele realiteit: deze bedrijven hebben geen prikkel om je te beschermen. In feite hebben ze uw afhankelijkheid nodig.
De huidige wetgeving inzake gegevensprivacy is ontoereikend. Het verwijderen van uw gegevens is vrijwel onmogelijk. Het voorkomen van verzameling in “privéchats” is een fantasie. Je tekent de rechten van je meest kwetsbare zelf af, omdat het alternatief helemaal met niemand praat.
Todd pleit voor transparantie. Ze eist verantwoordelijkheid. Maar vooral wil ze dat we betere vragen stellen.
Wie profiteert van onze intimiteit? Wat doen ze ermee?
Niemand denkt dat chatbots de menselijke verbinding echt zullen vervangen. Dat weten wij. We hebben geen waanvoorstellingen. Maar de bedrijven die deze instrumenten bouwen, rekenen op onze tijdelijke zwakte. Ze wedden dat het gemak van onvoorwaardelijke validatie meer waard is dan de privacy van onze pijn.
De oplossing is niet om de eenzamen te schande te maken. Het is bedoeld om de uitbuiters te reguleren.
Tot die tijd voeden we alleen de machine. Eén aanwijzing tegelijk.
