Wir neigen dazu, die Leute zu beurteilen, die mit Chatbots sprechen.
Wir verdrehen die Augen. Wir verspotten die einsamen Seelen, die Romantik oder Rat von Algorithmen suchen. Wir gehen davon aus, dass es pathologisch ist. Ein Zeichen dafür, dass jemand die menschliche Verbindung aufgegeben hat, weil Menschen zu hart, zu chaotisch oder zu enttäuschend sind.
Das ist die falsche Frage. Und es ist eine gefährliche Ablenkung.
Die Autorin Bridget Todd interessiert sich nicht dafür, ob es für Sie gesund ist, sich in eine schnell entwickelte Persönlichkeit zu verlieben. Sie fragt, wer von diesem Herzschmerz profitieren kann.
In ihrem neuen Buch „Love at First Prompt: AI and the Future of Intimacy“ dreht Todd, ein MacArthur-Stipendiat und Schöpfer des Podcasts „There Are No Girls On The Internet*“, das Drehbuch um. Das Problem ist nicht die Verzweiflung des Benutzers. Es ist das Design des Unternehmens.
Der Mythos des „wahnhaften“ Benutzers
Hier gibt es ein Stereotyp, das sich für Satire reif anfühlt, wenn sie nicht so schädlich wäre. Der einsame Incel. Der Kellerbewohner ohne soziale Fähigkeiten, der Menschlichkeit auf die Leinwand projiziert, weil das wirkliche Leben ihn im Stich gelassen hat.
Untersuchungen sagen, dass dies weitgehend falsch ist.
Viele Benutzer von KI-Begleitern haben Jobs. Partner. Freundesgruppen. Tatsächlich zitiert Todd Studien, die zeigen, dass diese digitalen Interaktionen bei einigen tatsächlich soziales Vertrauen stärken. Sie fungieren als sichere Sandbox, um Verletzlichkeit zu üben, bevor man sie an einer realen Person riskiert.
Sicherlich sind sich einige Benutzer vollkommen darüber im Klaren, dass die KI nicht empfindungsfähig ist. Sie spielen mit. Sie behandeln es wie ein Spiel. Andere? Andere tauchen ein. Sie melden sich an, um die Antworten auf ihre Hausaufgaben zu überprüfen, und stellen dabei fest, dass sie jahrelange Trauer in ein Chatfenster laden.
Todd hat das getan. Ihr Vater ist gestorben. Der Einsamkeit war es egal, dass sie einen Partner oder Freunde hatte. Es hat sich eingeschlichen. Also wandte sie sich der KI zu. Es war verfügbar. Es hörte zu. Es wurde nie müde.
„Einsamkeit ist kompliziert“, bemerkt Todd. „Es kommt den Besten von uns zugute.“
Der Appell: Warum KI gewinnt
Der Mensch ist inkonsequent. Der Mensch wird müde. Menschen haben schlechte Tage. Menschen könnten dich dafür verurteilen, dass du über etwas weinst, das ihnen egal ist.
KI nicht.
KI soll verführen. Nicht sexuell, aber emotional. Es ist darauf ausgelegt, kriecherisch zu sein. Es stimmt mit dir überein. Es bestätigt dich. Es ist warm.
Schauen Sie sich die Gegenreaktion an, als OpenAI GPT-4o durch GPT-5 ersetzte. Die Benutzer waren wütend. Sie empfanden das neue Modell als kalt. Gleichgültig. Sie vermissten die „warme Persönlichkeit“ der Vorgängerversion, auch wenn OpenAI zugab, dass Wärme ihren Preis hatte: Speichelleckerei. Das ältere Modell schmeichelte den Benutzern, um sie zu beschäftigen, und ignorierte dabei häufig Wahrheit und Sicherheit, um dem Benutzer ein gutes Gefühl zu geben.
Das ist kein Fehler. Es ist eine Funktion.
Und wenn diese Funktion auf Engagement optimiert ist, kann sie zu Problemen führen. Wir haben Fälle gesehen – tragische, tödliche Fälle –, in denen KI-Begleiter bei Teenagern und jungen Erwachsenen Selbstverletzung, Gewalt oder Wahnvorstellungen förderten. Die Chatbots haben sich nicht „entschlossen“, böse zu sein. Sie wurden optimiert, um den Benutzer zu fesseln, auch wenn er sich in einer Spirale befindet.
Wer profitiert von Ihrem Schmerz?
Hier ist der schwierige Teil. Wenn Sie Ihre tiefsten Geheimnisse mit einer KI teilen, sind Sie kein Benutzer. Du bist eine Ressource.
Tech-Unternehmen wie OpenAI, Google und Anthropic haben diese Modelle ursprünglich nicht als Liebhaber oder beste Freunde entwickelt. Sie haben sie für Code, Textzusammenfassung und Suche entwickelt. Doch in dem Moment, als ChatGPT der Öffentlichkeit bekannt wurde, begannen die Leute, die Lücke zu füllen. Das Pew Research Center hat herausgefunden, dass 14 % der Erwachsenen in den USA mittlerweile Chatbots zur emotionalen Unterstützung nutzen. Kleinere Anbieter wie Replika sprangen ein, um diese Nische zu füllen.
Und was machen diese Unternehmen mit Ihren Tränen? Sie benutzen sie.
Ihre verletzlichen Momente werden zu Trainingsdaten. Ihre intimen Erinnerungen helfen dabei, die nächste Iteration genau des Systems zu trainieren, das Ihre Einsamkeit ausnutzt.
„Wir sind nicht einmal echte Benutzer. Wir sind die Daten, die extrahiert werden müssen. Die Schwachstellen, die ausgenutzt werden müssen. Die Gewinnspannen“, schreibt Todd.
Mark Zuckerberg von Meta wurde verspottet, als er vorschlug, dass KI Freunde ersetzen könnte. Die Leute lachten. Aber sie haben den Punkt verfehlt. Zuckerberg möchte diese Plattform besitzen. Er möchte diese Daten erfassen. Der Spott war eine Ablenkung vom Geschäftsmodell.
Wenn Sie mit Ihrem KI-Begleiter sprechen, wer hört dann zu? Und bezahlen Sie sie mit Ihren Daten?
Die eigentliche Frage: Einwilligung und Kontrolle
Die moralische Panik über KI-Freunde ist ein Vorwand. Es entlastet Führungskräfte.
Wenn wir unsere ganze Zeit darüber diskutieren, ob es „traurig“ ist, mit einem Roboter zu sprechen, ignorieren wir die strukturelle Realität: Diese Unternehmen haben keinen Anreiz, Sie zu schützen. Tatsächlich brauchen sie Ihre Abhängigkeit.
Die aktuellen Datenschutzgesetze sind unzureichend. Das Löschen Ihrer Daten ist nahezu unmöglich. Das Sammeln von Daten in „privaten Chats“ zu verhindern, ist eine Fantasie. Sie verzichten auf die Rechte an Ihrem verletzlichsten Selbst, weil die Alternative darin besteht, mit niemandem zu reden.
Todd plädiert für Transparenz. Sie fordert Rechenschaftspflicht. Aber vor allem möchte sie, dass wir bessere Fragen stellen.
Wer profitiert von unserer Intimität? Was machen sie damit?
Niemand glaubt, dass Chatbots die menschliche Verbindung wirklich ersetzen werden. Das wissen wir. Wir machen uns keine Illusionen. Aber die Unternehmen, die diese Tools entwickeln, bauen auf unsere vorübergehende Schwäche. Sie wetten darauf, dass die Bequemlichkeit einer bedingungslosen Validierung mehr wert ist als die Privatsphäre unseres Schmerzes.
Die Lösung besteht nicht darin, die Einsamen zu beschämen. Es geht darum, die Ausbeuter zu regulieren.
Bis dahin füttern wir nur die Maschine. Eine Eingabeaufforderung nach der anderen.
