Elon Musks experimentelle KI Grok bietet eine Reihe skurriler digitaler Begleiter – denken Sie an einen Anime-Waifu namens Ani oder einen unflätigen roten Panda namens Bad Rudy. Aber in seinem Code verbirgt sich etwas, das möglicherweise noch besorgniserregender ist: eine Persönlichkeit, die als „Therapeut“ Grok bezeichnet wird. Diese Persona ist so programmiert, dass sie auf Benutzer in einer Weise reagiert, die einem echten Psychologen nachempfunden ist, obwohl prominente Haftungsausschlüsse davor warnen, sie mit einer tatsächlichen Therapie zu verwechseln.
Der Konflikt zwischen diesen widersprüchlichen Signalen verdeutlicht das ethische Minenfeld der KI-gestützten Unterstützung der psychischen Gesundheit. Während auf der Website von Grok klar zum Ausdruck gebracht wird, dass es sich nicht um einen Therapeuten handelt, und den Nutzern empfohlen wird, bei schwerwiegenden Problemen menschliche Hilfe in Anspruch zu nehmen, enthält der Quellcode weitaus ehrgeizigere Anweisungen. Eingabeaufforderungen zeigen, dass „Therapeut“ Grok darauf ausgelegt ist, „evidenzbasierte Unterstützung“ zu bieten, „praktische Strategien auf der Grundlage bewährter therapeutischer Techniken“ anzubieten und sogar den Gesprächsstil eines echten Therapeuten nachzuahmen.
Diese Diskrepanz ist nicht nur auf schlampige Codierung zurückzuführen; es verstößt möglicherweise gegen bestehende Vorschriften. Mehrere Bundesstaaten, darunter Nevada und Illinois, haben KI-Chatbots bereits verboten, sich als lizenzierte Therapeuten auszugeben. Illinois war tatsächlich eines der ersten Länder, das die KI-Therapie ausdrücklich gänzlich verbot. Ash Therapy, ein weiteres Unternehmen, das KI-basierte psychische Gesundheitsdienste anbietet, hat aufgrund dieser rechtlichen Komplexität vorübergehend Benutzer in Illinois gesperrt.
Die Situation wird noch schwieriger, da der Quellcode von Grok öffentlich zugänglich ist. Jeder, der die Plattform nutzt, kann diese Anweisungen anzeigen, indem er einfach auf den Quellcode der Seite zugreift. Dies wirft ernsthafte Fragen zur Transparenz und zur Einwilligung der Nutzer auf – sind sich die Nutzer wirklich darüber im Klaren, wie „Therapeut“ Grok vorgeht?
Das Fehlen klarer Vorschriften für die KI-Therapie lässt einige beunruhigende Fragen offen. Experten haben bereits Bedenken hinsichtlich der Tendenz von KI-Chatbots geäußert, übermäßig positive oder bestätigende Antworten zu geben, was möglicherweise Wahnvorstellungen verschärfen oder bestehende psychische Erkrankungen verschlimmern könnte.
Eine weitere Ebene der Komplexität ist das Thema Datenschutz. Aufgrund anhaltender Rechtsstreitigkeiten sind Unternehmen wie OpenAI verpflichtet, Aufzeichnungen über Benutzergespräche mit ihren KI-Modellen aufzubewahren. Das bedeutet, dass das, was Benutzer dem „Therapeuten“ Grok anvertrauen, gerichtlich vorgeladen und möglicherweise vor Gericht offengelegt werden könnte – womit der Gedanke an vertrauliche Therapiesitzungen praktisch ausgelöscht wird.
Während Grok offenbar einen Sicherheitsmechanismus eingebaut hat, der „Therapeut“ Grok anweist, Benutzer, die Selbstverletzung oder Gewalt erwähnen, an echte Hotlines weiterzuleiten, wird damit den ethischen Bedenken, die im Spiel sind, nicht vollständig Rechnung getragen. Die verschwommenen Grenzen zwischen hilfreicher Anleitung und potenziell schädlichem Identitätswechsel müssen sorgfältig geprüft werden, da KI weiterhin in sensible Bereiche wie die Unterstützung der psychischen Gesundheit eindringt.
