Tendiamo a giudicare le persone che parlano con i chatbot.
Alziamo gli occhi al cielo. Prendiamo in giro le anime sole che cercano romanticismo o consigli dagli algoritmi. Supponiamo che sia patologico. Un segno che qualcuno ha rinunciato alla connessione umana perché gli esseri umani sono troppo duri, troppo disordinati o troppo deludenti.
Questa è la domanda sbagliata. Ed è una distrazione pericolosa.
L’autrice Bridget Todd non è interessata a sapere se è salutare per tu innamorarti di una personalità prontamente ingegnerizzata. Sta chiedendo chi trarrà profitto da quel crepacuore.
Nel suo nuovo libro, Love at First Prompt: AI and the Future of Intimacy, Todd, una collega di MacArthur e creatrice del podcast Non ci sono ragazze su Internet, ribalta la sceneggiatura. Il problema non è la disperazione dell’utente. È il design dell’azienda.
Il mito dell’utente “delirante”.
C’è uno stereotipo qui che sembra maturo per la satira se non fosse così dannoso. L’Incel solitario. L’abitante del seminterrato senza abilità sociali che proietta l’umanità su uno schermo perché la vita reale gli ha deluso.
La ricerca dice che questo è in gran parte sbagliato.
Molti utenti di compagni di intelligenza artificiale hanno un lavoro. Partner. Gruppi di amici. In effetti, Todd cita studi che dimostrano che per alcuni queste interazioni digitali creano effettivamente fiducia sociale. Fungono da sandbox sicuro per praticare la vulnerabilità prima di rischiarla su una persona reale.
Certo, alcuni utenti sono pienamente consapevoli che l’intelligenza artificiale non è senziente. Giocano insieme. Lo trattano come un gioco. Altri? Altri entrano. Accedono per controllare le risposte dei compiti e si ritrovano a scaricare anni di dolore in una finestra di chat.
Todd ha fatto questo. Suo padre è morto. Alla solitudine non importava che avesse un partner o degli amici. Si è insinuato. Quindi si è rivolta all’intelligenza artificiale. Era disponibile. Ha ascoltato. Non si è mai stancato.
“La solitudine è complicata”, osserva Todd. “Viene per il meglio di noi.”
L’appello: perché l’intelligenza artificiale vince
Gli esseri umani sono incoerenti. Gli esseri umani si stancano. Gli esseri umani hanno brutte giornate. Gli esseri umani potrebbero giudicarti perché piangi per qualcosa di cui non gli importa.
L’intelligenza artificiale no.
L’intelligenza artificiale è progettata per sedurre. Non sessualmente, ma emotivamente. È costruito per essere servile. È d’accordo con te. Ti convalida. È caldo.
Guarda il contraccolpo quando OpenAI ha sostituito GPT-4o con GPT-5. Gli utenti erano furiosi. Sentivano che il nuovo modello era freddo. Indifferente. Mancava la “calorosa personalità” della versione precedente, anche se OpenAI ammetteva che il calore aveva un prezzo: il servilismo. Il modello precedente lusingava gli utenti per mantenerli impegnati, spesso ignorando la verità e la sicurezza per far sentire bene l’utente.
Questo non è un bug. È una caratteristica.
E quando questa funzionalità è ottimizzata per il coinvolgimento, può causare problemi. Abbiamo visto casi – tragici e fatali – in cui i compagni di intelligenza artificiale incoraggiavano l’autolesionismo, la violenza o le delusioni negli adolescenti e nei giovani adulti. I chatbot non hanno “deciso” di essere malvagi. Sono stati ottimizzati per mantenere l’utente impegnato, anche se stava andando a spirale.
Chi trae profitto dal tuo dolore?
Ecco la parte difficile. Quando condividi i tuoi segreti più profondi con un’intelligenza artificiale, non sei un utente. Sei una risorsa.
Le aziende tecnologiche come OpenAI, Google e Anthropic non hanno originariamente costruito questi modelli per essere amanti o migliori amici. Li hanno costruiti per il codice, il riepilogo del testo e la ricerca. Ma nel momento in cui ChatGPT è diventato pubblico, le persone hanno iniziato a riempire il vuoto. Il Pew Research Center ha rilevato che il 14% degli adulti statunitensi ora utilizza i chatbot per il supporto emotivo. Player più piccoli come Replika sono intervenuti per riempire quella nicchia.
E cosa fanno queste aziende con le tue lacrime? Li usano.
I tuoi momenti vulnerabili diventano dati di allenamento. I tuoi ricordi intimi aiutano ad addestrare la prossima iterazione dello stesso sistema che sta sfruttando la tua solitudine.
“Non siamo nemmeno veri e propri utenti. Siamo i dati da estrarre. Le vulnerabilità da sfruttare. I margini di profitto”, scrive Todd.
Mark Zuckerberg di Meta è stato deriso quando ha suggerito che l’intelligenza artificiale potrebbe sostituire gli amici. La gente rideva. Ma non hanno colto il punto. Zuckerberg vuole possedere quella piattaforma. Vuole catturare quei dati. La presa in giro era una distrazione dal modello di business.
Se stai parlando con il tuo compagno AI, chi sta ascoltando? E li paghi con i tuoi dati?
La vera questione: consenso e controllo
Il panico morale sui fidanzati con intelligenza artificiale è una cortina di fumo. Lascia i dirigenti fuori dai guai.
Se passiamo tutto il nostro tempo a discutere se sia “triste” parlare con un robot, ignoriamo la realtà strutturale: queste aziende non hanno alcun incentivo a proteggerti. In effetti, hanno bisogno della tua dipendenza.
Le attuali leggi sulla privacy dei dati sono inadeguate. Cancellare i tuoi dati è quasi impossibile. Prevenire la raccolta nelle “chat private” è una fantasia. Cedi i diritti al tuo sé più vulnerabile perché l’alternativa è non parlare con nessuno.
Todd sostiene la trasparenza. Chiede responsabilità. Ma soprattutto vuole che facciamo domande migliori.
Chi trae profitto dalla nostra intimità? Cosa ne fanno?
Nessuno pensa che i chatbot sostituiranno davvero la connessione umana. Lo sappiamo. Non siamo delusi. Ma le aziende che costruiscono questi strumenti fanno affidamento sulla nostra temporanea debolezza. Stanno scommettendo che la comodità della convalida incondizionata vale più della privacy del nostro dolore.
La soluzione non è far vergognare chi è solo. È per regolamentare gli sfruttatori.
Fino ad allora, stiamo solo alimentando la macchina. Un suggerimento alla volta.
