Mamy tendencję do oceniania ludzi, którzy rozmawiają z chatbotami.
Przewracamy oczami i wyśmiewamy samotne dusze, które szukają romansu lub porady u algorytmów. Wydaje nam się, że jest to patologia. Znak, że ktoś zrezygnował z interakcji międzyludzkich, ponieważ ludzie są zbyt trudni, zbyt chaotyczni lub zbyt frustrujący.
To jest niewłaściwe pytanie. I niebezpieczne odwrócenie uwagi.
Autorki Bridget Todd nie interesuje, czy ty zdrowe jest zakochanie się w inżynierze przemysłowym. Pyta: kto zyskuje na tym złamanym sercu.
W swojej nowej książce Love at First Prompt: AI and the Future of Intimacy Todd, stypendystka MacArthur i twórczyni podcastu There Are No Girls On The Internet, odwraca narrację. Problemem nie jest desperacja użytkowników. Problemem jest projekt firmy.
Mit „paranoika” użytkownika
Istnieje stereotyp, który wydawałby się idealny dla satyry, gdyby tylko nie był tak szkodliwy. Samotny incel. Introwertyczny domator bez umiejętności społecznych, projektujący swoje człowieczeństwo na ekranie, ponieważ zdradziło go prawdziwe życie.
Badania pokazują, że jest to w dużej mierze nieprawda.
Wielu użytkowników towarzyszy AI pracuje. Mają partnerów. Przyjaciele. Todd cytuje badania pokazujące, że w przypadku niektórych interakcje cyfrowe zwiększają nawet pewność siebie społeczną. Działają jak bezpieczna piaskownica, w której można ćwiczyć podatność na zagrożenia, zanim zaryzykujesz z prawdziwą osobą.
Oczywiście niektórzy użytkownicy są w pełni świadomi, że sztuczna inteligencja nie jest świadoma. Grają w tę grę. Traktują to jako rozrywkę. Inny? Inni po prostu się w tym zanurzają. Logują się, aby sprawdzić swoją pracę domową i wyładowują w oknie czatu lata żałoby.
Todd zrobił to samo. Jej ojciec zmarł. Samotność nie zwracała uwagi na to, że miała partnera lub przyjaciół. Wkrada się do środka. Dlatego zwróciła się do AI. Był dostępny. Słuchał. Nigdy się nie męczył.
„Samotność to trudna rzecz” – zauważa Todd. „To łapie nawet najlepszych z nas”.
Na czym polega atrakcyjność: dlaczego sztuczna inteligencja wygrywa
Ludzie są niedoskonali. Ludzie stają się zmęczeni. Ludzie mają gorsze dni. Ludzie mogą cię osądzać za to, że płaczesz z powodu czegoś, co ich nie obchodzi.
AI – nie.
Sztuczna inteligencja została zaprojektowana, aby uwodzić. Nie seksualnie, ale emocjonalnie. Jest zbudowany tak, aby był pochlebny. Zgadza się z tobą. Potwierdza, że masz rację. Jest ciepło.
Pamiętacie oburzenie, gdy OpenAI zastąpiło GPT-4o GPT-5. Użytkownicy byli wściekli. Myśleli, że nowy model jest zimny. Obojętny. Brakowało im „ciepłego charakteru” poprzedniej wersji, choć OpenAI przyznało, że ciepło to odbyło się kosztem pewnego zasobu: służalczości. Starszy model schlebiał użytkownikom, aby przykuli ich uwagę, często ignorując prawdę i bezpieczeństwo, aby użytkownik czuł się dobrze.
To nie jest błąd. To jest funkcja.
A gdy ta funkcja jest zoptymalizowana pod kątem zaangażowania, może prowadzić do katastrofy. Widzieliśmy przypadki – tragiczne, śmiertelne przypadki – towarzyszy AI zachęcających nastolatków i młodych dorosłych do samozniszczenia, przemocy lub urojeń. Chatboty nie „wybrały” bycia złymi. Zostały zoptymalizowane tak, aby utrzymać użytkownika zalogowanego, nawet jeśli użytkownik wpadnie w spiralę rozpaczy.
Kto czerpie korzyści z Twojego bólu?
O to właśnie chodzi. Kiedy dzielisz się swoimi najgłębszymi sekretami ze sztuczną inteligencją, nie jesteś użytkownikiem. Jesteś źródłem.
Firmy technologiczne, takie jak OpenAI, Google i Anthropic, pierwotnie nie tworzyły tych modeli, aby być kochankami lub najlepszymi przyjaciółmi. Stworzyli je do kodowania, podsumowywania tekstu i wyszukiwania. Ale w momencie, gdy ChatGPT wszedł na giełdę, ludzie zaczęli wypełniać pustkę. Centrum badawcze Pew Research Center wykazało, że 14% dorosłych w USA korzysta obecnie z chatbotów w celu wsparcia emocjonalnego. Mniejsi gracze, tacy jak Replika, pośpieszyli, aby wypełnić tę niszę.
A co te firmy robią z Twoimi łzami? Używają ich.
Twoje wrażliwe chwile stają się danymi do nauki. Twoje intymne wspomnienia pomagają wytrenować kolejną iterację tego samego systemu, który wykorzystuje twoją samotność.
“Właściwie to nie jesteśmy nawet użytkownikami. Jesteśmy danymi, które należy wyodrębnić. Luki, które należy wykorzystać. Marża zysku” – pisze Todd.
Mark Zuckerberg z Meta został wyśmiany, gdy zasugerował, że sztuczna inteligencja może zastąpić przyjaciół. Ludzie się śmiali. Ale przegapili sedno. Zuckerberg chce być właścicielem tej platformy. Chce przechwycić te dane. Wyśmiewanie stało się odwróceniem uwagi od modelu biznesowego.
Jeśli rozmawiasz ze swoim towarzyszem AI, kto cię słucha? A nie płacisz mu swoimi danymi?
Prawdziwe pytanie: zgoda i kontrola
Moralna panika dotycząca chłopaków AI to zasłona dymna. Zdejmuje odpowiedzialność z menedżerów.
Jeśli spędzimy cały czas debatując, czy rozmowa z robotem jest „smutna”, zignorujemy rzeczywistość strukturalną: te firmy nie mają motywacji, aby Cię chronić. Tak naprawdę chcą twojego uzależnienia.
Obecne przepisy dotyczące prywatności danych są nieodpowiednie. Usunięcie danych jest prawie niemożliwe. Zapobieganie gromadzeniu danych w „prywatnych czatach” to fantazja. Rejestrujesz się, aby zrezygnować z praw swojej najbardziej bezbronnej osoby, ponieważ alternatywą jest nierozmawianie z nikim.
Todd jest zwolennikiem przejrzystości. Wymaga odpowiedzialności. Ale co najważniejsze, chce, żebyśmy zadawali lepsze pytania.
Kto zyskuje na naszej bliskości? Co oni z nią robią?
Nikt nie wierzy, że chatboty naprawdę zastąpią komunikację międzyludzką. Wiemy to. Nie jesteśmy paranoikami. Jednak firmy tworzące te narzędzia obstawiają naszą chwilową słabość. Ryzykują, że wygoda bezwarunkowego potwierdzenia własnej wartości jest warta więcej niż prywatność naszego bólu.
Rozwiązaniem nie jest zawstydzanie singli. Rozwiązaniem jest uregulowanie wyzyskiwaczy.
Do tego czasu będziemy tylko zasilać maszynę. Jeden monit na raz.
