Ми схильні засуджувати людей, які розмовляють із чатами.
Ми закочуємо очі, висміюємо самотні душі, які шукають романтики чи порад у алгоритмів. Нам здається, що то патологія. Ознака того, що хтось здався перед людським спілкуванням, бо люди надто складні, надто хаотичні чи надто розчаровують.
Це неправильне питання. І небезпечне відволікання уваги.
Автор Бріджет Тодд не цікавиться тим, чи здорово для вас закохуватися в промт-інженерну особистість. Вона запитує: хто одержує прибуток від цього розбитого серця.
У своїй новій книзі “Love at First Prompt: AI and the Future of Intimacy” (“Кохання з першого промпту: ІІ та майбутнє близькості”) Тодд, стипендіатка МакАртура і творець подкасту “There Are No Girls On The Internet”, перевертає нарратив. Проблема не в розпачі користувача. Проблема у дизайні компанії.
Міф про «параноїдальний» користувач
Існує стереотип, який здається ідеальним матеріалом для сатири, якби він не був таким шкідливим. Самотній інцел. Замкнутий домосід без соціальних навичок, що проектує людяність на екран, тому що реальне життя зрадило його.
Дослідження свідчать, що це значною мірою неправильно.
Багато користувачів ІІ-компаньйонів працюють. Вони мають партнери. Друзі. Більше того, Тодд цитує дослідження, що показують, що для деяких ці цифрові взаємодії навіть зміцнюють соціальну впевненість. Вони діють як безпечна пісочниця для практики вразливості перед тим, як ризикнути нею у відносинах із реальною людиною.
Звичайно, деякі користувачі повністю усвідомлюють, що ІІ не наділений свідомістю. Вони грають у цю гру. Вони ставляться щодо нього як до розваги. Інші? Інші просто поринають у нього. Вони заходять перевірити домашнє завдання та виявляють, що вивантажують у вікно чату роки горя.
Так вчинила і Тодд. Помер батько. Самотність не звернула уваги на те, що має партнера чи друзів. Воно крадеться всередину. Так вона звернулася до ІІ. Він був доступний. Він слухав. Він ніколи не втомлювався.
«Самотність – складна річ», – зазначає Тодд. «Воно наздоганяє навіть найкращих із нас».
У чому привабливість: чому ІІ виграє
Люди недосконалі. Люди втомлюються. Люди бувають погані дні. Люди можуть засудити вас за сльози з приводу того, що їм байдуже.
ІІ – ні.
ІІ створено, щоб спокушати. Чи не сексуально, а емоційно. Він побудований так, щоб бути лестощами. Він згоден із вами. Він підтверджує вашу правоту. Він теплий.
Згадайте хвилю обурення, коли OpenAI замінила GPT-4o GPT-5. Користувачі були в люті. Їм здавалося, що нова модель холодна. Байдужий. Вони сумували за «теплим характером» попередньої версії, хоча OpenAI визнала, що ця теплоота коштувала певного ресурсу: догідливості. Старша модель лестила користувачам, щоб утримати їхню увагу, часто ігноруючи правду та безпеку, щоб користувачеві було добре.
Це не баг. Це фіча.
І коли ця функція оптимізована для залучення, це може призвести до біди. Ми бачили випадки — трагічні, смертельні випадки, коли ІІ-компаньйони заохочували саморуйнування, насильство чи маячні ідеї у підлітків та молодих людей. Чатботи не вирішили бути злими. Вони були оптимізовані для утримання користувача в системі, навіть якщо користувач поринав у спіраль розпачу.
Хто отримує прибуток з вашого болю?
Ось у чому суть. Коли ви ділитеся з ІІ своїми глибокими секретами, ви не користувач. Ви ресурс.
Технологічні компанії, такі як OpenAI, Google та Anthropic, спочатку будували ці моделі не для того, щоб бути коханцями чи найкращими друзями. Вони створювали їх для коду, сумаризації тексту та пошуку. Але в той момент, коли ChatGPT потрапив у відкритий доступ, люди почали заповнювати порожнечу. Pew Research Center виявив, що 14% дорослих у США тепер використовують чоботи для емоційної підтримки. Найменші гравці, такі як Replika, кинулися заповнити цю нішу.
І що роблять ці компанії із вашими сльозами? Вони використовують їх.
Ваші вразливі моменти стають навчальними даними. Ваші інтимні спогади допомагають тренувати наступну ітерацію тієї самої системи, яка експлуатує вашу самотність.
«Насправді ми навіть не користувачі. Ми дані, які потрібно витягти. Вразливості, які необхідно експлуатувати. Маржа прибули», – пише Тодд.
Мерака Цукерберга з Meta висміювали, коли він припустив, що ІІ може замінити друзів. Люди сміялися. Але вони втратили суть. Цукерберг хоче володіти цією платформою. Він хоче захопити ці дані. Висміювання стало відволіканням від бізнес-моделі.
Якщо ви розмовляєте зі своїм ІІ-компаньйоном, хто слухає? І чи не платите ви йому своїми даними?
Справжнє питання: згода та контроль
Моральна паніка щодо ІІ-бойфрендів – це димова завіса. Вона знімає відповідальність із керівників.
Якщо ми витратимо весь час на дебати про те, чи «сумно» розмовляти з роботом, ми проігноруємо структурну реальність: ці компанії не мають стимулів захищати вас. Насправді їм потрібна ваша залежність.
Поточні закони про конфіденційність даних є неадекватними. Видалити свої дані майже неможливо. Запобігти збору даних у «приватних чатах» — це фантазія. Ви підписуєтеся на відмову від прав своєї найуразливішої сутності, бо альтернатива говорити ні з ким.
Тодд виступає за прозорість. Вона потребує підзвітності. Але головне, вона хоче, щоб ми ставили найкращі питання.
Хто отримує прибуток із нашої близькості? Що вони з нею роблять?
Ніхто не думає, що чоботи справді замінять людське спілкування. Ми це знаємо. Ми не параноїки. Але компанії, які будують ці інструменти, роблять ставку на нашу тимчасову слабкість. Вони ризикують тим, що зручність безумовного підтвердження власної значущості коштує більше ніж приватність нашого болю.
Рішення не в тому, щоб соромити самотніх. Рішення у тому, щоб регулювати експлуататорів.
До того часу ми просто годуємо машину. Один промпт за раз.
