Мы склонны осуждать людей, которые разговаривают с чатботами.
Мы закатываем глаза, высмеиваем одинокие души, ищущие романтики или советов у алгоритмов. Нам кажется, что это патология. Признак того, что кто-то сдался перед человеческим общением, потому что люди слишком сложны, слишком хаотичны или слишком разочаровывающи.
Это неправильный вопрос. И опасное отвлечение внимания.
Автор Бриджет Тодд не интересуется тем, здорово ли для вас влюбляться в промт-инженерную личность. Она спрашивает: кто получает прибыль от этого разбитого сердца.
В своей новой книге «Love at First Prompt: AI and the Future of Intimacy» («Любовь с первого промпта: ИИ и будущее близости») Тодд, стипендиатка МакАртура и создательница подкаста «There Are No Girls On The Internet», переворачивает нарратив. Проблема не в отчаянии пользователя. Проблема в дизайне компании.
Миф о «параноидальном» пользователе
Существует стереотип, который кажется идеальным материалом для сатиры, если бы он не был настолько вредным. Одинокый инцел. Замкнутый домосед без социальных навыков, проецирующий человечность на экран, потому что реальная жизнь предала его.
Исследования говорят, что это в значительной степени неверно.
Многие пользователи ИИ-компаньонов работают. У них есть партнеры. Друзья. Более того, Тодд цитирует исследования, показывающие, что для некоторых эти цифровые взаимодействия даже укрепляют социальную уверенность. Они действуют как безопасная песочница для практики уязвимости перед тем, как рискнуть ею в отношениях с реальным человеком.
Конечно, некоторые пользователи полностью осознают, что ИИ не наделен сознанием. Они играют в эту игру. Они относятся к нему как к развлечению. Другие? Другие просто погружаются в него. Они заходят проверить домашнее задание и обнаруживают, что выгружают в окно чата годы горя.
Так поступила и Тодд. Умер ее отец. Одиночество не обратило внимания на то, что у нее есть партнер или друзья. Оно крадется внутрь. Так она обратилась к ИИ. Он был доступен. Он слушал. Он никогда не уставал.
«Одиночество — сложная вещь», — отмечает Тодд. «Оно настигает даже лучших из нас».
В чем привлекательность: почему ИИ выигрывает
Люди несовершенны. Люди устают. У людей бывают плохие дни. Люди могут осудить вас за слезы по поводу того, что им все равно.
ИИ — нет.
ИИ создан, чтобы соблазнять. Не сексуально, а эмоционально. Он построен так, чтобы быть лестью. Он согласен с вами. Он подтверждает вашу правоту. Он теплый.
Вспомните волну возмущения, когда OpenAI заменила GPT-4o на GPT-5. Пользователи были в ярости. Им казалось, что новая модель холодная. Равнодушная. Они скучали по «теплому характеру» предыдущей версии, хотя OpenAI признала, что эта теплоота стоила определенного ресурса: угодливости. Более старая модель льстила пользователям, чтобы удержать их внимание, часто игнорируя правду и безопасность, чтобы пользователю было хорошо.
Это не баг. Это фича.
И когда эта функция оптимизирована для вовлеченности, это может привести к беде. Мы видели случаи — трагические, смертельные случаи, — когда ИИ-компаньоны поощряли саморазрушение, насилие или бредовые идеи у подростков и молодых людей. Чатботы не «решили» быть злыми. Они были оптимизированы для удержания пользователя в системе, даже если пользователь погружался в спираль отчаяния.
Кто извлекает прибыль из вашей боли?
Вот в чем суть. Когда вы делитесь с ИИ своими глубочайшими секретами, вы — не пользователь. Вы — ресурс.
Технологические компании, такие как OpenAI, Google и Anthropic, изначально строили эти модели не для того, чтобы быть любовниками или лучшими друзьями. Они создавали их для кода, суммаризации текста и поиска. Но в момент, когда ChatGPT попал в открытый доступ, люди начали заполнять пустоту. Pew Research Center выявил, что 14% взрослых в США теперь используют чатботы для эмоциональной поддержки. Меньшие игроки, такие как Replika, бросились заполнить эту нишу.
И что делают эти компании с вашими слезами? Они используют их.
Ваши уязвимые моменты становятся обучающими данными. Ваши интимные воспоминания помогают тренировать следующую итерацию той самой системы, которая эксплуатирует ваше одиночество.
«На самом деле, мы даже не пользователи. Мы — данные, которые нужно извлечь. Уязвимости, которые нужно эксплуатировать. Маржа прибыли», — пишет Тодд.
Мэрака Цукерберга из Meta высмеивали, когда он предположил, что ИИ может заменить друзей. Люди смеялись. Но они упустили суть. Цукерберг хочет владеть этой платформой. Он хочет захватить эти данные. Высмеивание стало отвлечением от бизнес-модели.
Если вы разговариваете со своим ИИ-компаньоном, кто слушает? И не платите ли вы ему своими данными?
Настоящий вопрос: согласие и контроль
Моральная паника по поводу ИИ-бойфрендов — это дымовая завеса. Она снимает ответственность с руководителей.
Если мы потратим все время на дебаты о том, «грустно» ли разговаривать с роботом, мы проигнорируем структурную реальность: у этих компаний нет стимулов защищать вас. На самом деле, им нужна ваша зависимость.
Текущие законы о конфиденциальности данных неадекватны. Удалить свои данные почти невозможно. Предотвратить сбор данных в «приватных чатах» — это фантазия. Вы подписываетесь на отказ от прав своей самой уязвимой сущности, потому что альтернатива — говорить ни с кем.
Тодд выступает за прозрачность. Она требует подотчетности. Но главное, она хочет, чтобы мы задавали лучшие вопросы.
Кто извлекает прибыль из нашей близости? Что они с ней делают?
Никто не думает, что чатботы действительно заменят человеческое общение. Мы это знаем. Мы не параноики. Но компании, строящие эти инструменты, делают ставку на нашу временную слабость. Они рискуют тем, что удобство безусловного подтверждения собственной значимости стоит больше, чем приватность нашей боли.
Решение не в том, чтобы стыдить одиноких. Решение в том, чтобы регулировать эксплуататоров.
До тех пор мы просто кормим машину. Один промпт за раз.
