OpenAI недавно опубликовала тревожные данные о том, как часто пользователи взаимодействуют со своими моделями ИИ, в частности с ChatGPT, в разговорах, касающихся психического здоровья, в том числе о самоубийстве. Последний пост компании в блоге, посвященный улучшениям способности GPT-4 выявлять и реагировать на чувствительные запросы пользователей, содержит оценки, показывающие, что значительное число пользователей выражают суицидальные мысли или намерения. Эта публикация происходит на фоне продолжающегося юридического расследования в отношении OpenAI, связанного с протоколами безопасности и их влиянием на благополучие пользователей.
Масштаб проблемы
Хотя OpenAI подчеркивает, что разговоры, указывающие на серьезные проблемы с психическим здоровьем, такие как психоз или мания, «редки», огромный размер пользовательской базы ChatGPT – 800 миллионов активных пользователей в неделю – означает, что даже небольшие проценты переводятся в значительное число людей.
Компания оценивает, что примерно 0,07% пользователей в неделю (около 560 000 человек) и 0,01% сообщений содержат признаки психоза или мании. Что касается разговоров, явно касающихся планирования или намерения совершить самоубийство, OpenAI оценивает, что 0,15% пользователей в неделю (1,2 миллиона человек) взаимодействуют в таких разговорах, а 0,05% сообщений (400 000) демонстрируют прямые или косвенные признаки суицидальных мыслей.
Даже очень небольшой процент нашей большой пользовательской базы представляет собой значительное число людей, и именно поэтому мы воспринимаем эту работу так серьезно. — Представитель OpenAI
Контекст и значимость
Эти статистические данные подчеркивают ключевой момент: растущее пересечение ИИ и психического здоровья. По мере того, как чат-боты на базе ИИ становятся все более сложными и интегрируются в повседневную жизнь, их все чаще используют в качестве собеседников и доверенных лиц. Это особенно важно, потому что эти цифры отражают более широкие общественные тенденции увеличения числа людей, сталкивающихся с проблемами психического здоровья. Хотя OpenAI считает, что ее пользовательская база отражает население в целом, тот факт, что пользователи обращаются к ИИ за поддержкой в кризисных ситуациях, подчеркивает необходимость тщательного мониторинга и эффективных стратегий вмешательства.
Масштаб также важен, поскольку легко неправильно истолковать значение процентов. Даже если проценты кажутся небольшими, они представляют собой значительное число людей в состоянии душевного расстройства. Это подчеркивает важность постоянной бдительности и улучшений в способности ИИ выявлять признаки и реагировать соответствующим образом.
Продолжающийся иск и проблемы безопасности
Публикация этих данных происходит на фоне иска, поданного родителями Адама Рейна, 16-летнего подростка, который покончил жизнь самоубийством в начале этого года. Иск утверждает, что OpenAI намеренно ослабила свои меры предосторожности для предотвращения самоубийств, чтобы повысить вовлеченность пользователей, что привело к более терпимой среде для вредных взаимодействий. OpenAI отрицает эти обвинения.
Иск провоцирует более широкую дискуссию об ответственности разработчиков ИИ в приоритете безопасности пользователей по сравнению с показателями вовлеченности. Этот инцидент подчеркивает этические сложности обучения ИИ на огромных наборах данных человеческих разговоров, которые могут содержать конфиденциальную и потенциально вредную информацию.
Взгляд в будущее
OpenAI подчеркивает, что это оценки и «числа, которые мы предоставили, могут значительно измениться по мере того, как мы будем узнавать больше». Компания продолжает работать над улучшением способности своих моделей выявлять признаки самоповреждения и предоставлять пользователям доступ к полезным ресурсам. Эти усилия включают сотрудничество с психиатрами и постоянное совершенствование протоколов безопасности.
Если вы или кто-то из ваших знакомых испытывает суицидальные мысли или находится в кризисной ситуации, доступна помощь. Вы можете позвонить или отправить текстовое сообщение по телефону 988, чтобы связаться с национальной службой поддержки при самоубийстве и кризисных ситуациях, или посетите сайт 988lifeline.org. Дополнительную поддержку можно найти по телефону The Trans Lifeline (877-565-8860), The Trevor Project (866-488-7386), Crisis Text Line (отправьте сообщение START на номер 741-741) или по телефону NAMI HelpLine (1-800-950-NAMI).
