OpenAI нещодавно опублікував тривожні дані про те, як часто користувачі взаємодіють зі своїми моделями штучного інтелекту, зокрема ChatGPT, у розмовах, пов’язаних із психічним здоров’ям, включаючи самогубства. Остання публікація в блозі компанії про вдосконалення здатності GPT-4 виявляти конфіденційні запити користувачів і відповідати на них містить оцінки, які показують, що значна кількість користувачів висловлюють суїцидальні думки або наміри. Ця публікація з’явилася на тлі поточного судового розслідування щодо OpenAI, пов’язаного з протоколами безпеки та їх впливом на добробут користувачів.
Масштаб проблеми
Хоча OpenAI наголошує, що розмови, які вказують на серйозні проблеми з психічним здоров’ям, такі як психоз або манія, є «рідкісними», сам розмір бази користувачів ChatGPT — 800 мільйонів активних користувачів щотижня — означає, що навіть невеликі відсотки перетворюються на значну кількість людей.
За оцінками компанії, приблизно 0,07% щотижневих користувачів (близько 560 000 осіб) і 0,01% повідомлень містять ознаки психозу або манії. Щодо розмов, явно пов’язаних із плануванням або наміром вчинити самогубство, за оцінками OpenAI, 0,15% користувачів щотижня (1,2 мільйона людей) беруть участь у таких розмовах, а 0,05% повідомлень (400 000) демонструють прямі чи непрямі ознаки суїцидальних думок.
Навіть дуже невеликий відсоток нашої великої бази користувачів представляє значну кількість людей, і тому ми так серйозно ставимося до цієї роботи. — Представник OpenAI
Контекст і значення
Ці статистичні дані висвітлюють ключовий момент: зростаючий перетин ШІ та психічного здоров’я. Оскільки чат-боти на основі ШІ стають все більш складними та інтегрованими в повсякденне життя, їх все частіше використовують як партнерів по розмові та довірених осіб. Це особливо важливо, оскільки ці цифри відображають ширші суспільні тенденції щодо кількості людей, які мають проблеми з психічним здоров’ям. Незважаючи на те, що OpenAI вважає, що його база користувачів відображає загальне населення, той факт, що користувачі звертаються до ШІ за підтримкою в кризових ситуаціях, підкреслює необхідність ретельного моніторингу та ефективних стратегій втручання.
Масштаб також важливий, оскільки легко неправильно витлумачити значення відсотків. Навіть якщо відсотки здаються невеликими, вони представляють значну кількість людей з психічними захворюваннями. Це підкреслює важливість постійної пильності та вдосконалення здатності штучного інтелекту виявляти ознаки та відповідним чином реагувати.
Триває судовий процес і проблеми безпеки
Звільнення відбувається на тлі судового позову, поданого батьками Адама Рейна, 16-річного підлітка, який покінчив життя самогубством на початку цього року. У позові стверджується, що OpenAI навмисно послабила свої запобіжні заходи щодо запобігання самогубствам, щоб збільшити залучення користувачів, що призвело до створення більш толерантного середовища для шкідливих взаємодій. OpenAI заперечує ці звинувачення.
Позов викликає ширшу дискусію щодо відповідальності розробників штучного інтелекту надавати пріоритет безпеці користувачів над показниками залучення. Цей інцидент підкреслює етичні проблеми навчання ШІ на величезних наборах даних людських розмов, які можуть містити конфіденційну та потенційно шкідливу інформацію.
Погляд у майбутнє
OpenAI наголошує, що це оцінки, і «цифри, які ми надаємо, можуть суттєво змінитися, коли ми дізнаємося більше». Компанія продовжує працювати над покращенням здатності своїх моделей виявляти ознаки самоушкодження та надавати користувачам доступ до корисних ресурсів. Ці зусилля включають співпрацю з психіатрами та постійне вдосконалення протоколів безпеки.
Якщо ви або хтось із ваших знайомих відчуваєте суїцидальні думки або перебуваєте в кризі, допомога доступна. Ви можете зателефонувати або надіслати текстове повідомлення на номер 988, щоб зв’язатися з Національною лінією допомоги для самогубств і кризових ситуацій, або відвідайте 988lifeline.org. Додаткову підтримку можна отримати, зателефонувавши до The Trans Lifeline (877-565-8860), The Trevor Project (866-488-7386), Crisis Text Line (повідомте START на номер 741-741) або зателефонувавши до NAMI HelpLine (1-800-950-NAMI).
