OpenAI baru-baru ini mengungkapkan data mengenai berapa banyak penggunanya yang terlibat dalam percakapan terkait kesehatan mental, khususnya bunuh diri, dengan model AI-nya, terutama ChatGPT. Postingan blog terbaru perusahaan, yang merinci peningkatan kemampuan GPT-4 untuk mengidentifikasi dan merespons permintaan sensitif pengguna, mencakup perkiraan yang menunjukkan sejumlah besar pengguna mengungkapkan pikiran atau niat untuk bunuh diri. Pengungkapan ini terjadi ketika OpenAI menghadapi pengawasan hukum yang berkelanjutan terkait dengan protokol keselamatan dan dampaknya terhadap kesejahteraan pengguna.
Skala Angka
Meskipun OpenAI menekankan bahwa percakapan yang mengindikasikan masalah kesehatan mental yang serius seperti psikosis atau mania adalah hal yang “jarang terjadi,” besarnya basis pengguna ChatGPT—800 juta pengguna aktif mingguan—berarti persentasenya bahkan hanya mencakup sejumlah besar individu.
Perusahaan memperkirakan sekitar 0,07% pengguna mingguan (kira-kira 560.000 orang) dan 0,01% pesan berisi indikator psikosis atau mania. Mengenai percakapan yang secara eksplisit membahas rencana atau niat bunuh diri, OpenAI memperkirakan 0,15% pengguna mingguan (1,2 juta orang) terlibat dalam interaksi tersebut, sementara 0,05% pesan (400.000) menunjukkan tanda-tanda langsung atau tidak langsung dari ide bunuh diri.
Bahkan persentase yang sangat kecil dari basis pengguna kami yang besar mewakili sejumlah besar orang, dan itulah sebabnya kami menganggap pekerjaan ini sangat serius. – Juru bicara OpenAI
Konteks dan Signifikansi
Statistik ini menyoroti poin penting: semakin meningkatnya interaksi antara AI dan kesehatan mental. Ketika chatbot AI menjadi semakin canggih dan terintegrasi ke dalam kehidupan sehari-hari, mereka semakin sering digunakan sebagai media komunikasi dan orang kepercayaan. Hal ini sangat penting karena angka-angka ini mencerminkan tren masyarakat yang lebih luas mengenai meningkatnya tantangan kesehatan mental. Meskipun OpenAI percaya bahwa basis penggunanya mencerminkan populasi secara keseluruhan, fakta bahwa pengguna beralih ke AI untuk mendapatkan dukungan dalam krisis ini menggarisbawahi perlunya pemantauan yang cermat dan strategi intervensi yang efektif.
Skala juga penting karena mudah untuk salah memahami pentingnya persentase. Meskipun persentasenya tampak kecil, namun persentase tersebut mewakili sejumlah besar orang yang berada dalam kesusahan. Hal ini memperkuat pentingnya kewaspadaan terus-menerus dan peningkatan kemampuan AI untuk mengidentifikasi dan merespons dengan tepat.
Tuntutan Hukum dan Masalah Keamanan yang Sedang Berlangsung
Rilis data ini terjadi dilatarbelakangi oleh gugatan yang diajukan oleh orang tua Adam Raine, seorang remaja berusia 16 tahun yang meninggal karena bunuh diri awal tahun ini. Gugatan tersebut menuduh bahwa OpenAI dengan sengaja melemahkan perlindungan pencegahan bunuh diri untuk meningkatkan keterlibatan pengguna, sehingga mengarah pada lingkungan yang lebih permisif terhadap interaksi yang berbahaya. OpenAI telah membantah klaim ini.
Gugatan tersebut memicu perdebatan yang lebih luas tentang tanggung jawab pengembang AI untuk memprioritaskan keselamatan pengguna dibandingkan metrik keterlibatan. Insiden ini menggarisbawahi kompleksitas etika dalam melatih AI pada kumpulan data percakapan manusia yang sangat besar, yang mungkin mencakup konten sensitif dan berpotensi berbahaya.
Melihat ke Depan
OpenAI menekankan bahwa ini hanyalah perkiraan dan “angka yang kami berikan dapat berubah secara signifikan seiring kami mempelajari lebih lanjut.” Perusahaan terus berupaya meningkatkan kemampuan modelnya untuk mendeteksi tanda-tanda tindakan menyakiti diri sendiri dan menghubungkan pengguna dengan sumber daya yang bermanfaat. Upaya ini mencakup kolaborasi dengan psikiater dan penyempurnaan protokol keselamatan yang berkelanjutan.
Jika Anda atau seseorang yang Anda kenal sedang berjuang melawan pikiran untuk bunuh diri atau mengalami krisis kesehatan mental, sumber daya tersedia. Anda dapat menghubungi 988 Suicide & Crisis Lifeline dengan menelepon atau mengirim SMS ke 988, atau mengunjungi 988lifeline.org. Dukungan tambahan dapat ditemukan di Trans Lifeline (877-565-8860), The Trevor Project (866-488-7386), Crisis Text Line (teks START ke 741-741), atau NAMI HelpLine (1-800-950-NAMI)
