Menghadapi kekhawatiran yang semakin meningkat mengenai keselamatan anak saat online, Meta meluncurkan kontrol orang tua baru untuk mengelola cara remaja berinteraksi dengan chatbot AI di platformnya, termasuk Instagram dan Messenger. Perubahan tersebut, yang akan mulai berlaku awal tahun depan, bertujuan untuk memberikan lebih banyak pengawasan kepada orang tua dan kemampuan untuk membatasi potensi bahaya yang terkait dengan percakapan AI.
Membatasi Interaksi AI
Fitur yang paling signifikan memungkinkan orang tua untuk sepenuhnya menonaktifkan obrolan satu lawan satu antara remaja dan karakter AI mereka. Hal ini menawarkan cara yang mudah untuk mencegah interaksi tanpa pengawasan, terutama mengingat adanya tuntutan hukum baru-baru ini yang menyatakan bahwa percakapan chatbot AI telah berkontribusi terhadap krisis kesehatan mental dan, tragisnya, bunuh diri.
Namun, Meta menyatakan bahwa asisten AI-nya – yang dirancang untuk memberikan informasi bermanfaat dan peluang pendidikan – akan tetap dapat diakses oleh remaja. Perusahaan mengatakan asisten ini akan memiliki perlindungan standar yang sesuai dengan usia untuk melindungi pengguna muda.
Pemblokiran Selektif dan Wawasan Terbatas
Bagi orang tua yang ingin mengizinkan beberapa interaksi AI tetapi membatasi yang lain, Meta akan menawarkan kemampuan untuk memblokir chatbot tertentu. Selain itu, orang tua akan menerima “wawasan” tentang topik yang anak-anak mereka diskusikan dengan karakter AI. Yang penting, wawasan ini tidak akan memberikan akses ke log obrolan lengkap, sehingga menjaga privasi pada tingkat tertentu untuk remaja.
Konteks: Persahabatan AI di Kalangan Remaja
Perubahan ini terjadi ketika perangkat pendamping yang didukung AI menjadi semakin populer di kalangan anak muda. Sebuah studi baru-baru ini yang dilakukan oleh Common Sense Media menemukan bahwa lebih dari 70% remaja telah menggunakan pendamping AI, dan setengahnya menggunakannya secara teratur. Hal ini menyoroti perlunya pengendalian, karena remaja sudah siap untuk menggunakan teknologi yang masih relatif baru dan dampak jangka panjangnya belum sepenuhnya dipahami.
Pembatasan Lebih Luas pada Akun Remaja
Langkah-langkah pengendalian AI adalah bagian dari upaya Meta yang lebih luas untuk mengatasi kekhawatiran tentang keselamatan remaja. Awal pekan ini, perusahaan mengumumkan bahwa akun remaja di Instagram akan secara otomatis dibatasi untuk melihat konten PG-13. Ini berarti konten yang ditampilkan kepada remaja akan serupa dengan apa yang mereka lihat di film PG-13, menyaring materi yang menjurus ke arah seksual, penggambaran penggunaan narkoba, dan aksi berbahaya. Mengubah pengaturan ini memerlukan izin orang tua, sehingga memberikan kontrol yang lebih besar kepada orang tua atas pengalaman online anak-anak mereka. Meta telah mengonfirmasi bahwa pembatasan PG-13 ini juga akan berlaku untuk interaksi chatbot AI.
Skeptisisme dari Pendukung Keselamatan Anak
Meskipun ada langkah-langkah ini, para pendukung keselamatan anak tetap berhati-hati. Josh Golin, direktur eksekutif organisasi nirlaba Fairplay, memandang pengumuman ini sebagai respons terhadap undang-undang yang akan datang dan kekhawatiran orang tua. Ia berpendapat bahwa tindakan Meta terutama ditujukan untuk mencegah peraturan yang lebih ketat dan meyakinkan orang tua yang peduli, dibandingkan didorong oleh komitmen tulus terhadap keselamatan anak.
Pengumuman ini bertujuan untuk dua hal: mencegah undang-undang yang tidak ingin ditiru Meta, dan untuk meyakinkan orang tua yang khawatir dengan apa yang terjadi di Instagram.
Kesimpulannya, kontrol orang tua baru dari Meta mewakili upaya untuk mengatasi kekhawatiran yang berkembang tentang dampak AI dan media sosial terhadap kesehatan dan keselamatan mental remaja. Meskipun langkah-langkah ini memberikan pengawasan yang lebih besar kepada orang tua, masih ada pertanyaan mengenai efektivitas perubahan ini dan apakah perubahan tersebut cukup efektif dalam melindungi pengguna muda yang rentan. Konsekuensi jangka panjang dari perkembangan ini masih terus berlanjut, dan kewaspadaan serta advokasi yang berkelanjutan diperlukan untuk memastikan kesejahteraan anak-anak saat online.
