Buletin Ilmuwan Atom telah memindahkan “Jam Kiamat” ke 85 detik menuju tengah malam—jarak terdekat dengan bencana simbolis global. Meskipun eskalasi nuklir dan tidak adanya tindakan terhadap iklim masih menjadi ancaman penting, kecerdasan buatan (AI) kini menjadi pemicu utama risiko global, sehingga melemahkan kepercayaan terhadap informasi dan memperburuk ketegangan internasional.
Erosi Kepercayaan di Era AI
Para ahli menyebutkan peran AI dalam mempercepat disinformasi sebagai faktor kunci di balik kemajuan teknologi. Alat AI generatif kini memungkinkan terciptanya deepfake dan penipuan yang sangat meyakinkan dalam skala besar, sehingga semakin sulit membedakan kebenaran dan kepalsuan. Degradasi integritas informasi ini menimbulkan ancaman mendasar terhadap sistem demokrasi dan tindakan kolektif.
“Integritas informasi adalah ibu dari semua model, karena Anda tidak dapat menjalankan demokrasi dengan sistem operasi yang rusak,” peraih Hadiah Nobel Perdamaian Maria Ressa memperingatkan.
Konsekuensinya sangat luas. Tanpa pemahaman bersama mengenai realitas yang ada, mengatasi ancaman nyata seperti perubahan iklim dan proliferasi nuklir akan menjadi semakin sulit. Kampanye misinformasi yang didukung AI dapat memanipulasi opini publik, menimbulkan ketidakpercayaan terhadap institusi, dan bahkan meningkatkan konflik.
Perlombaan Senjata AI: Bahaya Pembangunan yang Tidak Terkendali
Meningkatnya perkembangan AI bukan hanya tentang misinformasi. Ada kekhawatiran yang semakin besar mengenai perlombaan senjata AI, dimana negara-negara dan perusahaan berlomba-lomba membangun sistem yang lebih canggih tanpa standar keselamatan yang memadai. Dorongan untuk mendominasi ini dapat menyebabkan sistem senjata otonom, gangguan ekonomi, dan terkikisnya kendali manusia atas teknologi-teknologi penting.
CEO Anthropic Dario Amodei memperingatkan bahwa umat manusia diberikan “kekuasaan yang hampir tak terbayangkan” tanpa kedewasaan untuk menggunakannya secara bertanggung jawab. Bahkan Vatikan telah meningkatkan kewaspadaan, memperingatkan bahwa AI mengancam komunikasi mendasar dan proses berpikir manusia dengan mensimulasikan kesadaran dan empati.
Memutar Kembali Waktu: Seruan untuk Bertindak
Meskipun prospeknya suram, para ahli menekankan bahwa Jam Kiamat bukanlah sebuah prediksi yang tidak dapat dihindari, melainkan sebuah peringatan. Jam tersebut mewakili ancaman yang disebabkan oleh manusia, yang berarti ancaman tersebut dapat dibalik. Para ilmuwan, pembuat kebijakan, dan masyarakat harus menuntut tindakan di tiga bidang:
- Informasi Akurat: Carilah sumber terpercaya dan lawan penyebaran disinformasi.
- Standar Internasional: Menetapkan kerangka kerja global untuk keselamatan AI dan mencegah perlombaan senjata yang tidak terkendali.
- Tekanan Politik: Meminta pertanggungjawaban para pemimpin dalam mengatasi perubahan iklim, ancaman nuklir, dan pengembangan AI yang bertanggung jawab.
Pada akhirnya, Jam Kiamat berfungsi sebagai pengingat bahwa masa depan tidak dapat ditentukan sebelumnya. Tindakan kolektif dan komitmen terhadap kebenaran sangat penting untuk menghindari skenario terburuk dan memutar balik waktu menuju masa depan yang lebih berkelanjutan dan aman.
