Prabowo Ingatkan Risiko AI Dan Nuklir Minta Akademisi Dalami Dampaknya

“Hampir semua negara sekarang mengejar AI, tidak mau ketinggalan,” ujarnya.

Namun, justru karena perlombaan itu, risiko AI ikut membesar. Prabowo menyebut para pengembang AI sendiri telah mengingatkan bahwa teknologi ini menyimpan ancaman bagi kehidupan manusia. Ia menyinggung perkembangan agent AI, sistem kecerdasan buatan yang dirancang bekerja mandiri untuk individu, korporasi, organisasi, bahkan negara.

“Konon kabarnya sekarang sudah ada 5 juta agent AI. Mereka katanya sudah punya chat room sendiri, berbicara sendiri dalam bahasa kode mereka sendiri,” kata Prabowo.

Ia tidak menjelaskan dari mana angka lima juta itu berasal. Tidak ada rincian soal sumber data maupun verifikasi atas klaim mengenai sistem komunikasi antarmesin yang disebutnya. Meski begitu, pernyataan itu menggambarkan kegelisahan yang makin sering muncul di berbagai forum global: AI berkembang cepat, kadang lebih cepat daripada kemampuan manusia memahaminya secara utuh.

Di banyak negara, kekhawatiran itu memang bukan isapan jempol. AI kini dipakai untuk menulis, menganalisis data, membuat gambar, menyusun kode, bahkan membantu pengambilan keputusan. Cepat. Praktis. Efisien. Tapi di saat yang sama, muncul pertanyaan soal bias, privasi, keamanan data, manipulasi informasi, hingga hilangnya pekerjaan di sejumlah bidang.

Kenapa pernyataan ini penting bagi Indonesia

Ucapan Prabowo penting karena Indonesia sedang berada di fase awal pembentukan ekosistem AI dan teknologi canggih. Di satu sisi, pemerintah mendorong transformasi digital, pemanfaatan data, dan penguatan talenta sains. Di sisi lain, kebijakan untuk mengatur risiko teknologi belum selalu bergerak secepat inovasinya.

Kalau diskusinya hanya soal adopsi, Indonesia bisa terlambat menyiapkan pagar pengaman. Itu sebabnya, peringatan soal risiko AI bukan sekadar komentar presiden dalam forum akademik. Ia menyentuh isu yang akan berpengaruh ke sekolah, kampus, industri, layanan publik, sampai keamanan nasional.

Bayangkan AI dipakai di rumah sakit tanpa pengawasan memadai. Atau dipakai di perusahaan untuk mengambil keputusan penting tanpa audit yang jelas. Akibatnya bisa jauh ke mana-mana. Bukan hanya soal efisiensi yang gagal, tapi juga soal salah diagnosis, salah rekomendasi, atau kebocoran data yang sulit ditarik kembali.