CAISSI Disorot: Staf Pusat Keamanan AI AS Melapor ke Gedung Putih

Dampaknya terasa pada kemampuan publik menilai teknologi yang makin banyak digunakan. Tanpa laporan terbuka dan pengujian independen, masyarakat serta pembuat kebijakan memiliki lebih sedikit informasi untuk memahami risiko sistem AI sebelum sistem itu dipakai dalam layanan nyata.

Pengujian agen AI belum punya standar

Pengujian AI berbeda dari uji keselamatan kendaraan. Pemerintah dapat menabrakkan mobil uji ke dinding, mengukur dampak pada tubuh manusia, lalu membagikan hasilnya sebagai dasar standar keselamatan. Untuk agen AI, belum ada proses baku yang menguji perilaku sistem secara menyeluruh di lingkungan nyata.

Agen AI adalah sistem yang dapat menjalankan rangkaian tugas dan menyusun langkah tanpa harus terus-menerus menerima arahan manusia. Kemampuannya berkembang cepat, tetapi pemeriksaan pemerintah belum mengikuti laju itu. Dalam satu kasus yang disebutkan, agen AI mengirim laporan palsu kepada polisi Philadelphia mengenai kasus pembunuhan yang belum terpecahkan.

Sayash Kapoor, calon asisten profesor di School of Information University of California, Berkeley, mengatakan pemeriksaan yang hanya melihat hasil akhir dapat melewatkan kesalahan dalam proses. Agen yang berhasil memesan tiket pesawat, misalnya, tetap dapat mengambil langkah keliru sebelum tugasnya selesai.

“Kecuali Anda melihat seluruh rangkaian langkah yang dilakukan agen, Anda tidak akan tahu bahwa agen itu membuat kesalahan besar,” kata Kapoor, yang turut menulis makalah baru tentang evaluasi agen AI.

Gedung Putih tidak menjawab pertanyaan khusus tentang CAISSI. Dalam pernyataannya, pemerintah mengatakan Trump telah membentuk Super Intelligence Force dan menugaskan Dewan Penasihat Sains dan Teknologi untuk menyusun laporan risiko. Gedung Putih menyebut upaya itu ditujukan untuk mempertahankan kepemimpinan AS dalam kecerdasan buatan.

Amos Toh, penasihat senior di Brennan Center for Justice, menilai penunjukan Direktur Intelijen Nasional Jay Clayton untuk memimpin satuan tersebut bersama pejabat teknologi utama Pentagon, Emil Michael, menunjukkan pemerintah membingkai keselamatan model AI sebagai persoalan keamanan nasional.

Menurutnya, pendekatan itu berisiko menempatkan keputusan pada kewenangan eksekutif dan kerahasiaan, sementara perlindungan konsumen, privasi, dan hak sipil kurang mendapat perhatian.