CAISSI Disorot: Staf Pusat Keamanan AI AS Melapor ke Gedung Putih

SAN FRANCISCO — CAISSI, lembaga pemerintah Amerika Serikat yang menguji keamanan kecerdasan buatan (AI), diminta melapor secara informal kepada kantor Gedung Putih, menurut dua mantan pejabat pemerintah yang mengetahui pembicaraan itu. Perubahan pelaporan ini memunculkan kekhawatiran bahwa penilaian keamanan AI dapat dipengaruhi kepentingan politik.

CAISSI berada di bawah Departemen Perdagangan AS dan dibentuk sebagai lembaga independen. Pusat tersebut juga belum memiliki pemimpin tetap dan berhenti menerbitkan laporan penelitiannya kepada publik.

CAISSI dan kekhawatiran atas independensi

Dua mantan pejabat yang mengetahui pembicaraan itu mengatakan staf CAISSI belakangan diminta menyampaikan laporan secara informal kepada sebuah kantor Gedung Putih. Mereka meminta identitasnya dirahasiakan karena khawatir langkah itu berdampak pada staf yang masih bekerja.

Perubahan tersebut menimbulkan pertanyaan tentang jarak antara pengujian teknis dan keputusan politik. Kritiknya, hasil penilaian yang menyangkut keamanan siber, senjata biologis, privasi, serta hak sipil dapat berubah atau tidak disampaikan jika lembaga itu harus mengikuti kepentingan pemerintah maupun industri teknologi.

“Harapannya, para ahli teknokratis yang nonpartisan atau bipartisan dapat menerapkan kebijakan dengan cara yang paling melayani masyarakat Amerika,” kata Caroline Siegel Singh, manajer program AI dan teknologi baru di Federation of American Scientists. Ia mengatakan lembaga-lembaga yang sangat berpengaruh dapat membawa dampak besar bagi kehidupan masyarakat.

Namun, ada pula pandangan bahwa kedekatan dengan lingkaran Presiden Donald Trump dapat memberi CAISSI perhatian lebih besar dan kemungkinan tambahan pendanaan. Perdebatan itu berlangsung ketika lembaga tersebut menghadapi kekosongan kepemimpinan dan penghentian publikasi riset.

Anggaran terbatas dan laporan yang terhenti

CAISSI mendapat alokasi anggaran 10 juta dolar AS per tahun. Jumlah itu sekitar seperdelapan anggaran tahunan lembaga sejenis di Inggris, menurut informasi dalam laporan mengenai pusat tersebut.

Pada April, direktur CAISSI direkrut lalu diberhentikan dalam hitungan hari. Penggantinya bertahan beberapa bulan sebelum mengundurkan diri. Sejak itu, lembaga tersebut tidak memiliki direktur tetap; pimpinan lembaga induknya merangkap sebagai pelaksana tugas.

Pada Agustus, Kongres mulai meminta penjelasan setelah CAISSI berhenti memublikasikan laporan tentang seberapa aman kinerja sejumlah sistem AI. OpenAI juga meminta para pembuat kebijakan memberi pusat itu lebih banyak dukungan dan dana.

Dampaknya terasa pada kemampuan publik menilai teknologi yang makin banyak digunakan. Tanpa laporan terbuka dan pengujian independen, masyarakat serta pembuat kebijakan memiliki lebih sedikit informasi untuk memahami risiko sistem AI sebelum sistem itu dipakai dalam layanan nyata.

Pengujian agen AI belum punya standar

Pengujian AI berbeda dari uji keselamatan kendaraan. Pemerintah dapat menabrakkan mobil uji ke dinding, mengukur dampak pada tubuh manusia, lalu membagikan hasilnya sebagai dasar standar keselamatan. Untuk agen AI, belum ada proses baku yang menguji perilaku sistem secara menyeluruh di lingkungan nyata.

Agen AI adalah sistem yang dapat menjalankan rangkaian tugas dan menyusun langkah tanpa harus terus-menerus menerima arahan manusia. Kemampuannya berkembang cepat, tetapi pemeriksaan pemerintah belum mengikuti laju itu. Dalam satu kasus yang disebutkan, agen AI mengirim laporan palsu kepada polisi Philadelphia mengenai kasus pembunuhan yang belum terpecahkan.

Sayash Kapoor, calon asisten profesor di School of Information University of California, Berkeley, mengatakan pemeriksaan yang hanya melihat hasil akhir dapat melewatkan kesalahan dalam proses. Agen yang berhasil memesan tiket pesawat, misalnya, tetap dapat mengambil langkah keliru sebelum tugasnya selesai.

“Kecuali Anda melihat seluruh rangkaian langkah yang dilakukan agen, Anda tidak akan tahu bahwa agen itu membuat kesalahan besar,” kata Kapoor, yang turut menulis makalah baru tentang evaluasi agen AI.

Gedung Putih tidak menjawab pertanyaan khusus tentang CAISSI. Dalam pernyataannya, pemerintah mengatakan Trump telah membentuk Super Intelligence Force dan menugaskan Dewan Penasihat Sains dan Teknologi untuk menyusun laporan risiko. Gedung Putih menyebut upaya itu ditujukan untuk mempertahankan kepemimpinan AS dalam kecerdasan buatan.

Amos Toh, penasihat senior di Brennan Center for Justice, menilai penunjukan Direktur Intelijen Nasional Jay Clayton untuk memimpin satuan tersebut bersama pejabat teknologi utama Pentagon, Emil Michael, menunjukkan pemerintah membingkai keselamatan model AI sebagai persoalan keamanan nasional.

Menurutnya, pendekatan itu berisiko menempatkan keputusan pada kewenangan eksekutif dan kerahasiaan, sementara perlindungan konsumen, privasi, dan hak sipil kurang mendapat perhatian.