CAISSI Disorot: Staf Pusat Keamanan AI AS Melapor ke Gedung Putih

SAN FRANCISCO — CAISSI, lembaga pemerintah Amerika Serikat yang menguji keamanan kecerdasan buatan (AI), diminta melapor secara informal kepada kantor Gedung Putih, menurut dua mantan pejabat pemerintah yang mengetahui pembicaraan itu. Perubahan pelaporan ini memunculkan kekhawatiran bahwa penilaian keamanan AI dapat dipengaruhi kepentingan politik.

CAISSI berada di bawah Departemen Perdagangan AS dan dibentuk sebagai lembaga independen. Pusat tersebut juga belum memiliki pemimpin tetap dan berhenti menerbitkan laporan penelitiannya kepada publik.

CAISSI dan kekhawatiran atas independensi

Dua mantan pejabat yang mengetahui pembicaraan itu mengatakan staf CAISSI belakangan diminta menyampaikan laporan secara informal kepada sebuah kantor Gedung Putih. Mereka meminta identitasnya dirahasiakan karena khawatir langkah itu berdampak pada staf yang masih bekerja.

Perubahan tersebut menimbulkan pertanyaan tentang jarak antara pengujian teknis dan keputusan politik. Kritiknya, hasil penilaian yang menyangkut keamanan siber, senjata biologis, privasi, serta hak sipil dapat berubah atau tidak disampaikan jika lembaga itu harus mengikuti kepentingan pemerintah maupun industri teknologi.

“Harapannya, para ahli teknokratis yang nonpartisan atau bipartisan dapat menerapkan kebijakan dengan cara yang paling melayani masyarakat Amerika,” kata Caroline Siegel Singh, manajer program AI dan teknologi baru di Federation of American Scientists. Ia mengatakan lembaga-lembaga yang sangat berpengaruh dapat membawa dampak besar bagi kehidupan masyarakat.

Namun, ada pula pandangan bahwa kedekatan dengan lingkaran Presiden Donald Trump dapat memberi CAISSI perhatian lebih besar dan kemungkinan tambahan pendanaan. Perdebatan itu berlangsung ketika lembaga tersebut menghadapi kekosongan kepemimpinan dan penghentian publikasi riset.

Anggaran terbatas dan laporan yang terhenti

CAISSI mendapat alokasi anggaran 10 juta dolar AS per tahun. Jumlah itu sekitar seperdelapan anggaran tahunan lembaga sejenis di Inggris, menurut informasi dalam laporan mengenai pusat tersebut.

Pada April, direktur CAISSI direkrut lalu diberhentikan dalam hitungan hari. Penggantinya bertahan beberapa bulan sebelum mengundurkan diri. Sejak itu, lembaga tersebut tidak memiliki direktur tetap; pimpinan lembaga induknya merangkap sebagai pelaksana tugas.

Pada Agustus, Kongres mulai meminta penjelasan setelah CAISSI berhenti memublikasikan laporan tentang seberapa aman kinerja sejumlah sistem AI. OpenAI juga meminta para pembuat kebijakan memberi pusat itu lebih banyak dukungan dan dana.