Satya Nadella Minta Semua Model AI Dianggap Bisa Dibobol

JAKARTA — Satya Nadella meminta perusahaan memperlakukan model AI canggih sebagai sistem yang berpotensi telah disusupi. CEO Microsoft itu menyampaikan gagasan tersebut dalam tulisan di X berjudul “Models as Insider Risks in the Super Intelligence Era”, sebagaimana dilaporkan The Verge dan sejumlah media teknologi.

Pesannya bukan bahwa setiap model berniat mencelakakan pengguna. Nadella menyoroti risiko saat sistem AI mendapat akses ke data sensitif dan kewenangan menjalankan tugas penting tanpa pengawasan yang memadai.

Model AI perlu dipisahkan dari kewenangan

Perangkat lunak tradisional umumnya memiliki jalur kode yang dapat ditelusuri untuk memahami tindakannya. Pada model AI, hubungan antara keluaran dan data pelatihan atau bobot model tidak selalu dapat dipetakan dengan cara serupa. Ketidakpastian itu menjadi lebih serius ketika perusahaan menyerahkan akses dan keputusan operasional kepada agen AI.

Nadella mengusulkan agar perusahaan tidak menggantungkan keamanan pada model atau janji penyedianya saja. Model yang hasilnya tidak selalu dapat diprediksi perlu dikelilingi rancangan sistem yang tegas, kendali manusia, serta prosedur operasional yang bisa diandalkan.

Intinya: kecerdasan dan kewenangan harus dipisahkan. Model boleh membantu menghasilkan rekomendasi atau mengerjakan tugas, tetapi aturan tentang data apa yang boleh diakses dan tindakan apa yang dapat dijalankan perlu berada di lapisan kontrol lain.

Dalam tulisan yang dikutip TechCrunch, Nadella menyebut perlunya menganggap model telah disusupi sejak awal dan membatasi dampaknya. Ia membandingkan mekanisme penghentian sistem dengan rem darurat: orang yang berwenang harus dapat menjeda atau mematikan model saat sistem sedang bekerja.

Pengawasan harus bekerja di luar model

Gagasan itu mengacu pada praktik keamanan perusahaan yang telah lama digunakan untuk mengelola akses orang dalam. Organisasi menetapkan identitas, membatasi hak akses, merekam aktivitas, dan membuat batas penahanan jika terjadi masalah. Nadella mendorong prinsip serupa diterapkan pada sistem AI, dengan pemisahan antara model dan perangkat yang mengatur tindakannya.

Ia juga menekankan pentingnya catatan aktivitas yang dapat dibaca manusia dan sulit diubah. Dokumentasi semacam itu membantu perusahaan menelusuri apa yang dilakukan model, kapan tindakan berlangsung, dan siapa yang memberi otorisasi. Pemeriksaan oleh model lain dapat menambah lapisan pengawasan, tetapi tidak menggantikan kontrol manusia maupun pencatatan yang dapat diperiksa.