Satya Nadella Minta Semua Model AI Dianggap Bisa Dibobol

JAKARTA — Satya Nadella meminta perusahaan memperlakukan model AI canggih sebagai sistem yang berpotensi telah disusupi. CEO Microsoft itu menyampaikan gagasan tersebut dalam tulisan di X berjudul “Models as Insider Risks in the Super Intelligence Era”, sebagaimana dilaporkan The Verge dan sejumlah media teknologi.

Pesannya bukan bahwa setiap model berniat mencelakakan pengguna. Nadella menyoroti risiko saat sistem AI mendapat akses ke data sensitif dan kewenangan menjalankan tugas penting tanpa pengawasan yang memadai.

Model AI perlu dipisahkan dari kewenangan

Perangkat lunak tradisional umumnya memiliki jalur kode yang dapat ditelusuri untuk memahami tindakannya. Pada model AI, hubungan antara keluaran dan data pelatihan atau bobot model tidak selalu dapat dipetakan dengan cara serupa. Ketidakpastian itu menjadi lebih serius ketika perusahaan menyerahkan akses dan keputusan operasional kepada agen AI.

Nadella mengusulkan agar perusahaan tidak menggantungkan keamanan pada model atau janji penyedianya saja. Model yang hasilnya tidak selalu dapat diprediksi perlu dikelilingi rancangan sistem yang tegas, kendali manusia, serta prosedur operasional yang bisa diandalkan.

Intinya: kecerdasan dan kewenangan harus dipisahkan. Model boleh membantu menghasilkan rekomendasi atau mengerjakan tugas, tetapi aturan tentang data apa yang boleh diakses dan tindakan apa yang dapat dijalankan perlu berada di lapisan kontrol lain.

Dalam tulisan yang dikutip TechCrunch, Nadella menyebut perlunya menganggap model telah disusupi sejak awal dan membatasi dampaknya. Ia membandingkan mekanisme penghentian sistem dengan rem darurat: orang yang berwenang harus dapat menjeda atau mematikan model saat sistem sedang bekerja.

Pengawasan harus bekerja di luar model

Gagasan itu mengacu pada praktik keamanan perusahaan yang telah lama digunakan untuk mengelola akses orang dalam. Organisasi menetapkan identitas, membatasi hak akses, merekam aktivitas, dan membuat batas penahanan jika terjadi masalah. Nadella mendorong prinsip serupa diterapkan pada sistem AI, dengan pemisahan antara model dan perangkat yang mengatur tindakannya.

Ia juga menekankan pentingnya catatan aktivitas yang dapat dibaca manusia dan sulit diubah. Dokumentasi semacam itu membantu perusahaan menelusuri apa yang dilakukan model, kapan tindakan berlangsung, dan siapa yang memberi otorisasi. Pemeriksaan oleh model lain dapat menambah lapisan pengawasan, tetapi tidak menggantikan kontrol manusia maupun pencatatan yang dapat diperiksa.

Gagasan ini penting bagi perusahaan yang memakai AI untuk menangani informasi internal atau menjalankan tugas operasional. Jika model keliru, atau aksesnya disalahgunakan, dampaknya tidak berhenti pada jawaban yang salah di layar. Sistem dapat memengaruhi keputusan dan pekerjaan yang menjadi tanggung jawab organisasi.

Bagi pengguna di Indonesia, pendekatan tersebut relevan setiap kali layanan AI diberi akses ke dokumen kantor, data pelanggan, atau perangkat kerja. Perusahaan perlu memastikan bahwa aksesnya terbatas, tindakannya tercatat, dan ada orang yang bisa menghentikan proses. Kepercayaan pada keluaran AI saja tidak cukup untuk menjamin keamanan.

Seruan muncul saat industri membahas keselamatan AI

Media pembanding melaporkan Nadella menyampaikan pandangannya melalui unggahan di X pada Sabtu, tetapi bahan yang tersedia tidak mencantumkan tanggal kalender yang dapat dipastikan. Karena itu, tanggal spesifik tidak dicantumkan di sini.

Seruan tersebut hadir ketika pelaku industri dan peneliti memperdebatkan cara mengendalikan sistem AI yang makin cakap. CNBC menempatkan gagasan Nadella dalam perbincangan lebih luas tentang pengamanan dan apakah pengembangan teknologi perlu berjalan lebih hati-hati.

Namun, inti usulannya berfokus pada rekayasa: kendali eksternal, pembatasan, bukti aktivitas, dan kemampuan manusia untuk menghentikan sistem.

Belum ada rincian dalam bahan sumber mengenai standar industri baru atau jadwal penerapannya. Langkah berikutnya bergantung pada apakah perusahaan menerjemahkan prinsip itu menjadi aturan akses, prosedur pemantauan, dan tombol penghentian yang benar-benar dapat digunakan ketika model bekerja.