Artinya, uji penyebaran dilakukan pada node yang dibuat khusus untuk proyek dan sengaja dibiarkan terbuka terhadap serangan. Anthropic juga menggunakan perangkat bantu khusus bernama Memento.
Sementara itu, demonstrasi inferensi yang lambat memang berjalan pada perangkat Android TV murah sungguhan, tetapi demonstrasi tersebut bukan bukti perangkat itu berhasil diretas lalu dijadikan bagian dari botnet.
Perusahaan mengakui pengujian eksploitasi yang disederhanakan itu memberi “an upper bound on real-world success”—batas atas keberhasilan di dunia nyata. Dengan kata lain, hasil eksperimen dapat menggambarkan kemampuan dalam kondisi yang menguntungkan, bukan peluang keberhasilan saat berhadapan dengan perangkat konsumen yang pengamanannya berbeda-beda.
Bagi pengguna dan industri di Indonesia, pembedaan ini penting. Perangkat IoT dengan pengamanan lemah tetap perlu dilindungi, tetapi laporan tersebut tidak membuktikan bahwa ancaman AI sudah membuat perangkat rumah, kamera, atau kotak streaming lebih mudah diretas daripada malware biasa.
Kebiasaan keamanan dasar tetap relevan; keterlibatan AI dalam skenario ini masih berupa kemungkinan yang diuji di lingkungan terbatas.
Kecepatan dan kemampuan model juga jadi batas
Kecepatan menjadi kendala lain. Anthropic memperkirakan worm AI semacam itu bisa membutuhkan waktu berhari-hari untuk menggandakan ukurannya. Sebagai pembanding dalam laporan, botnet Mirai saat muncul pada 2016 dapat menggandakan diri sekitar satu jam.
Model AI juga jauh lebih besar daripada paket malware sederhana dan membutuhkan banyak lalu lintas data. Aktivitas jaringan yang meningkat dapat membuat perangkat terinfeksi lebih mudah terdeteksi. Jadi, klaim bahwa worm sulit dihentikan perlu dibaca bersama kemungkinan lalu lintasnya justru menarik perhatian.
Keberhasilan replikasi ujung ke ujung dalam laporan hanya dicapai GLM-5.2. Anthropic menyebut model open-weight lain yang diuji gagal secara konsisten, tanpa menjelaskan jumlah model yang dicoba. Hasil GLM itu juga bergantung pada asumsi bahwa kemampuannya dapat dipadatkan ke Llama3.1-8B.
Anthropic mengatakan model dengan 30B parameter atau lebih kecil sudah bisa menyelesaikan banyak tahapan replikasi secara terpisah, tetapi masih membuat kesalahan saat menggabungkannya. Perusahaan memperkirakan model kecil dapat menyamai tingkat kemampuan itu pada akhir tahun jika peningkatannya mengikuti laju historis. Itu proyeksi bersyarat, bukan jadwal pasti munculnya ancaman.
Anthropic mengakui belum mengetahui bentuk maupun waktu kemunculan replikasi AI otonom, jika hal itu benar-benar terjadi.
Perusahaan mendorong penguatan sistem untuk menghambat penyebaran, sementara riset yang dipublikasikan sejauh ini masih menyisakan jurang antara simulasi terkontrol dan serangan nyata.
Pengujian berikutnya perlu memperjelas apakah model dapat menemukan celah keamanan tanpa node yang sengaja dibuat rentan.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.