LLMjacking Curi Akses AI Perusahaan, Tagihan Tembus US$100.000

Bagi perusahaan, dampaknya bukan hanya kejutan pada faktur cloud. Akses AI yang dicuri dapat mengganggu pengendalian anggaran, membuka peluang penyalahgunaan infrastruktur, dan membuat permintaan berbahaya tampak berasal dari layanan organisasi yang sah. Tim teknologi perlu mengawasi penggunaan akun dan layanan AI, bukan hanya mengamankan kata sandi atau jaringan.

LLMjacking juga membuka jalan untuk operasi lain

Sejumlah pelaku memanfaatkan akses curian untuk membangun layanan perantara yang menyamarkan asal permintaan. Dengan gerbang API sumber terbuka dan infrastruktur relay khusus, mereka dapat menggabungkan kredensial, mengukur pemakaian, serta menyamarkan dari mana permintaan model sebenarnya berasal.

Google turut mengamati pelaku yang menjalankan agen AI dan menyediakan proxy yang dapat diakses publik. Dalam salah satu operasi, penyerang memakai rangkaian proxy Node.js untuk menawarkan akses ke beberapa model AI dengan identitas D1337-KAIROS. Mereka juga memasang pintu belakang dalam kontainer, yang menghubungi model AI untuk menafsirkan instruksi dan menjalankan perintah secara lokal.

GTIG mengatakan satu penyelidikan menemukan dua kelompok operasi berbeda yang bekerja sama untuk menyusupi dan memonetisasi infrastruktur AI perusahaan. Temuan itu menunjukkan pencurian akses model dapat melibatkan pembagian tugas, mulai dari mencari kredensial hingga menjual atau menggunakan kapasitas yang berhasil dikuasai.

Google memperkirakan kelompok peretas akan makin memprioritaskan LLMjacking dibanding praktik pencurian sumber daya lainnya. Organisasi disarankan memantau perubahan pada akun dan layanan AI, serta memperlakukan aktivasi yang tidak sah sebagai insiden keamanan serius.

Perusahaan juga perlu membatasi hak akses setiap akun hanya pada kebutuhan pekerjaannya. Langkah itu dapat mengurangi ruang gerak penyerang jika kredensial berhasil dicuri. Google menekankan organisasi harus meningkatkan visibilitas terhadap platform LLM dan mendeteksi perubahan layanan tanpa izin sejak dini.