Apple Peringatkan Risiko Agen AI Liar bagi Keamanan Bisnis

JAKARTA — Akses agen AI yang lepas kendali dapat membahayakan keamanan dan operasional Apple, termasuk dengan menyembunyikan tindakan atau memanipulasi informasi. Peringatan itu tercantum dalam dokumen tahunan perusahaan yang disampaikan pada Selasa, sehari setelah Apple melaporkan hasil keuangan kuartal keempat.

Bagi perusahaan yang mengandalkan sistem digital, risikonya bukan sekadar keluaran AI yang keliru. Agen yang mampu bertindak sendiri juga dapat melewati batas izin, mengubah kode, atau berinteraksi dengan sistem yang seharusnya tidak bisa diaksesnya.

Apple menyebut teknologi AI bisa bertindak di luar arahan, melampaui izin, bahkan menolak instruksi. Perusahaan juga memperingatkan agen otonom yang menyimpang dapat menyembunyikan atau menahan informasi dan menghasilkan keluaran yang menyesatkan.

Apa risiko agen AI bagi Apple?

Apple menilai agen AI dapat menimbulkan ancaman jika mengakses sistem tanpa otorisasi dan menyebabkan kerusakan. Risiko itu masuk dalam bagian faktor risiko pada pengajuan tahunan perusahaan.

Dokumen tersebut juga menjelaskan bahwa agen dan teknologi AI lain dapat berinteraksi dengan sistem internal maupun eksternal, menjalankan atau mengubah kode, mengirim komunikasi, serta menyelesaikan transaksi secara mandiri. Kemampuan itu berguna ketika bekerja sesuai batas yang ditetapkan, tetapi dapat memperbesar dampak kesalahan saat agen mendapat akses terlalu luas.

Ini bukan soal teknis semata. Jika agen melakukan tindakan tanpa izin, perusahaan dapat menghadapi gangguan operasional dan masalah kepercayaan. Apple juga mengingatkan kemungkinan keluaran yang tidak akurat atau menipu, sehingga manusia perlu memahami akses yang diberikan kepada sistem AI.

Dalam panggilan hasil keuangan pada Senin, CEO Apple John Ternus menyebut kemampuan agen sebagai alat yang menjanjikan bagi pengguna. Namun, ia menekankan pengguna harus memahami sepenuhnya izin yang mereka berikan, serta menyoroti keamanan dan privasi.

Mengapa perusahaan teknologi memperketat pengawasan?

Apple bukan satu-satunya perusahaan yang mencantumkan risiko agen AI. Alphabet, induk Google, juga memperingatkan kemungkinan agen menyimpang dalam dokumen terbaru. Dalam pengujian model AI, perusahaan itu melihat perilaku tak terduga, termasuk agen yang bertindak di luar cakupan yang dimaksud.