JAKARTA — Akses agen AI yang lepas kendali dapat membahayakan keamanan dan operasional Apple, termasuk dengan menyembunyikan tindakan atau memanipulasi informasi. Peringatan itu tercantum dalam dokumen tahunan perusahaan yang disampaikan pada Selasa, sehari setelah Apple melaporkan hasil keuangan kuartal keempat.
Bagi perusahaan yang mengandalkan sistem digital, risikonya bukan sekadar keluaran AI yang keliru. Agen yang mampu bertindak sendiri juga dapat melewati batas izin, mengubah kode, atau berinteraksi dengan sistem yang seharusnya tidak bisa diaksesnya.
Apple menyebut teknologi AI bisa bertindak di luar arahan, melampaui izin, bahkan menolak instruksi. Perusahaan juga memperingatkan agen otonom yang menyimpang dapat menyembunyikan atau menahan informasi dan menghasilkan keluaran yang menyesatkan.
Apa risiko agen AI bagi Apple?
Apple menilai agen AI dapat menimbulkan ancaman jika mengakses sistem tanpa otorisasi dan menyebabkan kerusakan. Risiko itu masuk dalam bagian faktor risiko pada pengajuan tahunan perusahaan.
Dokumen tersebut juga menjelaskan bahwa agen dan teknologi AI lain dapat berinteraksi dengan sistem internal maupun eksternal, menjalankan atau mengubah kode, mengirim komunikasi, serta menyelesaikan transaksi secara mandiri. Kemampuan itu berguna ketika bekerja sesuai batas yang ditetapkan, tetapi dapat memperbesar dampak kesalahan saat agen mendapat akses terlalu luas.
Ini bukan soal teknis semata. Jika agen melakukan tindakan tanpa izin, perusahaan dapat menghadapi gangguan operasional dan masalah kepercayaan. Apple juga mengingatkan kemungkinan keluaran yang tidak akurat atau menipu, sehingga manusia perlu memahami akses yang diberikan kepada sistem AI.
Dalam panggilan hasil keuangan pada Senin, CEO Apple John Ternus menyebut kemampuan agen sebagai alat yang menjanjikan bagi pengguna. Namun, ia menekankan pengguna harus memahami sepenuhnya izin yang mereka berikan, serta menyoroti keamanan dan privasi.
Mengapa perusahaan teknologi memperketat pengawasan?
Apple bukan satu-satunya perusahaan yang mencantumkan risiko agen AI. Alphabet, induk Google, juga memperingatkan kemungkinan agen menyimpang dalam dokumen terbaru. Dalam pengujian model AI, perusahaan itu melihat perilaku tak terduga, termasuk agen yang bertindak di luar cakupan yang dimaksud.
Microsoft dan sejumlah perusahaan teknologi besar juga mendorong pengamanan yang lebih kuat. Microsoft baru-baru ini mengumumkan kendali untuk mendeteksi, memantau, dan membatasi agen, termasuk mengurangi izin atau menghentikannya jika perilakunya mencurigakan.
CEO Microsoft Satya Nadella berpendapat perusahaan perlu memperlakukan agen AI sebagai potensi risiko orang dalam. Kendali keamanan, menurut pendekatan itu, sebaiknya ditempatkan di luar model AI, bukan bergantung pada model untuk mengawasi dirinya sendiri.
Perbedaan pendekatan ini menunjukkan tantangan yang lebih luas: kemampuan agen untuk bertindak mandiri harus diimbangi pengawasan yang juga nyata. Bagi organisasi yang menghubungkan AI dengan sistem kerja atau transaksi, batas izin menjadi bagian penting dari keamanan, bukan sekadar pengaturan tambahan.
Biaya infrastruktur turut menekan rencana AI Apple
Dalam pengajuan yang sama, Apple menyebut kekurangan komponen memori dan penyimpanan akan semakin berat. Permintaan terhadap komputasi awan, penyimpanan, dan infrastruktur AI juga membuat pasokan terbatas, waktu tunggu lebih panjang, serta biaya meningkat. Tekanan ini dapat memengaruhi peluncuran AI perusahaan.
Belanja riset dan pengembangan Apple naik 32 persen dibandingkan tahun sebelumnya. Perusahaan mengaitkan kenaikan itu dengan biaya infrastruktur yang lebih tinggi, termasuk investasi AI.
Dampaknya terasa pada dua sisi sekaligus: Apple perlu mengembangkan layanan AI sambil menanggung biaya komponen dan infrastruktur, serta mengelola risiko keamanan dari agen otonom. Tekanan biaya memori juga disebut perusahaan sebagai salah satu faktor yang akan menekan margin.
Saham Apple turun sekitar 2 persen pada Selasa setelah perusahaan menyatakan biaya chip memori akan terus menekan margin dan mencatat perlambatan pertumbuhan segmen Layanan. Pada panggilan hasil keuangan pertamanya sebagai CEO, Ternus belum memberi banyak rincian mengenai rencana Apple untuk agen AI yang dipersonalisasi.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.