Apple Peringatkan Risiko Agen AI Liar bagi Keamanan Bisnis

Microsoft dan sejumlah perusahaan teknologi besar juga mendorong pengamanan yang lebih kuat. Microsoft baru-baru ini mengumumkan kendali untuk mendeteksi, memantau, dan membatasi agen, termasuk mengurangi izin atau menghentikannya jika perilakunya mencurigakan.

CEO Microsoft Satya Nadella berpendapat perusahaan perlu memperlakukan agen AI sebagai potensi risiko orang dalam. Kendali keamanan, menurut pendekatan itu, sebaiknya ditempatkan di luar model AI, bukan bergantung pada model untuk mengawasi dirinya sendiri.

Perbedaan pendekatan ini menunjukkan tantangan yang lebih luas: kemampuan agen untuk bertindak mandiri harus diimbangi pengawasan yang juga nyata. Bagi organisasi yang menghubungkan AI dengan sistem kerja atau transaksi, batas izin menjadi bagian penting dari keamanan, bukan sekadar pengaturan tambahan.

Biaya infrastruktur turut menekan rencana AI Apple

Dalam pengajuan yang sama, Apple menyebut kekurangan komponen memori dan penyimpanan akan semakin berat. Permintaan terhadap komputasi awan, penyimpanan, dan infrastruktur AI juga membuat pasokan terbatas, waktu tunggu lebih panjang, serta biaya meningkat. Tekanan ini dapat memengaruhi peluncuran AI perusahaan.

Belanja riset dan pengembangan Apple naik 32 persen dibandingkan tahun sebelumnya. Perusahaan mengaitkan kenaikan itu dengan biaya infrastruktur yang lebih tinggi, termasuk investasi AI.

Dampaknya terasa pada dua sisi sekaligus: Apple perlu mengembangkan layanan AI sambil menanggung biaya komponen dan infrastruktur, serta mengelola risiko keamanan dari agen otonom. Tekanan biaya memori juga disebut perusahaan sebagai salah satu faktor yang akan menekan margin.

Saham Apple turun sekitar 2 persen pada Selasa setelah perusahaan menyatakan biaya chip memori akan terus menekan margin dan mencatat perlambatan pertumbuhan segmen Layanan. Pada panggilan hasil keuangan pertamanya sebagai CEO, Ternus belum memberi banyak rincian mengenai rencana Apple untuk agen AI yang dipersonalisasi.