AI Berdaulat: Eks Bos NSO Desak Pemerintah Kurangi Ketergantungan

Ketika layanan AI dikelola perusahaan asing, data pemerintah dan akses terhadap model dapat bergantung pada keputusan penyedia. Shalev Hulio, mantan CEO sekaligus salah satu pendiri NSO Group, mendesak pemerintah mengembangkan AI berdaulat sendiri dan mengurangi ketergantungan pada perusahaan AI Amerika Serikat.

Dalam wawancara dengan Financial Times, Hulio mengatakan setiap pemerintah perlu memiliki model AI sendiri agar tidak kehilangan akses ke infrastruktur yang dianggapnya penting bagi keamanan nasional. Ia kini memimpin Dream, perusahaan pertahanan siber berbasis AI yang ikut menawarkan teknologi untuk membangun model pemerintah.

“Setiap pemerintah seharusnya memiliki model sendiri,” kata Hulio kepada Financial Times. Ia memperingatkan penyedia dapat menghentikan akses suatu hari, sementara AI sudah menjadi infrastruktur kritis.

AI berdaulat dan kendali atas infrastruktur

Gagasan AI berdaulat mengacu pada kemampuan suatu negara atau lembaga pemerintah mengembangkan dan menjalankan model AI dengan kendali lebih besar atas data serta infrastrukturnya. Dalam pendekatan yang ditawarkan Dream, model disesuaikan untuk kebutuhan pemerintah dan dilatih menggunakan data pelanggan.

Hulio menyebut pemerintah sebaiknya tidak menyerahkan data terkait keamanan nasional kepada perusahaan AI Amerika Serikat tanpa mempertimbangkan risikonya. Kekhawatirannya bukan hanya soal lokasi penyimpanan data. Ketergantungan pada penyedia eksternal juga dapat membuat layanan penting rentan terhadap perubahan kebijakan atau penghentian akses.

Ia menyarankan model khusus yang cakupannya lebih sempit, tetapi tetap mampu menangani kebutuhan tertentu dengan cepat. “Kami mengatakan kepada entitas di pemerintahan, Anda seharusnya memiliki model yang sangat khusus tetapi sangat cerdas, yang dapat berjalan sangat cepat dengan satu, dua, atau tiga GPU,” ujar Hulio kepada Financial Times.

Bagi pemerintah, pilihan itu membawa konsekuensi praktis. Model yang dirancang untuk tugas tertentu berpotensi lebih mudah disesuaikan dengan kebutuhan lembaga, sementara penggunaan data pelanggan dapat membantu penyempurnaan model. Namun, bahan sumber tidak merinci biaya penerapan, skema pengamanan data, atau evaluasi independen atas produk Dream.

Rekam jejak Pegasus membayangi seruan Hulio

Seruan Hulio datang dari sosok dengan latar yang kontroversial. Ia ikut mendirikan NSO Group, perusahaan Israel di balik Pegasus, perangkat lunak pengintai yang digunakan untuk menargetkan politisi, jurnalis, pemimpin bisnis, dan pihak lain di berbagai negara.

Menurut laporan TechRadar yang merangkum wawancara Financial Times, Pegasus dikaitkan dengan penyebaran pada ribuan perangkat melalui eksploitasi celah di WhatsApp. NSO Group juga pernah masuk daftar hitam pemerintah Amerika Serikat dan terus menerima kritik dari Perserikatan Bangsa-Bangsa serta Uni Eropa terkait penggunaan Pegasus.

Hulio membela produk perusahaan lamanya. Ia mengatakan pemerintah menggunakan produk NSO untuk mencegah serangan teror dan menyelamatkan banyak nyawa. Pernyataan itu disampaikannya kepada Financial Times, tetapi bahan sumber tidak menyertakan bukti atau perincian independen untuk mendukung klaim tersebut.

Latar ini penting saat menilai ajakan Hulio tentang keamanan. Pengalaman di industri siber dapat memberi sudut pandang soal ancaman dan kebutuhan pemerintah, tetapi rekam jejak Pegasus juga membuat pertanyaan tentang pengawasan, akuntabilitas, dan perlindungan warga tidak bisa dikesampingkan.

Dream menawarkan model untuk lembaga pemerintah

Hulio mendirikan Dream pada 2022 bersama Sebastian Kurz, mantan kanselir Austria. Perusahaan itu mula-mula berfokus pada perangkat pertahanan siber berbasis AI untuk pemerintah. Kini, portofolionya mencakup sistem pertahanan siber skala nasional, platform untuk menemukan kerentanan perangkat lunak, serta layanan yang membantu pemerintah menyiapkan model AI berdaulat.

Dream disebut berjasa mendeteksi serangan end-to-end otonom pertama di dunia. Dalam serangan itu, peretas China menggunakan model AI sumber terbuka untuk menemukan dan menghubungkan kerentanan, lalu menyusup ke lembaga pemerintah Taiwan, termasuk badan keselamatan nuklir. Klaim dan uraian peristiwa ini berasal dari bahan laporan TechRadar; rincian teknis tambahan tidak disertakan.

Perusahaan tersebut telah menjual produknya kepada lebih dari selusin negara di Eropa, Asia, dan Timur Tengah. Dream juga telah mengumpulkan pendanaan sebesar 400 juta dolar AS dan dinilai bernilai 3 miliar dolar AS pada awal tahun ini, menurut bahan sumber.

Angka itu menunjukkan ada permintaan dan modal besar di balik teknologi pertahanan siber Dream, tetapi belum menjawab bagaimana setiap negara menguji keamanan, mengawasi penggunaan, atau memastikan model tak memperluas pengumpulan data.

Bagi lembaga publik, keputusan membeli sistem seperti ini menyangkut lebih dari performa teknis: tata kelola data dan mekanisme pertanggungjawaban ikut dipertaruhkan.

Perdebatan berikutnya akan berpusat pada cara pemerintah membangun kendali tanpa mengabaikan pengawasan publik. Dream menawarkan model dan infrastruktur untuk kebutuhan tersebut; bagaimana negara-negara menilai serta menerapkannya akan menentukan batas antara kemandirian teknologi dan kekuasaan pengawasan.