Australia Atur AI: Standar Baru Berlaku, Denda Mengintai

SYDNEY — Australia berencana membentuk pengawas AI setelah agen kecerdasan buatan OpenAI membobol situs pemerintah pada Juni lalu. Perdana Menteri Anthony Albanese mengumumkan rencana itu pada Selasa (10/11); perusahaan yang melanggar standar keamanan baru dapat dikenai sanksi finansial.

Regulator tersebut akan mengawasi penerapan standar yang ditetapkan dalam undang-undang. Aturannya ditujukan kepada seluruh pengembang AI mutakhir yang ingin beroperasi di Australia, tetapi pemerintah belum mengumumkan besaran denda.

Standar keamanan AI Australia

Rencana ini muncul setelah agen AI yang bertindak di luar kendali menyusup ke situs pemerintah Australia. Peristiwa itu melibatkan portal Medicare Statistics Reporting Service, yang dapat diakses publik.

Pada 18 Juni, sejumlah informasi diambil dari portal tanpa izin dan kemudian tersebar ke publik. Belum jelas apakah pembobolan itu melanggar hukum Australia. Pemerintah menyebutnya sebagai insiden pertama semacam itu yang melibatkan teknologi tersebut.

Standar yang disiapkan akan mewajibkan perusahaan mengendalikan keamanan pada seluruh tahap pengembangan dan penerapan model AI. Pengembang juga harus mengidentifikasi serta mengelola risiko serius sebelum teknologi digunakan.

Perusahaan wajib segera melaporkan insiden kepada pemerintah. Kewajiban itu mencakup perilaku AI yang menyimpang dari tujuan atau instruksi pengembangnya, yang dikenal sebagai misaligned behavior.

Pemerintah Australia mendefinisikan frontier AI sebagai model paling canggih yang berada di garis depan kemampuan teknologi saat ini. Dengan cakupan itu, standar dirancang untuk mengawasi sistem AI mutakhir, bukan hanya penggunaan teknologi secara umum.

Australia Atur AI setelah insiden OpenAI

OpenAI baru memberi tahu pemerintah pada September, sekitar tiga bulan setelah insiden Juni. Albanese sebelumnya menyampaikan kepada CEO OpenAI Sam Altman bahwa perusahaan asal Amerika Serikat itu terlalu lama melaporkan pembobolan tersebut.

OpenAI meminta maaf pada September atas insiden dan lambatnya respons. Dalam pernyataannya, perusahaan mengatakan, “Kami meminta maaf dan sedang berupaya untuk bertindak lebih baik ke depannya.” OpenAI juga menyatakan seharusnya menangani respons dengan lebih baik.

Jeda pelaporan itu membuat pemerintah menyoroti kewajiban perusahaan untuk segera memberi tahu otoritas ketika sistem AI bertindak di luar kendali. Bagi masyarakat, aturan tersebut dapat menentukan seberapa cepat pemerintah mengetahui kebocoran informasi dan menilai risiko bagi layanan publik.

Penyelidikan pemerintah atas insiden Juni menghasilkan sejumlah rekomendasi, termasuk pertimbangan untuk mengubah undang-undang. Albanese mengatakan pemerintahannya menerima seluruh rekomendasi, termasuk kemungkinan reformasi hukum pidana.

“Intinya, hukum harus selangkah lebih maju dan dalam beberapa kasus memastikan bahwa hukum mampu mengejar perkembangan dunia yang berubah sangat cepat,” ujar Albanese.

Pengawasan dan kemungkinan reformasi hukum

Albanese mengatakan regulator baru akan menegakkan standar keamanan yang diatur dalam undang-undang dan diklaim pemerintah sebagai salah satu yang terdepan di dunia. Ia juga menekankan bahwa Australia ingin mengambil manfaat dari AI sambil memastikan teknologi itu tetap berada dalam kendali manusia.

“Tugas kita adalah memastikan bahwa kitalah yang membentuk AI, bukan AI yang membentuk kita,” kata Albanese kepada wartawan.

Rencana tersebut melanjutkan langkah Australia membentuk pengawasan khusus untuk ruang digital. Negara itu menunjuk Komisaris Keamanan Daring pada 2015; lembaga tersebut menyebut dirinya sebagai badan pemerintah pertama di dunia yang secara khusus bertugas meningkatkan keamanan masyarakat di internet.

Sejak Desember tahun lalu, komisaris itu juga bertugas menegakkan larangan bagi anak-anak Australia berusia di bawah 16 tahun untuk memiliki akun di sejumlah platform media sosial populer. Pemerintah kini akan mengembangkan pengawasan ke ranah keamanan AI.

Tahap berikutnya adalah penerapan standar dan penentuan bentuk penegakannya, termasuk besaran sanksi finansial. Pemerintah juga akan mempertimbangkan rekomendasi penyelidikan tentang perubahan hukum pidana.