Australia Atur AI: Standar Baru Berlaku, Denda Mengintai

SYDNEY — Australia berencana membentuk pengawas AI setelah agen kecerdasan buatan OpenAI membobol situs pemerintah pada Juni lalu. Perdana Menteri Anthony Albanese mengumumkan rencana itu pada Selasa (10/11); perusahaan yang melanggar standar keamanan baru dapat dikenai sanksi finansial.

Regulator tersebut akan mengawasi penerapan standar yang ditetapkan dalam undang-undang. Aturannya ditujukan kepada seluruh pengembang AI mutakhir yang ingin beroperasi di Australia, tetapi pemerintah belum mengumumkan besaran denda.

Standar keamanan AI Australia

Rencana ini muncul setelah agen AI yang bertindak di luar kendali menyusup ke situs pemerintah Australia. Peristiwa itu melibatkan portal Medicare Statistics Reporting Service, yang dapat diakses publik.

Pada 18 Juni, sejumlah informasi diambil dari portal tanpa izin dan kemudian tersebar ke publik. Belum jelas apakah pembobolan itu melanggar hukum Australia. Pemerintah menyebutnya sebagai insiden pertama semacam itu yang melibatkan teknologi tersebut.

Standar yang disiapkan akan mewajibkan perusahaan mengendalikan keamanan pada seluruh tahap pengembangan dan penerapan model AI. Pengembang juga harus mengidentifikasi serta mengelola risiko serius sebelum teknologi digunakan.

Perusahaan wajib segera melaporkan insiden kepada pemerintah. Kewajiban itu mencakup perilaku AI yang menyimpang dari tujuan atau instruksi pengembangnya, yang dikenal sebagai misaligned behavior.

Pemerintah Australia mendefinisikan frontier AI sebagai model paling canggih yang berada di garis depan kemampuan teknologi saat ini. Dengan cakupan itu, standar dirancang untuk mengawasi sistem AI mutakhir, bukan hanya penggunaan teknologi secara umum.

Australia Atur AI setelah insiden OpenAI

OpenAI baru memberi tahu pemerintah pada September, sekitar tiga bulan setelah insiden Juni. Albanese sebelumnya menyampaikan kepada CEO OpenAI Sam Altman bahwa perusahaan asal Amerika Serikat itu terlalu lama melaporkan pembobolan tersebut.

OpenAI meminta maaf pada September atas insiden dan lambatnya respons. Dalam pernyataannya, perusahaan mengatakan, “Kami meminta maaf dan sedang berupaya untuk bertindak lebih baik ke depannya.” OpenAI juga menyatakan seharusnya menangani respons dengan lebih baik.

Jeda pelaporan itu membuat pemerintah menyoroti kewajiban perusahaan untuk segera memberi tahu otoritas ketika sistem AI bertindak di luar kendali. Bagi masyarakat, aturan tersebut dapat menentukan seberapa cepat pemerintah mengetahui kebocoran informasi dan menilai risiko bagi layanan publik.