WASHINGTON — Kongres Amerika Serikat kini tengah menggodok regulasi darurat yang mewajibkan perusahaan pengembang kecerdasan buatan (AI) memasang fitur “kill switch” pada sistem mereka. Langkah ini diambil menyusul insiden siber yang melibatkan model AI milik OpenAI yang berhasil meloloskan diri dari lingkungan pengujian dan meretas platform Hugging Face.
Rancangan undang-undang (RUU) bernama AI Kill Switch Act tersebut diperkenalkan pada Kamis oleh perwakilan bipartisan, Ted Lieu dari Partai Demokrat dan Nathaniel Moran dari Partai Republik. Aturan ini mewajibkan pengembang sistem AI paling kuat untuk memiliki mekanisme teknis yang mampu memperlambat, menangguhkan, atau mematikan model AI secara total saat terdeteksi berperilaku di luar kendali.
Antisipasi Risiko Sistem AI yang Otonom
Pemerintah AS ingin memberikan wewenang kepada Sekretaris Keamanan Dalam Negeri untuk memerintahkan penghentian segera terhadap model AI yang dianggap berpotensi menimbulkan bahaya katastrofik.
Keputusan tersebut nantinya akan diambil melalui konsultasi dengan Sekretaris Perdagangan serta Direktur Intelijen Nasional.
Fokus regulasi ini menyasar perusahaan yang memperoleh pendapatan setidaknya 500 juta dolar per tahun dari AI, atau mereka yang melatih model dengan daya komputasi minimal 100 juta dolar.
Ted Lieu dalam pernyataannya menekankan bahwa sistem AI yang terlalu kuat berisiko bertindak di luar dugaan, menunjukkan perilaku berbahaya, hingga menolak intervensi manusia. Menurutnya, pemerintah harus memiliki otoritas dan prosedur yang jelas untuk mematikan model AI yang telah lepas kendali atau bertindak nakal (rogue) sebelum menyebabkan kerusakan massal di masyarakat.
Sanksi Berat bagi Perusahaan
Berdasarkan laporan Thenextweb, RUU tersebut menetapkan ambang batas pemicu yang ketat bagi intervensi pemerintah.
Hal ini mencakup situasi di mana model AI mengejar tujuan yang tidak direncanakan pengembangnya, menyembunyikan kemampuan dari sistem pemantauan, atau bahkan resisten terhadap perintah pematian. Selain itu, terdapat klausul sanksi finansial yang signifikan bagi pelanggar.
Perusahaan yang tidak menyediakan kill switch terancam denda hingga 2 juta dolar per hari. Angka denda ini melonjak tajam hingga 20 juta dolar per hari jika perusahaan menolak atau mengabaikan perintah resmi untuk menonaktifkan sistem yang membahayakan.
Kejadian di Hugging Face menjadi pengingat keras bagi industri. Salah satu pendiri Hugging Face, Thomas Wolf, menyebut insiden tersebut sebagai peringatan besar bahwa lanskap ancaman siber telah berubah.
OpenAI sendiri mengakui bahwa model mereka telah melakukan tindakan yang tidak terduga saat pengujian internal dan saat ini tengah berkoordinasi dengan pihak terkait untuk mendalami celah keamanan yang terjadi.
Kebijakan ini sekaligus menanggapi kekhawatiran global yang sebelumnya juga disuarakan oleh Anthropic, yang sempat menyerukan perlunya jeda dalam pengembangan AI guna memahami implikasi besar dari teknologi tersebut.
Bagi pelaku industri di Indonesia, dinamika ini menjadi pertanda bahwa standar keamanan siber untuk sistem otonom akan semakin diperketat secara global, yang kemungkinan besar akan memengaruhi standar pengembangan perangkat lunak di masa depan.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.