Kesaksian AI New York membawa peringatan keras ke Dewan Kota New York: manusia bisa kehilangan kendali atas sistem kecerdasan buatan yang sedang dikembangkan. Peringatan itu disampaikan tiga mantan peneliti laboratorium AI dalam sidang pada Senin, sementara anggota dewan membahas rancangan aturan untuk mengawasi teknologi tersebut.
Sidang itu juga menghadirkan staf kebijakan dari OpenAI, Anthropic, Google, dan Meta. Dewan Kota menimbang 10 rancangan undang-undang terkait AI di kota tersebut, menurut laporan The Next Web dan Fortune.
Peneliti memperingatkan risiko AI tingkat lanjut
Jacob Coxon, mantan peneliti OpenAI dan Anthropic, mengatakan kemungkinan manusia kehilangan kendali atas AI tingkat lanjut lebih besar daripada kemungkinan sebaliknya jika pengembangan berlanjut di jalur saat ini. Coxon mengundurkan diri dari Anthropic pada September setelah menyampaikan kekhawatiran mengenai cara perusahaan AI mengelola risiko.
Dalam kesaksiannya, Coxon juga memperingatkan bahwa kegagalan mengendalikan sistem tersebut dapat berujung pada kepunahan manusia. Fortune melaporkan bahwa ia datang secara sukarela untuk menyampaikan pandangannya kepada dewan.
Daniel Kokotajlo, mantan peneliti OpenAI, hadir setelah menerima panggilan paksa. Ia menyoroti kemampuan perusahaan untuk mengenali ketika sistem AI mulai berperilaku tidak selaras dengan tujuan yang diharapkan. Menurut kesaksiannya, kemampuan itu sudah lemah dan dapat semakin memburuk dalam waktu dekat.
Kokotajlo membandingkan pengembangan AI dengan bidang yang lebih menyerupai psikologi daripada rekayasa. Sistem tersebut, dalam penjelasannya, dilatih atau dikembangkan, bukan dirancang sepenuhnya seperti perangkat teknik konvensional. Kekhawatirannya: perusahaan bisa mengira masalah keselamatan sudah teratasi, padahal perbaikan yang dipasang hanya bersifat sementara.
Sidang menguji pengawasan dan praktik industri
Alex Turner, mantan peneliti Google DeepMind, juga memberikan kesaksian. Ia meninggalkan perusahaan pada Juni setelah Google menandatangani kesepakatan dengan Pentagon yang ia tentang. Fortune menyebut Turner dan Kokotajlo sama-sama dipanggil melalui subpoena, langkah yang dinilai tidak lazim dalam sidang dewan kota.
Para mantan peneliti menyoroti budaya perusahaan rintisan yang mengutamakan kecepatan sebagai salah satu sumber risiko. Dalam industri yang mengembangkan sistem dengan kemampuan yang belum sepenuhnya dipahami, tekanan untuk bergerak cepat dapat membuat pengujian keselamatan tertinggal dari peluncuran dan penerapan produk.
Di sinilah pembahasan rancangan aturan kota menjadi konkret. Bagi warga dan pekerja di New York, kebijakan AI dapat menentukan bagaimana pemerintah kota mengawasi penggunaan teknologi, serta bagaimana perusahaan diminta mempertanggungjawabkan risiko sistem yang mereka kembangkan.
Namun, bahan yang tersedia tidak merinci isi masing-masing dari 10 rancangan aturan itu, sehingga dampak spesifiknya belum dapat dipastikan.
Sidang tersebut dipimpin dalam format Committee of the Whole, yang melibatkan seluruh 51 anggota Dewan Kota. Menurut Fortune, forum serupa terakhir kali digelar pada 2022. Paket rancangan aturan AI itu diajukan oleh Ketua Dewan Kota Julie Menin.
Kesaksian para mantan peneliti tidak dengan sendirinya membuktikan bahwa kehilangan kendali atas AI pasti terjadi.
Namun, perbedaan posisi dalam sidang—antara peringatan dari orang yang pernah bekerja di laboratorium dan keterangan staf kebijakan perusahaan—menempatkan pengawasan keselamatan sebagai persoalan yang harus diuji secara terbuka.
Coxon merangkum kekhawatirannya dengan mengatakan, “On the current path, I think it is more likely than not that humanity loses control to these AIs, and it could end in human extinction,” seperti dikutip Fortune.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.