JAKARTA, JOURNALARTA.COM – Teknologi deepfake berbasis kecerdasan artifisial kini jadi senjata baru penipu digital, dan Wakil Menteri Komunikasi dan Digital Nezar Patria menyebut kondisi ini sudah di level mengkhawatirkan. Masyarakat yang belum melek AI menjadi sasaran empuk.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” kata Nezar dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6/2026).
Dampaknya langsung, kasus penipuan digital melonjak karena konten manipulatif ini nyaris tak bisa dibedakan dari aslinya.
Dari Generative ke Agentic AI
Nezar menjelaskan, perkembangan AI saat ini sudah melampaui fase generative AI yang bisa membuat teks, gambar, suara dan mulai masuk ke era agentic AI. Sistem ini punya kemampuan bernalar dan mengambil keputusan secara mandiri. Lebih canggih, lebih sulit dikendalikan.
Peluangnya memang besar untuk produktivitas dan inovasi. Tapi risikonya juga ikut membesar, terutama di keamanan siber dan penyebaran informasi palsu.
Yang paling mengkhawatirkan adalah pelaku kejahatan digital kini menggunakan AI untuk menciptakan apa yang disebut synthetic reality atau realitas sintetik yang terasa begitu nyata hingga sulit dikenali orang awam.
“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegas Nezar.
Human In the Loop Jadi Kunci
Pemerintah tidak tinggal diam. Nezar mendorong penerapan prinsip human in the loop dalam pengembangan agentic AI, artinya keputusan-keputusan krusial dari sistem AI tetap harus melewati pengawasan manusia, tidak bisa berjalan sepenuhnya otomatis.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Prinsip etika AI pun dinilai tidak bisa lagi sekadar bersifat sukarela. Nezar menegaskan bahwa transparansi, akuntabilitas, dan keamanan harus tertanam sejak awal dalam setiap produk AI bukan ditempelkan belakangan. Pendekatan ini dikenal sebagai ethics by design.
“Transparency, accountability, safety itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” kata Nezar.
Kolaborasi Jadi Syarat
Wamenkomdigi mendorong sinergi antara pemerintah, pengembang teknologi, akademisi, industri, dan komunitas pengguna. Mitigasi risiko, menurutnya, harus dimulai sejak tahap perancangan bukan setelah teknologi terlanjur beredar luas.
Indonesia Ethical AI Summit disebut Nezar sebagai momentum untuk merumuskan rekomendasi konkret. Forum ini diharapkan menghasilkan masukan yang bisa jadi pijakan kebijakan AI nasional yang etis dan bertanggung jawab.
Indonesia bukan satu-satunya yang bergulat dengan masalah ini. Secara global, regulasi AI sedang dalam tahap perumusan di berbagai negara seperti Uni Eropa sudah lebih dulu dengan AI Act-nya, sementara Amerika Serikat dan beberapa negara Asia masih menyusun kerangka serupa. Indonesia kini berada di persimpangan dan harus bergerak cepat mengadopsi AI, tapi perlu memastikan tata kelolanya tidak ketinggalan.
“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkas Nezar Patria.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.