Keunggulan AI Bertumpu pada Kepercayaan, Bukan Kecepatan

Kepercayaan AI, bukan kecepatan meluncurkan model, akan menentukan organisasi mana yang mampu memperluas penggunaan kecerdasan buatan secara berkelanjutan. Pandangan itu disampaikan dalam artikel opini tentang AI yang bertanggung jawab, terutama di sektor keuangan yang mengelola data, keputusan, dan uang.

Artikel tersebut menilai fase awal adopsi AI banyak diisi uji coba dan proyek percontohan. Namun, keberhasilan di lingkungan terbatas belum menjamin teknologi yang sama siap digunakan dalam proses kerja sehari-hari atau berhadapan langsung dengan nasabah.

Model AI kini makin mudah diakses dan semakin seragam sebagai komoditas. Karena itu, keunggulan organisasi tidak cukup ditentukan oleh teknologi yang dipakai, melainkan kemampuan menerapkannya dengan aman, berulang, dan dipercaya pelanggan, karyawan, serta regulator.

Kepercayaan AI dibangun sejak rancangan

Dalam layanan keuangan, standar penggunaan AI lebih tinggi karena sistem dapat menyentuh pelanggan, data, keputusan, dan transaksi. Organisasi perlu memastikan teknologi aman, cukup mudah dijelaskan agar orang bisa mengambil tindakan, serta memiliki penanggung jawab ketika terjadi masalah.

Pengawasan juga perlu berjalan setelah sistem digunakan. Akurasi, keadilan, dan dampak yang tidak direncanakan harus dipantau. Tanpa itu, karyawan dapat ragu memakai alat, pelanggan mempertanyakan hasilnya, sementara tim risiko dan regulator meminta jaminan tambahan.

Akibatnya, proyek yang menjanjikan bisa berhenti sebagai uji coba. Hambatannya bukan selalu kemampuan model, melainkan ketidaksiapan organisasi untuk mengandalkannya dalam keputusan nyata.

Kepercayaan perlu dirancang sejak awal. Itu mencakup akuntabilitas, transparansi, pengawasan manusia, privasi, keamanan, dan keadilan. Organisasi juga perlu menetapkan siapa pemilik keputusan, data apa yang digunakan, bagaimana sistem diuji, serta kapan manusia harus turun tangan.

Memang, tahap awal bisa terasa lebih lambat. Perusahaan harus menata ulang alur kerja, menyusun pagar pengaman tata kelola, melatih karyawan, dan menyamakan pemahaman para pemangku kepentingan. Namun, investasi awal ini dapat mengurangi waktu yang terbuang untuk mengatasi hambatan adopsi, risiko tak terduga, dan kontrol yang baru dipasang setelah sistem berjalan.

Angka penggunaan belum berarti kepercayaan penuh

Gambaran di Asia menunjukkan konsumen mulai memakai AI, tetapi belum sepenuhnya nyaman menyerahkan informasi atau keputusan kepada sistem. Studi Visa State of Digital Commerce in Asia-Pacific, yang dilakukan YouGov di 14 pasar, menemukan 74 persen konsumen menggunakan alat berbasis AI untuk menemukan, melacak, atau mempelajari produk.