ANTHROPIC — Anthropic mengembangkan FlashProve, sistem sumber terbuka untuk memverifikasi model AI yang menghasilkan sebuah jawaban. Gagasan ini menyasar satu pertanyaan penting: apakah keluaran yang diterima pengguna benar-benar berasal dari model yang dijanjikan?
Riset tersebut diumumkan melalui blog Anthropic pada Selasa. Tim peneliti menyebut pendekatannya sebagai “provable inference”, yakni bukti kriptografis yang dirancang untuk menghubungkan keluaran dengan model tertentu.
Bagaimana FlashProve memeriksa asal jawaban AI?
FlashProve bekerja dengan mencocokkan keluaran AI terhadap “sidik jari” model. Laboratorium AI perlu menerbitkan sidik jari untuk setiap model yang dirilis, lalu pengguna dapat memeriksa kecocokannya secara kriptografis.
Prinsipnya menyerupai tanda tangan kriptografis pada email. Penerima dapat mengecek apakah pesan benar berasal dari pengirim yang tercantum. Dalam skema FlashProve, pemeriksaan diarahkan pada asal keluaran AI, bukan sekadar klaim penyedia layanan.
Menurut para peneliti Anthropic, sistem ini dirancang untuk menghadapi upaya penyamaran, termasuk ketika pihak yang mengoperasikan model mencoba menggantinya dengan model lain. Risiko yang mereka soroti mencakup perusahaan AI yang diam-diam memakai model lebih murah untuk menekan biaya, atau menggunakan model lebih mahal agar hasil uji tampak lebih baik.
Dampaknya menyentuh kepercayaan pengguna dan perusahaan yang mengandalkan keluaran AI. Jika pemeriksaan semacam ini berjalan, pelanggan dapat memiliki cara teknis untuk menilai apakah layanan memberikan model yang dijanjikan. Perusahaan juga berpeluang menguji klaim tentang model di balik suatu pekerjaan, bukan hanya menerima keterangan dari penyedia.
Sidik jari model tanpa membuka bobotnya
Sidik jari yang dibutuhkan FlashProve tidak mengungkap bobot model. Bobot adalah angka-angka internal yang membentuk perilaku model dan biasanya dijaga sebagai aset penting oleh pembuat model tertutup, termasuk Anthropic dan OpenAI.
Pemisahan itu penting. Laboratorium dapat menerbitkan sidik jari tanpa membagikan komponen internal yang membuat model bekerja. Dengan rancangan tersebut, sistem berpotensi digunakan untuk model komersial sekaligus model yang tersedia terbuka.
Anthropic juga merancang verifikasi agar ringan dan dapat dilakukan pada perangkat lokal. Pengguna tidak harus selalu menyerahkan pemeriksaan kepada layanan lain. Namun, cara kerja itu tetap bergantung pada penerbitan sidik jari oleh laboratorium pembuat model.
Para peneliti menggambarkan beberapa kemungkinan penggunaan. Pengembang perangkat lunak, misalnya, dapat menyatakan bahwa sebuah pustaka telah dipindai untuk mencari kerentanan menggunakan model keamanan siber tingkat lanjut. Perusahaan lain bisa mengklaim rencana bisnisnya telah mendapat persetujuan dari model yang sesuai. FlashProve dimaksudkan untuk membantu pengguna menguji klaim semacam itu.
Apakah FlashProve sudah tersedia untuk digunakan?
Anthropic telah merilis spesifikasi teknis terperinci dan kode kerja untuk sejumlah komponen FlashProve. Materi itu tersedia secara terbuka dengan lisensi sumber terbuka di GitHub, sehingga pihak lain dapat memeriksa dan mengembangkan pendekatannya.
Tetapi, risetnya masih berlangsung. Anthropic menyatakan belum memiliki rencana untuk menerapkan sistem itu di perusahaannya maupun di laboratorium AI lain. Jadi, ketersediaan kode belum berarti pengguna sudah dapat memverifikasi semua jawaban dari model yang beredar.
Para peneliti menegaskan bahwa publikasi ini merupakan kemajuan sementara, bukan agenda riset yang sudah tuntas. Mereka mengajak pihak lain menelaah pekerjaan tersebut dan memperbaikinya. Langkah berikutnya bergantung pada pengembangan teknis lanjutan serta kesediaan laboratorium menerbitkan sidik jari modelnya.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.