Gurmeet Saran Bangun Infrastruktur Tepercaya untuk AI Claude

SAN FRANCISCO — Gurmeet Saran mengembangkan infrastruktur yang membantu peneliti memahami perilaku Claude, chatbot kecerdasan buatan buatan Anthropic. Fokusnya: memastikan data yang dipakai tertata, akurat, dan terlindungi agar keluaran AI lebih dapat diandalkan.

Saran, anggota senior IEEE yang bekerja sebagai staf teknis di Anthropic, mengatakan pengamanan privasi harus dirancang sejak awal, bukan ditempelkan belakangan. Dalam wawancara dengan IEEE Spectrum, ia juga menekankan bahwa tanpa logika sistem yang dapat dipercaya, klaim tentang perilaku AI sulit dipastikan.

Gurmeet Saran dan infrastruktur tepercaya AI

Pekerjaan Saran menyentuh persoalan yang kerap luput ketika pengguna menerima jawaban chatbot dalam hitungan detik: bagaimana sistem mengelola data dan bagaimana peneliti dapat memeriksa proses yang menghasilkan jawaban. Infrastruktur yang ia kembangkan ditujukan untuk membantu tim Anthropic memahami mekanisme di balik perilaku Claude.

“Pekerjaan saya adalah memastikan data akurat, terstruktur, dan dapat dipercaya, serta data pribadi tetap pribadi,” kata Saran kepada IEEE Spectrum. Ia menambahkan bahwa privasi tidak bisa sekadar menjadi lapisan tambahan. Prinsip itu, menurutnya, harus masuk ke dalam arsitektur sistem sejak awal.

Taruhannya bukan hanya mutu jawaban. Jika peneliti tidak bisa memahami logika yang mendasari keluaran model, mereka akan kesulitan membuat klaim yang dapat diandalkan tentang perilaku AI. Saran mengaitkan persoalan itu dengan keselamatan sistem.

Anthropic menyatakan Claude harus membantu orang yang bekerja dengannya maupun masyarakat, sambil menghindari tindakan yang tidak aman, tidak etis, atau menipu. Untuk mendukung tujuan itu, peneliti perlu bisa mengamati dan memahami perilaku model. Tantangannya besar pada model bahasa besar, yang mekanismenya tidak mudah dipantau seperti layanan web atau basis data biasa.

“Kami punya alat yang cukup baik untuk memantau basis data dan layanan web, tetapi untuk model bahasa besar, kami masih mencari tahu caranya,” ujar Saran.

Pengalaman di Yahoo dan Intuit membentuk pendekatan Saran

Pengalaman Saran menangani mutu data sudah dimulai jauh sebelum ia bergabung dengan Anthropic. Ia tumbuh di Kolkata dan tertarik pada komputer sejak kecil. Saat duduk di bangku sekolah, ia menghabiskan waktu di laboratorium komputer.