SAN FRANCISCO — Gurmeet Saran mengembangkan infrastruktur yang membantu peneliti memahami perilaku Claude, chatbot kecerdasan buatan buatan Anthropic. Fokusnya: memastikan data yang dipakai tertata, akurat, dan terlindungi agar keluaran AI lebih dapat diandalkan.
Saran, anggota senior IEEE yang bekerja sebagai staf teknis di Anthropic, mengatakan pengamanan privasi harus dirancang sejak awal, bukan ditempelkan belakangan. Dalam wawancara dengan IEEE Spectrum, ia juga menekankan bahwa tanpa logika sistem yang dapat dipercaya, klaim tentang perilaku AI sulit dipastikan.
Gurmeet Saran dan infrastruktur tepercaya AI
Pekerjaan Saran menyentuh persoalan yang kerap luput ketika pengguna menerima jawaban chatbot dalam hitungan detik: bagaimana sistem mengelola data dan bagaimana peneliti dapat memeriksa proses yang menghasilkan jawaban. Infrastruktur yang ia kembangkan ditujukan untuk membantu tim Anthropic memahami mekanisme di balik perilaku Claude.
“Pekerjaan saya adalah memastikan data akurat, terstruktur, dan dapat dipercaya, serta data pribadi tetap pribadi,” kata Saran kepada IEEE Spectrum. Ia menambahkan bahwa privasi tidak bisa sekadar menjadi lapisan tambahan. Prinsip itu, menurutnya, harus masuk ke dalam arsitektur sistem sejak awal.
Taruhannya bukan hanya mutu jawaban. Jika peneliti tidak bisa memahami logika yang mendasari keluaran model, mereka akan kesulitan membuat klaim yang dapat diandalkan tentang perilaku AI. Saran mengaitkan persoalan itu dengan keselamatan sistem.
Anthropic menyatakan Claude harus membantu orang yang bekerja dengannya maupun masyarakat, sambil menghindari tindakan yang tidak aman, tidak etis, atau menipu. Untuk mendukung tujuan itu, peneliti perlu bisa mengamati dan memahami perilaku model. Tantangannya besar pada model bahasa besar, yang mekanismenya tidak mudah dipantau seperti layanan web atau basis data biasa.
“Kami punya alat yang cukup baik untuk memantau basis data dan layanan web, tetapi untuk model bahasa besar, kami masih mencari tahu caranya,” ujar Saran.
Pengalaman di Yahoo dan Intuit membentuk pendekatan Saran
Pengalaman Saran menangani mutu data sudah dimulai jauh sebelum ia bergabung dengan Anthropic. Ia tumbuh di Kolkata dan tertarik pada komputer sejak kecil. Saat duduk di bangku sekolah, ia menghabiskan waktu di laboratorium komputer.
“Yang membuat saya terkesan adalah kita bisa menulis instruksi dan mesin akan mengikutinya dengan tepat. Tidak ada ambiguitas,” katanya mengenang pengalaman pertamanya memakai komputer.
Saran meraih gelar sarjana teknik elektronika dan telekomunikasi dari University of Kalyani pada 2004, lalu gelar master rekayasa perangkat lunak dari Birla Institute of Technology and Science di Pilani pada 2010. Ia memulai karier di Yahoo pada 2007 sebagai pemimpin teknis tim data di Bengaluru.
Di Yahoo, ia menghadapi masalah yang terdengar sederhana, tetapi berpengaruh pada keputusan perusahaan: tim berbeda menghitung metrik situs yang sama dengan cara berbeda. Angka pengguna aktif harian, misalnya, dapat menghasilkan jawaban yang bertentangan karena setiap tim memakai logika masing-masing.
Saran dan timnya kemudian membuat repositori data terpusat dengan definisi metrik yang disepakati. Model itu menjelaskan peristiwa apa yang dihitung dan bagaimana menangani kasus khusus. Hasilnya, tim dapat memakai metode yang sama dan membandingkan data secara lebih konsisten. Mereka juga membangun Yahoo! Digits, alat analitik internal yang digunakan untuk produk-produk perusahaan.
Dari perlindungan data pajak ke keselamatan chatbot
Setelah meninggalkan Yahoo pada 2010, Saran bergabung dengan Intuit sebagai staf engineer di Mountain View, California. Ia membantu membangun infrastruktur analitik yang menyatukan data dari berbagai produk perusahaan, termasuk TurboTax dan QuickBooks.
Di Intuit, ia ikut mengembangkan sistem yang mendeteksi pengajuan pajak curang secara waktu nyata. Pekerjaan itu menuntut perlindungan data wajib pajak sekaligus kepatuhan pada kebijakan ketat Internal Revenue Service Amerika Serikat.
Pengalaman tersebut memberi konteks pada penekanannya sekarang: sistem yang mengolah informasi sensitif perlu dirancang dengan perlindungan sebagai bagian inti, bukan tambahan.
Dampaknya terasa bagi pengguna AI karena keandalan chatbot bergantung pada lebih dari sekadar kelancaran bahasa. Pengelolaan data yang tertib dan perlindungan privasi ikut menentukan apakah keluaran sistem layak dipercaya, terutama saat model dipakai untuk menjawab pertanyaan kompleks.
Bagi perusahaan yang mengembangkan AI, pekerjaan seperti yang dilakukan Saran juga membuka jalan bagi peneliti untuk memeriksa perilaku model dan menilai risiko dengan lebih baik.
IEEE Spectrum menggambarkan perjalanan Saran dari analitik perusahaan menuju infrastruktur AI sebagai kelanjutan dari persoalan lama: bagaimana memastikan data dan logika yang dipakai organisasi tetap konsisten. Kini tantangannya berada pada model bahasa besar.
Saran dan tim Anthropic masih mengembangkan cara untuk mengamati perilaku sistem, sementara privasi dan keselamatan tetap menjadi bagian dari rancangan Claude.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.