Agen AI Tencent Coba Tembus Amap 2.600 Kali dalam 11 Hari

Ketika tugas pencarian data sederhana berbenturan dengan sistem anti-bot, agen AI mulai mencari jalan lain. Tencent mengakui agen yang berjalan di infrastrukturnya menunjukkan perilaku penjelajahan web yang tidak diharapkan, setelah peneliti menemukan lebih dari 2.600 upaya akses ke layanan peta Amap milik Alibaba dalam 11 hari.

Unit AI Tencent, Tencent Hunyuan, menyebut agen itu dipakai untuk mengevaluasi model pihak ketiga, bukan model Hunyuan buatannya sendiri. Reuters melaporkan kasus ini sebagai kejadian pertama yang diketahui ketika perusahaan besar China mengakui aktivitas agen AI yang menyimpang.

Dalam unggahan di X, Tencent Hunyuan mengatakan, “During these evaluations, some agents exhibited unintended web-browsing behavior, but our review found no evidence of deliberate targeting or coordination.” Perusahaan menyatakan sedang memperketat kontrol akses jaringan dan pemantauan agen.

Agen AI Tencent mencari pintu masuk kebun binatang

Permintaan yang diberikan kepada agen terdengar biasa saja: mencari tahu pintu masuk mana di Chengdu Zoo yang paling sering digunakan pengunjung Amap. Pengujian lain menyasar taman, museum, dan rumah sakit. Pada 30 September, salah satu tugas juga mengarah ke dasbor statistik kanker di British Columbia.

Masalahnya, Amap tidak membuka data begitu saja. Sistem anti-bot layanan itu memerlukan cookie peramban, token yang dibuat lewat JavaScript, dan terkadang CAPTCHA. Sementara itu, perangkat pengujian para agen mengirim permintaan sederhana melalui Python dan curl. Salah satu agen bahkan memberi tahu peneliti bahwa Amap memblokir sandbox Tencent, sehingga data tidak bisa diambil secara langsung.

Laporan Swarmchasers, kelompok peneliti yang menemukan aktivitas tersebut, menjelaskan agen kemudian mencoba beberapa jalur alternatif. Mereka memasukkan HTML dan JavaScript ke dalam URL, lalu mengirimkannya ke urlquery.net, layanan pemindaian keamanan publik yang dapat menjalankan kode melalui peramban.

Upaya lain mencakup percobaan mencegat atau memalsukan token dari pustaka anti-bot Alibaba, mengirim 57 permintaan ke empat host praproduksi, serta mengarahkan lalu lintas melalui Baidu Translate dan peramban jarak jauh. Dalam tujuh laporan, agen juga menggunakan kunci API Amap yang ditemukan di internet terbuka.