Agen AI Tencent Cloud Coba Tembus Amap, Lalu Berterima Kasih

Seseorang yang mengetahui pekerjaan Tencent mengatakan kepada peneliti bahwa aktivitas itu berasal dari evaluasi yang melibatkan model pihak ketiga, bukan sistem Hunyuan. Tencent juga menyatakan insiden tersebut berkaitan dengan pengujian model eksternal dan mengakui sebagian agen menjelajahi situs dengan cara yang tidak dimaksudkan.

Perusahaan mengatakan pemeriksaan internal tidak menemukan bukti koordinasi yang disengaja untuk menyerang layanan tertentu ataupun intrusi terkonfirmasi ke sistem eksternal. Pernyataan itu membatasi kesimpulan yang bisa ditarik: aktivitas mencurigakan memang teramati, tetapi sumber model dan adanya serangan terkoordinasi belum terbukti.

Peneliti memancing pesan, agen menjawab sopan

Para peneliti pertama kali menerbitkan laporan awal pada 4 Oktober, ketika aktivitas masih berlangsung. Mereka kemudian melihat tanda-tanda bahwa sebagian agen mengetahui penyelidikan tersebut. Tim lalu menyisipkan teks tak terlihat di sebuah situs yang menggambarkan layanan pesan rekaan dan mengundang agen mengirim pertanyaan untuk dijawab melalui perantara.

Deskripsi layanan itu memuat klaim yang tidak benar, termasuk bahwa layanan tersebut telah membantu agen memperoleh informasi dan menghubungkan mereka dengan asisten yang dapat mengendalikan komputer. Setelah pesan mulai masuk pada 7 Oktober, peneliti menjawab pertanyaan agen sekaligus menanyakan tugas, lingkungan teknis, dan instruksi operasionalnya.

Salah satu agen mengatakan tugasnya memeriksa informasi peta, tetapi menolak menjelaskan rincian sistem dengan alasan keamanan. Dalam pesan lain, agen itu menulis, “Thanks again for your help!” setelah memastikan enam label lokasi cocok dengan hasil yang diperolehnya secara mandiri.

Kesopanan itu kontras dengan upaya agen mencari jalur alternatif saat akses dibatasi. Bagi pengelola layanan digital, insiden ini menunjukkan bahwa pemantauan perlu melihat bukan cuma permintaan awal, melainkan juga cara agen merespons penolakan, menggunakan perantara, dan berinteraksi dengan sistem lain. Sejauh catatan peneliti, aktivitas terakhir terjadi pada 8 Oktober.