UNI EROPA — Watermark ChatGPT akan disisipkan OpenAI secara bertahap pada keluaran teks tertentu di Uni Eropa. Sinyal tak kasatmata itu mengubah pilihan kata secara statistik, sehingga teks dapat diperiksa lewat alat pendeteksi khusus.
OpenAI mengumumkan rencana ini pada 5 Oktober sebagai bagian dari kepatuhan terhadap EU AI Act. Fitur bernama textGrain itu juga akan diterapkan pada keluaran Codex yang memenuhi syarat. Bagi pengguna, perubahan ini berarti teks yang disalin dan dibagikan berpotensi membawa penanda, meski penandanya tidak terlihat saat dibaca.
Watermark ChatGPT bekerja lewat pilihan kata
Menurut penjelasan OpenAI di situsnya, textGrain menambahkan sinyal statistik tersembunyi ke pilihan kata model. Sistem pendeteksi kemudian mencari pola itu untuk menilai apakah sebuah teks memuat watermark OpenAI.
OpenAI menyebut rincian teknisnya tersedia dalam laporan teknis yang akan diperbarui. Perusahaan belum membuka alat pendeteksi itu untuk umum. Akses hanya disediakan bagi peneliti dan organisasi ahli yang disetujui, yang dapat mulai mengajukan permohonan pada hari pengumuman.
Perusahaan mengatakan alat tersebut hanya melaporkan apakah watermark OpenAI terdeteksi. Alat itu tidak mengungkap identitas pengguna, prompt, ataupun percakapan. OpenAI juga menyatakan risiko watermark terlewat dan hasil positif palsu menjadi alasan alat belum dirilis untuk publik.
Di sinilah batasnya terasa. OpenAI mengakui teks pendek atau yang bentuknya sangat dibatasi lebih sulit dideteksi. Penyuntingan juga dapat melemahkan watermark. Jadi, penanda itu bukan jaminan bahwa setiap teks keluaran AI akan selalu dikenali setelah berpindah tangan atau diedit.
Aturan Uni Eropa mendorong penanda teks AI
EU AI Act mengharuskan penyedia AI generatif membuat teks yang dihasilkan dapat dikenali dengan cara yang dapat dibaca mesin. OpenAI menyebut penerapan textGrain sebagai langkah untuk memenuhi kewajiban tersebut. Untuk tahap yang diumumkan, perusahaan membatasi perubahan pada pengguna di Uni Eropa, berbeda dari Anthropic yang sebelumnya memilih menerapkan watermark secara global.
Perbedaan cakupan itu penting bagi pengguna lintas wilayah. Dalam pengumuman OpenAI, watermark hanya akan ditambahkan pada teks ChatGPT dan Codex yang memenuhi syarat di Uni Eropa. Sumber yang menjadi bahan laporan ini tidak merinci bagaimana batas kelayakan tersebut ditentukan atau kapan tepatnya penerapan bertahap selesai.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.