UNI EROPA — Watermark ChatGPT akan disisipkan OpenAI secara bertahap pada keluaran teks tertentu di Uni Eropa. Sinyal tak kasatmata itu mengubah pilihan kata secara statistik, sehingga teks dapat diperiksa lewat alat pendeteksi khusus.
OpenAI mengumumkan rencana ini pada 5 Oktober sebagai bagian dari kepatuhan terhadap EU AI Act. Fitur bernama textGrain itu juga akan diterapkan pada keluaran Codex yang memenuhi syarat. Bagi pengguna, perubahan ini berarti teks yang disalin dan dibagikan berpotensi membawa penanda, meski penandanya tidak terlihat saat dibaca.
Watermark ChatGPT bekerja lewat pilihan kata
Menurut penjelasan OpenAI di situsnya, textGrain menambahkan sinyal statistik tersembunyi ke pilihan kata model. Sistem pendeteksi kemudian mencari pola itu untuk menilai apakah sebuah teks memuat watermark OpenAI.
OpenAI menyebut rincian teknisnya tersedia dalam laporan teknis yang akan diperbarui. Perusahaan belum membuka alat pendeteksi itu untuk umum. Akses hanya disediakan bagi peneliti dan organisasi ahli yang disetujui, yang dapat mulai mengajukan permohonan pada hari pengumuman.
Perusahaan mengatakan alat tersebut hanya melaporkan apakah watermark OpenAI terdeteksi. Alat itu tidak mengungkap identitas pengguna, prompt, ataupun percakapan. OpenAI juga menyatakan risiko watermark terlewat dan hasil positif palsu menjadi alasan alat belum dirilis untuk publik.
Di sinilah batasnya terasa. OpenAI mengakui teks pendek atau yang bentuknya sangat dibatasi lebih sulit dideteksi. Penyuntingan juga dapat melemahkan watermark. Jadi, penanda itu bukan jaminan bahwa setiap teks keluaran AI akan selalu dikenali setelah berpindah tangan atau diedit.
Aturan Uni Eropa mendorong penanda teks AI
EU AI Act mengharuskan penyedia AI generatif membuat teks yang dihasilkan dapat dikenali dengan cara yang dapat dibaca mesin. OpenAI menyebut penerapan textGrain sebagai langkah untuk memenuhi kewajiban tersebut. Untuk tahap yang diumumkan, perusahaan membatasi perubahan pada pengguna di Uni Eropa, berbeda dari Anthropic yang sebelumnya memilih menerapkan watermark secara global.
Perbedaan cakupan itu penting bagi pengguna lintas wilayah. Dalam pengumuman OpenAI, watermark hanya akan ditambahkan pada teks ChatGPT dan Codex yang memenuhi syarat di Uni Eropa. Sumber yang menjadi bahan laporan ini tidak merinci bagaimana batas kelayakan tersebut ditentukan atau kapan tepatnya penerapan bertahap selesai.
Dampaknya bukan cuma soal pemeriksaan teks. Karena sistem bekerja dengan memengaruhi pilihan kata, muncul pertanyaan apakah jawaban tetap sepenuhnya dioptimalkan untuk kebutuhan pengguna atau sebagian pilihan katanya ikut diarahkan oleh mekanisme watermark.
Penulis TechRadar yang mengulas pengumuman itu menilai perubahan tersebut berisiko mengganggu kualitas optimal, meski ia tidak menyatakan hasil teks pasti memburuk.
Perlu dibedakan: itu adalah penilaian penulis, bukan pengakuan OpenAI bahwa kualitas jawaban akan turun. OpenAI menjelaskan mekanisme sinyal dan akses pendeteksi, tetapi bahan pengumuman yang dikutip tidak menyertakan hasil pengujian kualitas tulisan setelah watermark diterapkan.
Deteksi terbatas, penyuntingan bisa melemahkan sinyal
Penulis TechRadar mempertanyakan manfaat sistem yang pendeteksinya belum tersedia untuk publik, sementara OpenAI sendiri mengakui kemungkinan kesalahan. Jika pembaca, pengajar, atau redaksi tak dapat memeriksa teks melalui alat resmi, mereka belum bisa menguji sendiri apakah sebuah tulisan membawa penanda. Akses terbatas membuat kemampuan verifikasi berada pada kelompok yang disetujui.
Masalah lain ada pada daya tahan watermark. OpenAI mengatakan penyuntingan dapat melemahkannya, sedangkan teks pendek dan format yang ketat lebih sulit diperiksa. Artinya, penanda tersembunyi ini tidak serta-merta menyelesaikan persoalan atribusi ketika isi teks telah diubah atau dipotong.
Untuk pengguna di Indonesia, pengumuman ini belum menyebut penerapan watermark pada akun atau keluaran di luar Uni Eropa. Namun, perkembangan tersebut tetap relevan bagi orang yang menyalin teks AI untuk pekerjaan, pendidikan, atau publikasi: keberadaan penanda tidak tampak dari tampilan biasa, dan alat untuk mengujinya belum terbuka bagi semua orang.
Penulis TechRadar menilai kebijakan itu tampak seperti upaya memenuhi kewajiban aturan, tetapi mempertanyakan apakah pendekatan yang bisa dilemahkan lewat penyuntingan cukup membantu transparansi. OpenAI, sementara itu, menyatakan detektor akan melaporkan keberadaan watermark tanpa mengungkap pengguna maupun percakapannya.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.