Dampaknya tidak berhenti pada toko aplikasi. Foto pribadi yang diunggah untuk satu tujuan dapat diolah menjadi materi intim palsu atau konten ancaman. Korban dapat menghadapi tekanan dan kerugian reputasi meski gambar atau video itu direkayasa.
Karena itu, perubahan fungsi setelah aplikasi dipasang menjadi risiko nyata bagi siapa pun yang mengunggah foto ke layanan AI tanpa mengetahui bagaimana gambar tersebut akan digunakan.
Apa langkah Apple, Google, dan Meta?
Apple menyatakan telah meninjau aplikasi sebelum menerbitkannya dan menemukan aplikasi itu mematuhi aturan pada saat pemeriksaan. Menurut perusahaan, pengembang kemudian mengubah situs yang memasok konten, mengganti materi yang sebelumnya disetujui dengan konten pornografi, lalu mempromosikannya melalui iklan pornografi di platform pihak ketiga.
Apple mengatakan perlindungannya terhadap cara tersebut baru-baru ini diperkuat. Setelah menerima rincian tentang jaringan itu, perusahaan menghapus 19 aplikasi. Google Play juga disebut sebagai tempat aplikasi-aplikasi tersebut tersedia.
Meta menyatakan telah menindak lebih dari 10.000 akun iklan yang terkait dengan domain-domain yang berhubungan dengan aplikasi itu. Tindakan tersebut menyasar promosi, sementara temuan tentang aplikasi menunjukkan masalah lain: fungsi dapat berubah setelah lolos peninjauan.
Kasus ini menempatkan tanggung jawab pemeriksaan pada lebih dari satu tahap, mulai dari penilaian sebelum aplikasi terbit hingga pemantauan perubahan konten dan iklan. Apple menyatakan, “We review every app before it’s published, and these apps complied with our rules when we reviewed them.”
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.