Situs web ‘undressing’ yang didukung AI sedang disuahkan

Kantor Jaksa Kota San Francisco sedang menyelidiki 16 situs web berbasis AI yang paling sering dikunjungi yang “melepas” pakaian, sering digunakan untuk membuat deepfake telanjang perempuan dan gadis tanpa izin mereka. Gugatan bersejarah ini, diumumkan dalam konferensi pers oleh Jaksa Kota David Chiu, mengatakan bahwa situs web yang ditargetkan dikunjungi lebih dari 200 juta kali dalam enam bulan pertama tahun 2024 saja.

Situs web yang melanggar memungkinkan pengguna mengunggah gambar orang nyata yang berpakaian lengkap, yang kemudian “dilepas” secara digital dengan alat AI yang mensimulasikan ketelanjangan. Salah satu situs web ini, yang tidak diidentifikasi dalam keluhan tersebut, dilaporkan mengiklankan: “Bayangkan membuang waktu untuk mengajaknya kencan, padahal Anda bisa menggunakan [situs web yang diubah] untuk mendapatkan foto telanjangnya.”

Para operator situs web dituduh melanggar hukum negara dan federal yang melarang pornografi balas dendam, pornografi deepfake, dan pornografi anak, bersamaan dengan undang-undang persaingan yang tidak adil California karena “kerusakan yang mereka sebabkan kepada konsumen jauh lebih besar dari manfaat yang terkait dengan praktik-praktik tersebut,” menurut pengajuan keluhan. Gugatan tersebut meminta sanksi perdata, selain menutup situs web dan mencegah secara permanen para pelaku dari membuat pornografi deepfake di masa depan.

“Penyelidikan ini telah membawa kami ke sudut-sudut gelap internet, dan saya benar-benar terkejut untuk para wanita dan gadis yang harus menderita eksploitasi ini,” kata Chiu di X. “Ini adalah masalah besar, multi-faset yang harus kita selesaikan secepat mungkin sebagai masyarakat.”