Buka situs web salah satu generator deepfake eksplisit, dan Anda akan disuguhi menu penuh kengerian. Hanya dengan beberapa klik, situs itu menawarkan kemampuan untuk mengubah satu foto menjadi klip video eksplisit delapan detik, memasukkan perempuan ke dalam situasi seksual grafis yang terlihat realistis. “Ubah foto apa pun menjadi versi telanjang dengan teknologi AI canggih kami,” bunyi teks di situs web tersebut.
Opsi untuk penyalahgunaan potensial sangat luas. Di antara 65 “templat” video di situs tersebut terdapat berbagai video “membuka pakaian” di mana perempuan yang digambarkan akan menanggalkan pakaian—tetapi ada juga adegan video eksplisit bernama “fuck machine deepthroat” dan berbagai video “semen”. Setiap video dikenai biaya kecil untuk dibuat; menambahkan audio hasil AI berbiaya lebih mahal.
Situs web tersebut, yang namanya tidak disebutkan WIRED untuk membatasi eksposur lebih lanjut, mencantumkan peringatan bahwa orang hanya boleh mengunggah foto yang mereka miliki izinnya untuk diubah dengan AI. Tidak jelas apakah ada pemeriksaan untuk menegakkan hal ini.
Grok, chatbot ciptaan perusahaan-perusahaan Elon Musk, telah digunakan untuk membuat ribuan gambar bikini “membuka pakaian” atau “menelanjangi” nonkonsensual—lebih lanjut mengindustrialisasi dan menormalisasi proses pelecehan seksual digital. Namun, itu hanyalah yang paling terlihat—dan jauh dari yang paling eksplisit. Selama bertahun-tahun, ekosistem deepfake, yang terdiri dari puluhan situs web, bot, dan aplikasi, telah tumbuh, membuat penyalahgunaan seksual berbasis gambar lebih mudah dari sebelumnya untuk diotomatisasi, termasuk pembuatan materi pelecehan seksual anak (CSAM). Ekosistem “penelanjangan” ini, serta bahaya yang ditimbulkannya bagi perempuan dan anak perempuan, kemungkinan lebih canggih dari yang banyak orang pahami.
“Ini bukan lagi gambar sintetis telanjang yang sangat kasar,” kata Henry Ajder, pakar deepfake yang telah melacak teknologi ini lebih dari setengah dekade. “Kita berbicara tentang tingkat realisme yang jauh lebih tinggi dari apa yang sebenarnya dihasilkan, tetapi juga rentang fungsi yang lebih luas.” Secara gabungan, layanan-layanan ini kemungkinan menghasilkan jutaan dolar per tahun. “Ini adalah momok masyarakat, dan ini adalah salah satu bagian terburuk, tergelap dari revolusi AI dan revolusi media sintetis yang kita lihat ini,” ujarnya.
Selama setahun terakhir, WIRED telah melacak bagaimana berbagai layanan deepfake eksplisit memperkenalkan fungsionalitas baru dan berkembang pesat untuk menawarkan pembuatan video berbahaya. Model gambar-ke-video sekarang biasanya hanya membutuhkan satu foto untuk menghasilkan klip pendek. Tinjauan WIRED terhadap lebih dari 50 situs web “deepfake”, yang kemungkinan mendapat jutaan tayangan per bulan, menunjukkan bahwa hampir semuanya kini menawarkan pembuatan video eksplisit berkualitas tinggi dan sering kali mencantumkan lusinan skenario seksual yang dapat digambarkan untuk perempuan.
Sementara itu, di Telegram, lusinan saluran dan bot deepfake seksual secara rutin merilis fitur dan pembaruan perangkat lunak baru, seperti pose dan posisi seksual yang berbeda. Misalnya, pada Juni tahun lalu, satu layanan deepfake mempromosikan “mode-seks,” mengiklankannya dengan pesan: “Coba pakaian berbeda, pose favorit Anda, usia, dan pengaturan lain.” Yang lain memposting bahwa “lebih banyak gaya” gambar dan video akan segera datang dan pengguna dapat “membuat persis apa yang Anda bayangkan dengan deskripsi Anda sendiri” menggunakan perintah kustom untuk sistem AI.
“Ini bukan hanya, ‘Anda ingin menelanjangi seseorang.’ Ini seperti, ‘Ini semua versi fantasi berbeda darinya.’ Ini pose yang berbeda. Posisi seksual yang berbeda,” kata analis independen Santiago Lakatos, yang bersama outlet media Indicator telah meneliti bagaimana layanan “penelanjangan” sering menggunakan infrastruktur perusahaan teknologi besar dan kemungkinan menghasilkan uang banyak dalam prosesnya. “Ada versi di mana Anda bisa membuat seseorang [terlihat] hamil,” kata Lakatos.
Tinjauan WIRED menemukan lebih dari 1,4 juta akun terdaftar di 39 bot dan saluran pembuatan deepfake di Telegram. Setelah WIRED menanyakan tentang layanan-layanan ini ke Telegram, perusahaan tersebut menghapus setidaknya 32 alat deepfake. “Pornografi nonkonsensual—termasuk deepfake dan alat yang digunakan untuk membuatnya—sangat dilarang di bawah ketentuan layanan Telegram,” kata juru bicara Telegram, seraya menambahkan bahwa mereka menghapus konten saat terdeteksi dan telah menghapus 44 juta konten yang melanggar kebijakannya tahun lalu.