Beberapa pengguna chatbot populer sedang membuat deepfake bikini dengan memanfaatkan foto-foto perempuan yang berbusana lengkap sebagai bahan sumber. Sebagian besar gambar palsu ini tampaknya dibuat tanpa persetujuan dari perempuan dalam foto tersebut. Sebagian dari pengguna yang sama juga memberikan saran kepada orang lain tentang cara menggunakan alat kecerdasan buatan generatif untuk "menanggalkan" pakaian perempuan dalam foto dan membuat mereka terlihat mengenakan bikini.
Di bawah sebuah postingan Reddit yang kini telah dihapus, berjudul "gemini nsfw image generation is so easy", para pengguna saling bertukar tips tentang cara membuat Gemini, model AI generatif Google, menghasilkan gambar perempuan dalam pakaian yang terbuka. Banyak gambar dalam utas tersebut sepenuhnya buatan AI, namun satu permintaan tampak mencolok.
Seorang pengguna mengunggah foto seorang perempuan mengenakan sari India, meminta agar ada yang "menghilangkan" pakaiannya dan "menggantikannya dengan bikini". Pengguna lain membalas dengan sebuah gambar deepfake untuk memenuhi permintaan itu. Setelah WIRED memberi tahu Reddit tentang postingan-postingan ini dan meminta komentar perusahaan, tim keamanan Reddit menghapus permintaan serta deepfake AI tersebut.
"Aturan situs Reddit melarang media intim non-konsensual, termasuk perilaku yang ditanyakan tersebut," ujar seorang juru bicara. Subreddit tempat diskusi ini terjadi, r/ChatGPTJailbreak, memiliki lebih dari 200.000 pengikut sebelum akhirnya dilarang oleh Reddit berdasarkan aturan platform "don’t break the site".
Seiring alat-alat AI generatif yang memudahkan pembuatan gambar realistis namun palsu terus berkembang, para penggunanya pun terus melecehkan perempuan dengan citra deepfake non-konsensual. Jutaan orang telah mengunjungi situs-situs "nudify" yang berbahaya, yang dirancang khusus bagi pengguna untuk mengunggah foto asli seseorang dan meminta agar foto tersebut "ditelanjangi" menggunakan AI generatif.
Dengan pengecualian notable seperti Grok dari xAI, sebagian besar chatbot arus utama biasanya tidak mengizinkan pembuatan gambar NSFW dalam keluaran AI. Bot-bot ini, termasuk Gemini milik Google dan ChatGPT dari OpenAI, juga dilengkapi dengan guardrail yang berupaya memblokir pembuatan konten berbahaya.
Pada November lalu, Google meluncurkan Nano Banana Pro, sebuah model pencitraan baru yang unggul dalam memodifikasi foto yang sudah ada dan menghasilkan gambar orang yang hiperrealistis. OpenAI membalas minggu lalu dengan meluncurkan model pencitraan terbarunya sendiri, ChatGPT Images.
Seiring peningkatan kualitas alat-alat ini, kemiripan yang dihasilkan mungkin akan menjadi lebih realistis ketika pengguna berhasil mem-bypass guardrail yang ada.
Dalam utas Reddit terpisah mengenai pembuatan gambar NSFW, seorang pengguna meminta rekomendasi cara menghindari guardrail saat mengubah pakaian seseorang untuk membuat rok subjek terlihat lebih ketat. Dalam tes terbatas yang dilakukan WIRED untuk memastikan bahwa teknik-teknik ini bekerja pada Gemini dan ChatGPT, kami berhasil mengubah gambar perempuan berbusana lengkap menjadi deepfake bikini menggunakan prompt dasar yang ditulis dalam bahasa Inggris sederhana.