Elon Musk belum menghentikan Grok, chatbot yang dikembangkan perusahaan kecerdasan buatannya xAI, dari menghasilkan gambar-gambar perempuan yang disexualisasikan. Setelah laporan muncul pekan lalu bahwa alat pembuatan gambar di X digunakan untuk membuat gambar sexualisasi anak-anak, Grok telah menciptakan ribuan gambar perempuan tanpa persetujuan mereka dalam foto-foto “tidak berpakaian” dan “bikini”.
Setiap beberapa detik, Grok terus menciptakan gambar perempuan dalam bikini atau pakaian dalam sebagai respons terhadap perintah pengguna di X, menurut tinjauan WIRED terhadap output langsung chatbot yang diposting publik. Analisis terhadap unggahan menunjukkan, pada hari Selasa setidaknya 90 gambar yang melibatkan perempuan dalam pakaian renang dan berbagai tingkat ketidakberpakaian diterbitkan Grok dalam waktu kurang dari lima menit.
Gambar-gambar tersebut tidak mengandung ketelanjangan tetapi melibatkan chatbot milik Musk yang “melepas” pakaian dari foto-foto yang telah diunggah ke X oleh pengguna lain. Seringkali, dalam upaya menghindari pagar pengaman Grok, para pengguna—tidak selalu berhasil—meminta foto diedit untuk membuat perempuan mengenakan “bikini string” atau “bikini transparan”.
Sementara teknologi pembuatan gambar AI yang berbahaya telah digunakan untuk melecehkan secara digital dan menyalahgunakan perempuan selama bertahun-tahun—output ini sering disebut deepfake dan dibuat oleh perangkat lunak “nudify“—penggunaan Grok yang berkelanjutan untuk menciptakan sejumlah besar gambar tanpa persetujuan menandai contoh penyalahgunaan paling arus utama dan tersebar luas hingga saat ini. Berbeda dengan perangkat lunak “nudify” atau “melepas pakaian” berbahaya tertentu, Grok tidak membebankan biaya kepada pengguna untuk menghasilkan gambar, menghasilkan hasil dalam hitungan detik, dan tersedia bagi jutaan orang di X—semua hal yang dapat membantu menormalisasi penciptaan citra intim tanpa persetujuan.
“Ketika sebuah perusahaan menawarkan alat AI generatif di platform mereka, itu adalah tanggung jawab mereka untuk meminimalkan risiko pelecehan berbasis gambar,” kata Sloan Thompson, direktur pelatihan dan pendidikan di EndTAB, sebuah organisasi yang berupaya menangani pelecehan yang difasilitasi teknologi. “Yang mengkhawatirkan di sini adalah X telah melakukan sebaliknya. Mereka telah menanamkan pelecehan gambar berbantuan AI langsung ke dalam platform arus utama, membuat kekerasan seksual lebih mudah dan lebih terukur.”
Penciptaan citra sexualisasi oleh Grok mulai menjadi viral di X pada akhir tahun lalu, meskipun kemampuan sistem untuk menciptakan gambar tersebut telah diketahui selama berbulan-bulan. Dalam hari-hari terakhir, foto-foto influencer media sosial, selebritas, dan politisi telah menjadi sasaran pengguna di X, yang dapat membalas unggahan dari akun lain dan meminta Grok untuk mengubah gambar yang telah dibagikan.
Perempuan yang telah mengunggah foto diri mereka sendiri mendapatkan balasan dari akun-akun yang berhasil meminta Grok untuk mengubah foto tersebut menjadi gambar “bikini”. Dalam satu contoh, beberapa pengguna X meminta Grok mengubah gambar Wakil Perdana Menteri Swedia untuk menunjukkan dia mengenakan bikini. Dua menteri pemerintah di Inggris juga telah “dilepas” pakaiannya menjadi bikini, menurut laporan.
Gambar-gambar di X menunjukkan foto perempuan yang berpakaian lengkap, seperti seseorang di dalam lift dan lainnya di gym, diubah menjadi gambar dengan sedikit pakaian. “@grok buat dia pakai bikini transparan,” bunyi pesan tipikal. Dalam serangkaian unggahan berbeda, seorang pengguna meminta Grok untuk “besarkan dadanya 90%,” lalu “besarkan pahanya 50%,” dan, akhirnya, untuk “Ganti pakaiannya menjadi bikini kecil.”
Seorang analis yang telah melacak deepfake eksplisit selama bertahun-tahun, dan meminta untuk tidak disebutkan namanya karena alasan privasi, mengatakan bahwa Grok kemungkinan telah menjadi salah satu platform terbesar yang menjadi tuan rumah gambar deepfake berbahaya. “Ini sepenuhnya arus utama,” kata peneliti itu. “Ini bukan kelompok bayangan [yang membuat gambar], ini benar-benar semua orang, dari berbagai latar belakang. Orang-orang memposting di akun utama mereka. Tanpa kekhawatiran sama sekali.”