Setelah menghasilkan ribuan gambar “pelucutan” pakaian wanita serta citra terseksualisasi yang menampilkan individu berpenampilan di bawah umur, X milik Elon Musk tampaknya telah membatasi siapa saja yang dapat menghasilkan gambar menggunakan Grok. Namun, terlepas dari perubahan tersebut, chatbot itu masih tetap digunakan untuk menciptakan gambar-gambar seksual “pelucutan” di platform tersebut.
Pada Jumat pagi, akun Grok di X mulai membalas beberapa permintaan pengguna dengan pesan bahwa pembuatan dan pengeditan gambar “saat ini terbatas untuk pelanggan berbayar.” Pesan tersebut juga menyertakan tautan yang mengarahkan orang ke langganan tahunan platform media sosial senilai $395. Dalam satu pengujian sistem yang meminta Grok membuat gambar pohon, sistem mengembalikan pesan yang sama.
Perubahan yang tampak ini terjadi setelah berhari-hari munculnya kemarahan dan pengawasan yang meningkat terhadap X milik Musk dan xAI, perusahaan di balik chatbot Grok. Kedua perusahaan menghadapi investigasi yang semakin banyak dari regulator di seluruh dunia terkait pembuatan citra eksplisit non-konsensual dan dugaan gambar seksual anak-anak. Perdana Menteri Inggris Keir Starmer belum mengesampingkan kemungkinan melarang X di negaranya dan menyatakan tindakan-tindakan tersebut “tidak sah.”
Baik X maupun xAI, perusahaan milik Musk di balik Grok, belum mengonfirmasi bahwa mereka telah menjadikan fitur pembuatan dan pengeditan gambar sebagai fitur berbayar. Seorang juru bicara X mengakui permintaan informasi WIRED tetapi tidak memberikan komentar sebelum publikasi. X sebelumnya pernyatakan mereka mengambil “tindakan terhadap konten ilegal di X,” termasuk materi penyalahgunaan seksual anak. Sementara Apple dan Google sebelumnya telah melarang aplikasi dengan fitur “nudify” serupa, X dan Grok tetap tersedia di toko aplikasi masing-masing. xAI tidak segera menanggapi permintaan komentar dari WIRED.
Selama lebih dari seminggu, pengguna di X telah meminta chatbot untuk mengedit gambar wanita agar menghilangkan pakaian mereka—seringkali meminta gambar tersebut mengandung bikini “bertali” atau “transparan.” Meskipun umpan publik gambar yang dibuat Grok mengandung jauh lebih sedikit hasil gambar “pelucutan” ini pada hari Jumat, chatbot itu tetap menciptakan gambar terseksualisasi ketika diminta oleh pengguna X dengan akun “terverifikasi” berbayar.
“Kami mengamati jenis *perintah* yang sama, kami mengamati hasil yang sama, hanya lebih sedikit dari sebelumnya,” kata Paul Bouchaud, peneliti utama di lembaga nirlaba AI Forensics yang berbasis di Paris, kepada WIRED. “Modelnya dapat terus menghasilkan gambar bikini,” ujarnya.
Tinjauan WIRED terhadap beberapa postingan Grok pada Jumat pagi mengidentifikasi Grok menghasilkan gambar sebagai tanggapan atas permintaan pengguna untuk gambar yang “kenakan dia lingerie latex” dan “kenakan dia bikini plastik dan lumuri dengan glaze donat putih.” Gambar-gambar itu muncul di balik kotak “peringatan konten” yang menyatakan bahwa materi dewasa ditampilkan.
Pada hari Rabu, WIRED mengungkapkan bahwa situs web dan aplikasi mandiri Grok, yang terpisah dari versi di X, juga telah digunakan dalam beberapa bulan terakhir untuk membuat video seksual yang sangat grafis dan terkadang kekerasan, termasuk selebriti dan orang sungguhan lainnya. Bouchaud mengatakan masih mungkin menggunakan Grok untuk membuat video-video ini. “Saya dapat menghasilkan video dengan konten seksual eksplisit tanpa batasan apa pun dari akun yang tidak terverifikasi,” katanya.
Sementara pengujian WIRED terhadap pembuatan gambar menggunakan Grok di X dengan akun gratis tidak mengizinkan gambar apa pun dibuat, penggunaan akun gratis pada aplikasi dan situs web Grok tetap menghasilkan gambar.
Perubahan di X dapat segera membatasi jumlah materi seksual eksplisit dan berbahaya yang diciptakan platform tersebut, kata para ahli. Tetapi hal ini juga dikritik sebagai langkah minimal yang hanya sekadar pembalut luka untuk bahaya nyata yang disebabkan oleh citra intim non-konsensual.
“Keputusan baru-baru ini untuk membatasi akses kepada pelanggan berbayar tidak hanya tidak memadai—itu merupakan moneterisasi dari pelecehan,” kata Emma Pickering, kepala unit pelecehan yang difasilitasi teknologi di badan amal kekerasan domestik Inggris Refuge, dalam sebuah pernyataan. “Meskipun membatasi pembuatan gambar AI kepada pengguna berbayar mungkin sedikit mengurangi volume dan meningkatkan kemampuan pelacakan, pelecehan belum dihentikan. Itu hanya ditempatkan di balik paywall, memungkinkan X untuk mendapat untung dari kerugian orang lain.”