Kisah ini memuat deskripsi konten seksual eksplisit dan kekerasan seksual.
Chatbot Grok milik Elon Musk telah memicu kemarahan dan seruan untuk penyelidikan setelah digunakan untuk membanjiri X dengan gambar-gambar wanita “tanpa busana” serta gambar-gambar terseksualisasi yang tampak seperti anak di bawah umur. Namun, itu bukan satu-satunya cara orang menggunakan AI ini untuk menciptakan gambar bernuansa seks. Situs web dan aplikasi Grok, yang terpisah dari X, menyertakan fitur pembuatan video canggih yang tidak tersedia di X dan sedang digunakan untuk menghasilkan citra seksual dewasa yang sangat grafis, terkadang brutal, dan jauh lebih eksplisit dibandingkan gambar yang dibuat Grok di X. Kemungkinan juga digunakan untuk membuat video terseksualisasi yang menampilkan figur mirip anak di bawah umur.
Berbeda di X, di mana keluaran Grok bersifat publik secara bawaan, gambar dan video yang dibuat pada aplikasi atau situs web Grok menggunakan model ‘Imagine’ tidak dibagikan secara terbuka. Namun, jika seorang pengguna telah membagikan URL Imagine, tautan itu dapat terlihat oleh siapapun. Sebuah arsip yang berisi sekitar 1.200 tautan Imagine, ditambah tinjauan WIRED terhadap tautan yang terindeks Google atau dibagikan di forum pornografi deepfake, menunjukkan video-video seksual yang mengganggu dan jauh lebih eksplisit.
Satu video Grok fotorealistik, yang dihosting di Grok.com, memperlihatkan pria dan wanita hasil generasi AI dalam keadaan telanjang bulat, tubuh dan wajah berlumuran darah, sedang berhubungan intim, sementara dua wanita telanjang lainnya menari di latar belakang. Video tersebut dibingkai oleh serangkaian gambar karakter bergaya anime. Video fotorealistik lainnya menampilkan wanita telanjang buatan AI dengan pisau tertancap di alat kelaminnya, dengan darah terlihat di kaki dan tempat tidur.
Video pendek lainnya mencakup citra selebritas wanita dunia nyata yang terlibat aktivitas seksual, serta serangkaian video yang juga tampak menunjukkan pembawa berita televisi mengangkat atasan mereka untuk memperlihatkan payudara. Satu video produksi Grok menggambarkan rekaman rekaman CCTV yang diputar di TV, di mana seorang satpam meraba wanita tanpa atasan di tengah pusat perbelanjaan.
Beberapa video—kemungkinan dibuat untuk mencoba menghindari sistem keamanan konten Grok yang mungkin membatasi konten grafis—menyamar sebagai poster “film” Netflix: Dua video menunjukkan penggambaran AI telanjang dari Diana, Putri Wales, berhubungan seks dengan dua pria di atas tempat tidur dengan overlay yang menampilkan logo Netflix dan serialnya *The Crown*.
Sekitar 800 dari URL Imagine yang diarsipkan berisi video atau gambar yang dibuat oleh Grok, kata Paul Bouchaud, peneliti utama di organisasi nirlaba AI Forensics yang berbasis di Paris, yang meninjau konten tersebut. URL tersebut telah diarsipkan sejak Agustus tahun lalu dan hanya mewakili cuplikan kecil dari cara orang menggunakan Grok, yang secara keseluruhan kemungkinan telah menciptakan jutaan gambar.
“Mayoritas besar adalah konten seksual,” kata Bouchaud tentang arsip 800 video dan gambar Grok tersebut. “Seringkali itu adalah konten eksplisit manga dan hentai serta yang [lain] fotorealistik. Kami menemukan ketelanjangan penuh, video porno lengkap dengan audio, yang cukup baru.”
Bouchaud memperkirakan dari 800 unggahan tersebut, sedikit di bawah 10 persen kontennya tampak terkait materi penyalahgunaan seksual anak (CSAM). “Biasanya itu hentai, tetapi ada juga contoh orang fotorealistik, yang terlihat sangat muda, melakukan aktivitas seksual,” ujar Bouchaud. “Kami masih mengamati beberapa video wanita yang berpenampilan sangat muda sedang menanggalkan pakaian dan melakukan aktivitas dengan pria,” katanya. “Itu mengganggu ke tingkat yang lain.”
Sang peneliti mengatakan mereka melaporkan sekitar 70 URL Grok, yang mungkin mengandung konten terseksualisasi anak di bawah umur, kepada regulator di Eropa. Di banyak negara, CSAM buatan AI, termasuk gambar atau animasi, dapat dianggap ilegal. Pejabat Prancis tidak segera menanggapi permintaan komentar WIRED; akan tetapi, kantor jaksa penuntut Paris baru-baru ini menyatakan dua anggota parlemen telah mengajukan keluhan ke kantornya, yang sedang menyelidiki perusahaan media sosial tersebut, terkait gambar-gambar “tertelanjangi” itu.