Minggu ini, Elon Musk secara resmi meluncurkan Grok Imagine, generator gambar dan video dari xAI untuk iOS, khusus bagi pelanggan SuperGrok dan Premium+ X. Aplikasi ini memungkinkan pengguna membuat konten NSFW dengan mode "Spicy", dan The Verge melaporkan bahwa pengguna bisa dengan mudah membuat video Taylor Swift tanpa atasan—bahkan tanpa memintanya secara eksplisit. Tapi bukan cuma Swift yang harus khawatir soal alat AI baru Musk ini yang bisa menghasilkan konten porno ringan.
Gizmodo membuat sekitar dua lusin video politisi, selebriti, dan tokoh teknologi menggunakan mode Spicy Grok, meski beberapa dikaburkan atau muncul pesan "video dimoderasi." Ketika Grok berhasil membuat gambar skandal, biasanya hanya menggambarkan wanita dalam situasi yang benar-benar tidak pantas. Video pria justru terlihat biasa-baik saja dan tak mengejutkan.
X dibanjiri gambar AI wanita telanjang dan tips untuk menghasilkan gambar paling vulgar. Tapi pengguna—yang telah membuat puluhan juta gambar Grok Imagine menurut Musk—tak perlu usaha keras untuk membuat deepfake selebriti telanjang. Gizmodo tak secara eksplisit meminta ketelanjangan dalam contoh yang kami sebut, tapi tetap mendapat banyak hasil vulgar. Cukup dengan mengklik tombol Spicy, salah satu dari empat opsi (Custom, Fun, Normal).
Gizmodo menguji Grok Imagine dengan menghasilkan video tidak hanya Taylor Swift, tapi juga wanita terkemuka seperti Melania Trump dan tokoh sejarah semacam Martha Washington. Melania Trump sendiri pendukung vokal Take It Down Act, yang melarang penyebaran gambar intim non-konsensual, termasuk deepfake.
Grok juga membuat video NSFW Valerie Solanas, penulis feminis legendaris SCUM Manifesto (1967). Hampir semua video wanita yang kami uji menggambarkan mereka melepas pakaian hingga telanjang dada, tapi video Solanas unik karena menampakkannya benar-benar telanjang bulat.
Bagaimana hasilnya saat mencoba membuat video Spicy pria? AI hanya membuat figur pria melepas kemeja—tidak lebih dari itu. Saat Gizmodo menyadari batasan ini, kami meminta AI membuat gambar Elon Musk tanpa atasan. Hasilnya? Video sangat konyol (dan aman) yang bisa kamu lihat di sini.
Upaya membuat video Mark Zuckerberg, Jeff Bezos, Joaquin Phoenix, Charlie Chaplin, hingga Presiden Obama, Clinton, dan George Washington menemui batasan serupa. Video pria biasanya hanya menampakkan dada telanjang, tanpa konten lebih vulgar. Jika ada, itu malah bikin malu sampai pengguna mungkin mati kejeduk malu.
Ketika kami mencoba membuat video pria generik (bukan figur publik), hasil tetep aneh: seorang pria menggapai-gapai celananya yang jadi kombinasi pendek di satu sisi dan jeans panjang di sisi lain. Audio tiap video juga dihasilkan otomatis tanpa instruksi tambahan.
Sebaliknya, video wanita generik jauh lebih vulgar: sosok perempuan dalam baju renang yang menurunkan atasan hingga memperlihatkan payudara telanjang.
Kebanyakan generator video AI mainstream (seperti Sora OpenAI dan Veo Google) punya batasan untuk mencegah konten seperti revenge porn. Tampaknya xAI juga punya, setidaknya untuk pria. Tapi kebanyakan orang pasti akan keberatan jika wajah mereka digunakan untuk membuat avatar AI dalam keadaan telanjang. Gizmodo menghubungi Musk via xAI menanyakan langkah pengamanan dan apakah boleh pengguna membuat video selebriti telanjang. Belum ada jawaban.
Salah satu hal paling mencolok dari generator gambar Grok adalah kemampuannya yang payah dalam membuat gambar palsu selebriti yang meyakinkan. Misalnya, gambar di bawah seharusnya menggambarkan Wakil Presiden JD Vance dan aktris Sydney Sweeney—tapi sama sekali tidak mirip. Ini mungkin jadi "penyelamat" bagi Musk, mengingat alat seperti ini pasti akan mengundang tuntutan hukum.
Ada juga beberapa glitch, seperti gambar AI Presiden Harry Truman yang miripnya dikit, dengan puting di luar kemeja. Truman dalam mode Spicy memang melepas kemeja, tapi dadanya punya puting yang kembar persis.
Ketika Gizmodo membuat gambar dengan perintah "penulis Gizmodo Matt Novak", hasilnya mirip video Elon Musk dan pria generik: figur (yang jauh lebih bugar dari Matt Novak asli) melepas kemeja dengan sekali klik tombol Spicy.
Seperti dicatat The Verge, ada verifikasi usia saat pengguna pertama kali mencoba membuat video, tapi tidak ada pemeriksaan lebih lanjut untuk memastikan tahun kelahiran pengguna. Untungnya, saat Gizmodo mencoba membuat kartun Mickey Mouse dalam mode Spicy, hasilnya tidak vulgar—hanya karakter animasi melompat biasa. Gambar Batman juga cuma menampakkannya tanpa atasan.
Gizmodo tidak mencoba membuat gambar anak-anak, tapi The Verge melaporkan tidak ada hasil tidak pantas. Mode "Spicy" tetap terdaftar sebagai opsi, tapi hanya menambahkan gerakan generik. Elon Musk sendiri pernah mengaktifkan kembali akun X yang memposting materi pelecehan seksual anak pada 2023, menurut Washington Post.
Mungkin tidak mengejutkan kalau generator video NSFW Musk punya standar berbeda untuk pria dan wanita. Miliuner ini baru-baru ini retweet tokoh far-right yang mengklaim wanita "anti-kulit putih" karena mereka "lemah." CEO Tesla, yang pernah bilang tahun ini bahwa dia ingin menghamili Taylor Swift, memang bukan dikenal sebagai pejuang hak perempuan.
Gizmodo berlangganan SuperGrok $30/bulan, tapi hanya bisa mengujinya selama 1,5 jam sebelum mencapai batas pembuatan gambar. Anehnya, pengguna masih bisa membuat satu gambar diam setelah peringatan muncul, lalu menghasilkan video NSFW darinya—tapi dengan batasan lebih ketat.
Kami ditawarkan upgrade ke SuperGrok Heavy ($300/bulan) untuk akses penuh. Tapi karena sudah mendapat jawaban yang dicari (sayangnya), kami menolak.