Grok Imagine, alat generatif AI terbaru dari xAI yang membuat gambar dan video AI, tidak memiliki batasan jelas terhadap konten seksual dan deepfake.
xAI dan Elon Musk meluncurkan Grok Imagine akhir pekan lalu, dan sekarang tersedia di aplikasi Grok untuk iOS dan Android bagi pelanggan xAI Premium Plus dan Heavy Grok.
Mashable telah menguji alat ini membandingkannya dengan alat pembuat gambar dan video AI lain. Dari kesan pertama, teknologinya tertinggal dibanding OpenAI, Google, dan Midjourney secara teknis. Grok Imagine juga kekurangan pengaman standar industri untuk mencegah deepfake dan konten seksual. Mashable sudah menghubungi xAI dan akan memperbarui artikel ini jika ada tanggapan.
Kebijakan Penggunaan yang Diterima xAI melarang pengguna “menggambarkan sosok orang secara pornografi.” Sayangnya, ada perbedaan besar antara “seksual” dan “pornografi,” dan Grok Imagine sepertinya dirancang untuk memanfaatkan area abu-abu ini. Alat ini bisa membuat gambar dan video yang menggoda secara seksual, tapi tidak sampai menunjukkan ketelanjangan, ciuman, atau aktivitas seksual.
Sebagian besar perusahaan AI mainstream punya aturan eksplisit yang melarang pembuatan konten berbahaya, termasuk materi seksual dan deepfake selebriti. Selain itu, pesaing seperti Google Veo 3 atau Sora dari OpenAI memiliki proteksi bawaan yang mencegah pembuatan gambar/video tokoh publik. Pengguna bisa saja menghindari proteksi ini, tapi setidaknya ada batasan tertentu.
Tidak seperti pesaing utamanya, xAI tidak menghindar dari konten NSFW dalam chatbot AI-nya, Grok. Perusahaan baru-baru ini memperkenalkan avatar anime yang flirty dan bisa terlibat obrolan NSFW. Alat pembuat gambar Grok juga mengizinkan pembuatan gambar selebritas dan politisi. Grok Imagine bahkan punya pengaturan “Spicy,” yang dipromosikan Musk setelah peluncurannya.
Avatar anime “spicy” Grok.
Kredit: Cheng Xin/Getty Images
Henry Ajder, pakar deepfake AI, mengatakan dalam wawancara dengan Mashable bahwa filosofi Musk cenderung libertarian. Grok digambarkan sebagai LLM untuk kebebasan berekspresi. Menurutnya, X (Twitter), xAI, dan Grok memakai pendekatan laissez-faire dalam moderasi keamanan.
“Jadi, dalam konteks xAI, apa aku terkejut model ini bisa hasilkan konten yang tidak nyaman dan agak bermasalah? Tidak, mengingat rekam jejak mereka. Apakah mereka satu-satunya yang punya tantangan ini? Tidak. Tapi apakah mereka bisa berbuat lebih, atau justru melakukan lebih sedikit dibanding pemain utama lain? Sepertinya iya,” kata Ajder.
Grok Imagine cenderung mengizinkan NSFW
Grok Imagine sebenarnya punya beberapa pengaman. Dalam pengujian kami, opsi “Spicy” dihilangkan untuk beberapa jenis gambar. Beberapa gambar/video juga dikaburkan dan diberi label “Moderated.” Artinya, xAI bisa mengambil langkah lebih jauh untuk mencegah penyalahgunaan.
“Tidak ada alasan teknis mengapa xAI tidak bisa memasang pengaman di input dan output sistem AI generatif mereka, seperti yang dilakukan lainnya,” kata Hany Farid, pakar forensik digital dan profesor ilmu komputer UC Berkeley.
Tapi dalam hal deepfake atau konten NSFW, xAI tampak lebih permisif dibanding pesaingnya yang lebih hati-hati. xAI juga bergerak cepat meluncurkan model dan alat AI baru—mungkin terlalu cepat, menurut Ajder.
“Tim keamanan dan kebijakan etis, termasuk red teaming dan pengujian adversial, butuh waktu. Kecepatan rilis alat X sepertinya lebih singkat dari rata-rata lab lain,” ujarnya.
Pengujian Mashable menunjukkan moderasi konten Grok Imagine jauh lebih longgar dibanding alat generatif AI mainstream lain.
**Pendekatan Laissez-faire xAI terhadap Moderasi Juga Tercermin dalam Panduan Keamanan xAI**
### **OpenAI dan Google AI vs. Grok: Perbedaan Pendekatan Perusahaan AI dalam Keamanan dan Moderasi Konten**
*Kredit: Jonathan Raa/NurPhoto via Getty Images*
OpenAI dan Google memiliki dokumentasi lengkap yang menjabarkan pendekatan mereka terkait penggunaan AI secara bertanggung jawab dan larangan konten tertentu. Misalnya, dokumentasi Google secara spesifik melarang konten “Seksual Eksplisit.”
Sebuah **[dokumen keamanan Google](https://ai.google.dev/responsible/docs/design#define-policies)** menyatakan, “Aplikasi tidak akan menghasilkan konten yang mengandung referensi tindakan seksual atau konten cabul (misalnya, deskripsi grafis seksual, konten yang bertujuan membangkitkan hasrat).” Google juga memiliki kebijakan melawan ujaran kebencian, pelecehan, dan konten berbahaya. **Kebijakan Larangan Penggunaan AI Generatif** mereka melarang penggunaan alat AI untuk “Mempromosikan gambar intim non-konsensual.”
OpenAI juga mengambil langkah proaktif terhadap deepfake dan konten seksual. **Sebuah postingan blog OpenAI** tentang peluncuran Sora menjelaskan langkah-langkah pencegahan penyalahgunaan, termasuk memblokir materi pelecehan seksual anak dan deepfake seksual. Mereka memprioritaskan deteksi dini dan melaporkan kasus ke **National Center for Missing & Exploited Children (NCMEC)**.
Pendekatan ini sangat berbeda dengan cara Elon Musk mempromosikan **Grok Imagine** di X, di mana ia membagikan video pendek seorang wanita berpakaian minim. *(Tweet ini tidak tersedia—mungkin dihapus atau sedang dimuat.)*
OpenAI juga menerapkan **[langkah sederhana](https://openai.com/safety/)** untuk mencegah deepfake, seperti menolak permintaan gambar atau video yang menyebut nama figur publik. Sementara itu, alat AI video Google sangat sensitif terhadap gambar yang menyerupai seseorang.
Dibandingkan kerangka keamanan panjang mereka (yang masih dinilai kurang memadai oleh banyak ahli), **Kebijakan Penggunaan xAI** kurang dari 350 kata dan lebih menekankan tanggung jawab pengguna: “Anda bebas menggunakan Layanan kami asalkan bertindak aman, patuh hukum, dan menghormati batasan kami.”
Saat ini, regulasi tentang deepfake AI dan gambar intim non-konsensual (NCII) masih dalam tahap awal. Presiden Donald Trump baru-baru ini **menandatangani Undang-Undang Take It Down** yang melarang distribusi deepfake, meski tidak mengkriminalisasi pembuatannya.
*”Di AS, Undang-Undang Take It Down mewajibkan platform media sosial menghapus NCII setelah diberitahu,”* jelas Farid kepada Mashable. *”Beberapa undang-undang negara bagian melarang pembuatan NCII, tetapi penegakannya masih tidak konsisten.”*
—
*Pernyataan: Ziff Davis, perusahaan induk Mashable, menggugat OpenAI pada April lalu atas dugaan pelanggaran hak cipta dalam pelatihan sistem AI.*