Alat kecerdasan buatan milik Elon Musk, Grok, kini dikabarkan hanya dapat diakses oleh pelanggan berbayar X. Langkah ini diambil menyusul kemarahan publik atas gambar-gambar bernuansa seksual dan kekerasan yang dilaporkan dihasilkan oleh asisten AI platform tersebut.
Pada awal pekan ini, berita muncul bahwa Grok diduga menghapus pakaian wanita dalam gambar secara digital tanpa persetujuan mereka, sebagai respons terhadap permintaan pengguna. Pengguna X juga dilaporkan meminta chatbot tersebut untuk memanipulasi foto-foto wanita agar terlihat mengenakan pakaian renang atau bahkan dalam situasi seksual.
Sekarang, ketika pengguna yang bukan pelanggan berbayar meminta Grok untuk mengedit gambar, Grok merespons dengan pesan berikut yang dilihat Mashable: “Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk membuka fitur-fitur ini,” disertai tautan ke halaman pendaftaran X Premium.
Sementara Grok berulang kali menyatakan bahwa fitur ini dipaywall, The Verge mencatat bahwa “alat tersebut tidak lagi menghasilkan gambar sebagai balasan @grok secara gratis, tetapi alat pengeditan gambar Grok tetap tersedia dengan mudah bagi pengguna X mana pun untuk menghasilkan gambar, baik yang seksual maupun yang biasa.”
Grok merespons Mashable dengan menyatakan bahwa “per 9 Januari 2026, pembuatan dan pengeditan gambar melalui Grok di X dibatasi untuk pelanggan berbayar menyusul backlash atas penyalahgunaan.” Namun, mereka menambahkan bahwa beberapa non-pelanggan mungkin masih dapat mengaksesnya di aplikasi Grok mandiri.
Mashable memang menerima tanggapan dari X, yang menyatakan bahwa pernyataan mereka saat ini telah diposting (meski beberapa hari lalu) di akun Keamanan X, berbunyi: “Siapa pun yang menggunakan atau meminta Grok untuk membuat konten ilegal akan mendapat konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal.” Tidak ada klarifikasi tambahan mengenai pembatasan berbayar tersebut.
Pekan ini, analis dari lembaga amal Internet Watch Foundation di Inggris mengatakan mereka menemukan “citra kriminal” termasuk “citra yang diseksualkan dan tanpa atasan” anak-anak berusia 11-13 di sebuah “forum dark web” tanpa nama, yang klaim pengguna dibuat menggunakan Grok. Pada hari Senin, regulator komunikasi Inggris Ofcom mengatakan telah “melakukan kontak darurat” dengan X dan xAI mengenai “gambar-gambar terseksualisasi anak-anak” yang diduga dihasilkan oleh Grok.
Grok memang mengakui pekan lalu bahwa gambar-gambar yang dihasilkan dari “anak di bawah umur dengan pakaian minim” merupakan bagian dari masalah yang lebih besar terkait deepfake. “xAI memiliki pengamanan, tetapi perbaikan sedang berlangsung untuk sepenuhnya memblokir permintaan semacam itu,” bunyi respons Grok.
Grok kini sedang diselidiki oleh pemerintah Prancis, India, dan Malaysia karena menghasilkan deepfake seksual dalam apa yang tampak sebagai awal dari tindakan keras global terhadap asisten AI ini.
Kabar bahwa Grok kini hanya akan tersedia bagi pelanggan berbayar dinilai belum cukup, menurut pernyataan juru bicara resmi Perdana Menteri Inggris Sir Keir Starmer, yang menyebut langkah tersebut “menghina” para penyintas kekerasan seksual dan misogini.
Downing Street mengatakan kepada wartawan bahwa membatasi pembuatan gambar di balik paywall “secara sederhananya mengubah fitur AI yang memungkinkan pembuatan gambar melanggar hukum menjadi layanan premium”.
Awal pekan ini, Starmer mengatakan dalam sebuah wawancara bahwa pembuatan citra seksual wanita dan anak-anak oleh Grok adalah “memalukan” dan “menjijikkan,” seraya mengatakan “Itu tidak bisa ditoleransi… Ofcom mendapat dukungan penuh kami untuk mengambil tindakan terkait hal ini.”
Ini bisa berarti pemerintah Inggris dapat melarang X jika perlindungan yang memadai tidak diperkenalkan oleh pemilik X, Elon Musk, di platformnya. Regulator Ofcom memiliki kewenangan untuk memblokir situs web atau aplikasi di Inggris melalui perintah pengadilan, selain memberi denda kepada perusahaan sebesar 10 persen dari omset globalnya.
Pada saat publikasi, X belum memberikan komentar publik mengenai masalah ini.
Jika Anda pernah mengalami pelecehan seksual, hubungi saluran bantuan National Sexual Assault yang gratis dan rahasia di 1-800-656-HOPE (4673), atau akses bantuan 24/7 secara online dengan mengunjungi online.rainn.org.
UPDATE: 9 Jan. 2026, 15:58 Diperbarui dengan informasi tambahan.