Platform X milik Elon Musk kini membatasi fitur pengeditan gambar dengan alat AI-nya, Grok, hanya untuk pengguna berbayar. Kebijakan ini diambil setelah platform tersebut mendapat kecaman karena memungkinkan orang membuat deepfake yang disexualisasi.
Muncul reaksi keras setelah chatbot itu memenuhi permintaan pengguna untuk mengubah gambar digital orang lain dengan cara menanggalkan pakaian mereka tanpa persetujuan.
Kini, Grok memberi tahu pengguna yang meminta pembuatan materi semacam itu bahwa hanya pelanggan berbayar yang dapat melakukannya—artinya nama dan informasi pembayaran mereka harus tercatat.
BBC telah menghubungi X untuk meminta tanggapan.
Mereka yang tidak berlangganan masih dapat menggunakan Grok untuk mengedit gambar di aplikasi dan situs web terpisahnya.
“Musk telah menunjukkan sikap protesnya karena dituntut bertanggung jawab atas gelombang penyalahgunaan ini,” ujar Profesor Clare McGlynn, ahli regulasi hukum pornografi, kekerasan seksual, dan pelecehan daring.
“Alih-alih mengambil langkah-langkah bertanggung jawab untuk memastikan Grok tidak dapat digunakan untuk tujuan pelecehan, mereka justru mencabut akses bagi mayoritas besar pengguna.”
Sementara itu, Hannah Swirsky, Kepala Kebijakan di Internet Watch Foundation, menyatakan bahwa langkah ini “tidak mengatasi kerugian yang telah terjadi.”
“Kami tidak percaya cukup hanya dengan membatasi akses ke alat yang seharusnya tidak pernah memiliki kapasitas untuk menciptakan citra semacam yang kita saksikan belakangan ini,” tuturnya.
Lembaga amal tersebut sebelumnya menyatakan analisnya menemukan “citra kriminal” anak perempuan berusia 11 hingga 13 tahun yang “tampaknya dibuat” menggunakan Grok.
“Duduk menunggu produk yang tidak aman disalahgunakan sebelum bertindak adalah hal yang tidak dapat diterima,” kata Swirsky.
Hal ini terjadi setelah pemerintah mendesak regulator Ofcom untuk menggunakan seluruh kewenangannya—hingga larangan efektif—terhadap X terkait kekhawatiran atas gambar AI ilegal yang dibuat di situs tersebut.
Menanggapi kekhawatiran bahwa citra seksual orang dewasa dan anak-anak telah dihasilkan oleh Grok, Perdana Menteri Sir Keir Starmer menyebutnya “memalukan” dan “menjijikkan”.
Dia mengatakan Ofcom mendapat “dukungan penuh” pemerintah untuk bertindak atas konten tersebut.
“Itu melanggar hukum. Kami tidak akan mentolerirnya. Saya telah meminta agar semua opsi dipertimbangkan,” ujarnya dalam wawancara dengan Greatest Hits Radio.
Sumber pemerintah kepada BBC News menyatakan: “Kami mengharapkan Ofcom untuk menggunakan semua kewenangan yang dimilikinya terkait Grok dan X.”
Kewenangan Ofcom berdasarkan Undang-Undang Keamanan Daring termasuk kemampuan untuk mengajukan perintah pengadilan guna mencegah pihak ketiga membantu platform milik Elon Musk tersebut mengumpulkan dana atau diakses di Inggris.
BBC telah menghubungi regulator untuk meminta komentar.
Grok adalah alat gratis yang dapat ditandai langsung oleh pengguna dalam kiriman atau balasan untuk meminta respons tertentu.
Namun, fitur ini juga memungkinkan orang memintanya untuk mengedit gambar—dan meminta agar seseorang secara digital dilucuti sebagian besar pakaiannya.
Grok telah memenuhi banyak permintaan pengguna untuk mengedit gambar perempuan agar menampilkan mereka dalam bikini atau sedikit pakaian—sesuatu yang oleh subjek permintaan semacam itu dikatakan membuat mereka merasa “terhina” dan “terdehumanisasi“.
Namun, per Jumat pagi, Grok memberi tahu pengguna yang meminta untuk mengubah gambar yang diunggah ke X bahwa “pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar”.
Disebutkan juga bahwa pengguna “dapat berlangganan untuk membuka fitur-fitur ini”.
Beberapa unggahan di platform yang dilihat BBC News menunjukkan hanya mereka yang memiliki tanda centang biru “terverifikasi”—khusus untuk tingkat pelanggan berbayar X—yang berhasil meminta pengeditan gambar ke Grok.
Dr. Daisy Dixon, seorang pengguna X perempuan yang mengatakan ia melihat peningkatan orang menggunakan Grok untuk menelanjanginya, menyambut baik perubahan ini namun merasa itu “seperti plester luka”.
“Grok perlu didesain ulang total dan memiliki pengaman etis bawaan untuk mencegah hal ini terulang lagi,” katanya kepada BBC.
“Elon Musk juga perlu mengakui ini sebagaimana adanya—sebagai satu lagi contoh pelanggaran berbasis gender.”
Prof. McGlynn mengatakan langkah X ini mengingatkan pada pendekatannya terhadap deepfake pornografi Taylor Swift di platform tersebut tahun lalu—di mana mereka memblokir pencarian materi seksual yang dibuat dari penyanyi pop itu menggunakan fitur video AI Grok.
“Dia melakukan ini untuk memicu perdebatan kebebasan berpendapat,” tambahnya.
“Dia akan klaim bahwa regulasi membelenggu penggunaan teknologi ini oleh masyarakat. Padahal, regulasi hanya menuntut dia untuk mengambil langkah pencegahan yang diperlukan untuk mengurangi bahaya.”