Keluhan kian bertumpuk mengenai fitur ‘edit gambar’ baru Grok yang dieksploitasi sebagian pengguna X untuk membuka pakaian orang secara digital.
Diterbitkan Pada 5 Jan 20265 Jan 2026
Klik untuk membagikan di media sosial
bagikan2
Komisi Eropa telah mengutuk penyebaran konten eksplisit berkarakter anak-anak yang dilaporkan di platform media sosial X, menyebut materi tersebut “mengerikan” dan “menjijikkan”.
Juru bicara urusan digital Uni Eropa, Thomas Regnier, menyampaikan komentar tersebut kepada wartawan pada Senin setelah berminggu-minggu keluhan mengenai fitur baru pada chatbot AI terintegrasi X, Grok, yang digunakan untuk menghasilkan konten pornografi, termasuk yang menggambarkan anak-anak.
Rekomendasi Cerita
daftar 4 itemakhir daftar
“Grok kini menawarkan ‘mode pedas’ yang menampilkan konten seksual eksplisit dengan beberapa hasil yang dihasilkan menggunakan gambar mirip anak-anak,” kata Regnier. “Ini bukan pedas. Ini ilegal. Ini mengerikan. Ini menjijikkan.”
Regnier mengatakan Komisi Eropa “sedang meninjau dengan sangat serius” masalah ini, dan konten semacam itu “tidak memiliki tempat di Eropa”.
Sementara itu, kantor kejaksaan umum di Paris, Prancis, memperluas penyelidikan terhadap X untuk memasukkan tuduhan bahwa Grok – yang dibuat oleh perusahaan xAI Elon Musk – telah digunakan untuk menghasilkan dan menyebarluaskan pornografi anak.
‘Menunggu untuk Dipersenjatai’
Pada akhir Desember, fitur baru “edit gambar” pada Grok memungkinkan pengguna untuk memodifikasi gambar apa pun di platform. Sebagian pengguna meminta Grok untuk menghapus sebagian atau seluruh pakaian dari wanita atau anak-anak dalam gambar.
Grok memenuhi banyak permintaan pengguna untuk mengubah foto wanita sehingga menggambarkan mereka dalam pakaian yang terbuka, seperti bikini transparan.
Grok pada Jumat mengakui “kelalaian dalam pengamanan” dan mengatakan sedang “memperbaikinya dengan segera”. “CSAM [Materi Penyalahgunaan Seksual Anak] adalah ilegal dan dilarang,” bunyi sebuah unggahan.
Tapi para ahli keamanan AI mengatakan platform tersebut mengabaikan peringatan selama berbulan-bulan bahwa penyalahgunaan seperti itu akan segera terjadi.
“Pada Agustus, kami memperingatkan bahwa pembuatan gambar xAI pada dasarnya adalah alat pelucutan pakaian yang menunggu untuk dipersenjatai,” kata Tyler Johnston, direktur eksekutif kelompok pengawas AI The Midas Project. “Pada dasarnya itulah yang terjadi.”
X, yang diakuisisi Musk pada 2022, telah menghadapi reaksi keras dari UE karena kebijakan periklanan dan moderasi kontennya.
Brussels pada Desember menjatuhkan denda 120 juta euro ($140 juta) kepada platform tersebut karena melanggar aturan konten digital UE tentang transparansi periklanan dan metode verifikasi pengguna.
X masih menjadi subjek penyelidikan di bawah Undang-Undang Layanan Digital UE dalam penyelidikan yang dimulai pada Desember 2023.
Grok memiliki sejarah kontroversial, termasuk untuk menghasilkan konten ahistoris dan penuh prasangka. Tahun lalu, perusahaan Musk menghapus postingan dari chatbot yang tampak memuji Adolf Hitler setelah keluhan mengenai konten anti-Semit.