Presiden Komisi Ursula von der Leyen menyatakan Eropa tidak akan ‘mentolerir perilaku yang tak terpikirkan, seperti pelucutan digital terhadap perempuan dan anak-anak’.
Diterbitkan Pada 26 Jan 2026
Komisi Eropa telah meluncurkan penyelidikan terhadap chatbot AI Elon Musk, Grok, terkait pembuatan gambar palsu eksplisit seksual yang menampilkan perempuan dan anak di bawah umur.
Komisi mengumumkan pada Senin bahwa penyelidikan akan mengkaji apakah alat AI yang digunakan di X telah memenuhi kewajiban hukumnya menurut Undang-Undang Layanan Digital (DSA) Uni Eropa, yang mewajibkan perusahaan media sosial untuk menangani konten online ilegal dan berbahaya.
Rekomendasi Cerita
Brussels menyatakan penyelidikan akan menguji apakah X telah memitigasi dengan tepat “risiko terkait penyebaran konten ilegal di UE, seperti gambar eksplisit seksual yang dimanipulasi, termasuk konten yang dapat dikategorikan sebagai materi pelecehan seksual anak”.
Dalam pernyataan kepada kantor berita AFP, Presiden Komisi Eropa Ursula von der Leyen menegaskan Eropa tidak akan “mentolerir perilaku yang tak terpikirkan, seperti pelucutan digital terhadap perempuan dan anak-anak”.
“Ini sederhana – kami tidak akan menyerahkan persetujuan dan perlindungan anak kepada perusahaan teknologi untuk dilanggar dan dikomersilkan. Kerugian yang disebabkan oleh gambar ilegal ini sangat nyata,” tambahnya.
Grok menghadapi kecaman belakangan ini setelah terungkap bahwa pengguna dapat meminta chatbot itu untuk membuat deepfake perempuan dan anak-anak hanya dengan menggunakan perintah seperti “kenakan ia bikinini” atau “lepaskan pakaiannya”.
Komisaris Teknologi UE Henna Virkkunen menegaskan hak perempuan dan anak-anak di UE tidak boleh menjadi “kerusakan kolateral” dari layanan X.
“Deepfake seksual non-konsensual terhadap perempuan dan anak-anak merupakan bentuk degradasi yang kasar dan tak dapat diterima,” ujar Virkkunen dalam sebuah pernyataan.
X telah berada dalam penyelidikan UE terkait aturan konten digitalnya sejak Desember 2023.
Bulan ini, Grok menyatakan akan membatasi generasi dan penyuntingan gambar hanya untuk pelanggan berbayar setelah menerima kritik atas kemampuan alat tersebut.
Sebuah organisasi nirlaba, Centre for Countering Digital Hate, merilis laporan pekan lalu yang menemukan bahwa Grok diperkirakan telah menghasilkan sekitar 3 juta gambar yang diseksualisasi dari perempuan dan anak-anak hanya dalam hitungan hari.
Pada Desember lalu, UE memerintahkan X untuk membayar denda sebesar 120 juta euro ($140 juta) karena melanggar kewajiban transparansi dalam DSA.
UE bukanlah satu-satunya badan yang menyelidiki alat Grok; regulator media Inggris, Ofcom, mengumumkan telah meluncurkan penyelidikan terhadap X untuk menentukan apakah perusahaan itu telah mematuhi persyaratan dalam Undang-Undang Keamanan Online Inggris.