Komisi Eropa telah meluncurkan investigasi terhadap X milik Elon Musk atas kekhawatiran bahwa alat AI-nya, Grok, digunakan untuk membuat gambar-gambar terseksualisasikan dari orang-orang nyata.
Langkah ini menyusul pengumuman serupa pada Januari lalu dari badan pengawas Inggris, Ofcom.
Regina Doherty, anggota Parlemen Eropa yang mewakili Irlandia, menyatakan bahwa Komisi akan menilai apakah “gambar-gambar eksplisit seksual yang dimanipulasi” telah ditampilkan kepada pengguna di Uni Eropa.
Sebuah pernyataan sebelumnya dari akun Keamanan X menyebut bahwa platform media sosial tersebut telah menghentikan Grok untuk mengubah gambar digital orang guna menghilangkan pakaian mereka di “yurisdiksi di mana konten semacam itu ilegal”.
Namun, para pegiat dan korban berpendapat bahwa kemampuan untuk menghasilkan gambar-gambar eksplisit seksual menggunakan alat tersebut seharusnya “tidak pernah terjadi” sejak awal, dan Ofcom menyatakan bahwa investigasi mereka akan terus berlanjut.
Regulator Uni Eropa menyatakan dapat “menerapkan tindakan sementara” jika X menolak untuk melakukan penyesuaian yang berarti.
Mereka juga menyatakan telah memperpanjang investigasi yang sedang berjalan sejak Desember 2023 terkait risiko yang terkait dengan sistem rekomendasi X—algoritme yang merekomendasikan postingan tertentu kepada pengguna.
Sebelum pengumuman Komisi, Elon Musk memposting sebuah gambar di X pada hari Senin yang terkesan menganggap remeh pembatasan baru yang diterapkan pada Grok.
Pemilik X sebelumnya telah mengkritik pihak-pihak yang mengawasi fungsi pengeditan gambar aplikasi tersebut—terutama pemerintah Inggris—dengan menyebutnya sebagai “dalih apa pun untuk sensor”.
Pada hari Minggu, akun Grok di X mengklaim lebih dari 5,5 miliar gambar telah dihasilkan oleh alat tersebut hanya dalam 30 hari.
Dalam pernyataannya kepada Reuters, Doherty menyatakan terdapat “pertanyaan serius” mengenai apakah platform seperti X memenuhi kewajiban hukum “untuk menilai risiko secara tepat dan mencegah konten ilegal serta berbahaya menyebar”.
“Uni Eropa memiliki aturan yang jelas untuk melindungi orang daring,” ujarnya.
“Aturan-aturan itu harus berarti dalam praktiknya, terutama ketika teknologi yang kuat digunakan dalam skala besar.”
“Tidak ada perusahaan yang beroperasi di Uni Eropa yang berada di atas hukum.”
Juru bicara dari Coimisiún na Meán, regulator media Irlandia, menyambut berita ini.
“Tidak ada tempat dalam masyarakat kita untuk penyalahgunaan citra intim non-konsensual atau materi pelecehan seksual anak,” kata mereka.
Langkah ini muncul sebulan setelah Uni Eropa menjatuhkan denda €120 juta (£105 juta) kepada X atas lencana centang birunya, dengan alasan lencana itu “menyesatkan pengguna” karena perusahaan tidak “memverifikasi secara berarti” pihak di balik akun tersebut.
Sebagai tanggapan, Menteri Luar Negeri AS Marco Rubio dan Komisi Komunikasi Federal (FCC) menuduh regulator Uni Eropa menyerang dan mensensor perusahaan-perusahaan AS.
“Denda dari Komisi Eropa bukan hanya serangan terhadap X, tetapi serangan terhadap semua platform teknologi Amerika dan rakyat Amerika oleh pemerintah asing,” katanya.
Ucapan tersebut dibagikan ulang oleh Musk, yang menambahkan kata “sangat benar”.