Pengadilan menolak klaim xAI bahwa langkah-langkah telah diambil setelah penggugat menghasilkan video orang telanjang sesaat sebelum persidangan.
Diterbitkan Pada 26 Mar 2026
Sebuah pengadilan Belanda telah memerintahkan xAI milik Elon Musk untuk menghentikan pembuatan dan penyebaran gambar telanjang orang tanpa persetujuan mereka di Belanda, dengan peringatan akan mengenakan denda sebesar 100.000 euro ($115.350) per hari jika tidak patuh.
Pengadilan Distrik Amsterdam memutuskan pada Kamis bahwa alat kecerdasan buatan Grok milik xAI serta platform X yang menampungnya dilarang “menghasilkan dan/atau mendistribusikan citra seksual” yang menampilkan orang “sebagian atau seluruhnya telanjang tanpa memberikan izin eksplisit mereka”.
Rekomendasi Cerita
Keputusan dalam gugatan perdata ini merupakan salah satu kali pertama seorang hakim mempertimbangkan tanggung jawab xAI dalam menciptakan alat yang dapat digunakan untuk membuat citra bersifat seksual, di tengah banjir keluhan dan penyelidikan atas Grok di Amerika, Eropa, Asia, dan Australia.
Grok diluncurkan oleh Musk pada 2023 dan didistribusikan melalui platform media sosial miliknya, X, yang kini menjadi bagian dari perusahaan roket dan eksplorasi ruang angkasanya, SpaceX.
Offlimits, sebuah pusat pemantau kekerasan daring Belanda, mengambil tindakan hukum bekerja sama dengan nirlaba Dana Dukungan Korban atas sebuah fitur Grok yang memungkinkan pengguna memintanya membuat montase deepfake hiper-realistis dari perempuan dan anak-anak telanjang menggunakan foto asli.
Pada persidangan awal bulan ini, pengacara xAI berargumen bahwa mustahil menjamin penyalahgunaan di platformnya dapat dicegah, dan perusahaan tidak seharusnya dihukum atas tindakan pengguna beritikad buruk.
Mereka menyatakan perusahaan telah mengambil langkah pada Januari untuk mencegah Grok mengedit gambar orang nyata dalam pakaian terbuka, termasuk membatasi fitur pembuatan gambarnya hanya untuk pelanggan berbayar.
Situs web pengadilan menyatakan hakim memutuskan bahwa Offlimits telah menunjukkan adanya keraguan yang masuk akal atas efektivitas langkah-langkah yang diambil hingga saat ini. “Misalnya, Offlimits berhasil memproduksi video seorang telanjang menggunakan Grok sesaat sebelum persidangan,” tulisnya.
Direktur Offlimits Robbert Hoving menyatakan “beban ada pada perusahaan” untuk memastikan alatnya tidak digunakan untuk menciptakan dan menyebarkan gambar seksual non-konsensual, termasuk gambar anak-anak.
Lebih awal pada Kamis, Parlemen Eropa menyetujui larangan sistem kecerdasan buatan yang menghasilkan deepfake bersifat seksual, setelah kemarahan global atas gambar telanjang yang diproduksi Grok tanpa persetujuan.