Ashley St Clair, seorang influencer konservatif berusia 27 tahun, sudah lama dikenal di dunia pendukung MAGA. Di awal usia dua puluhan, dia berhenti kuliah dan menjadi pendukung vokal untuk hal-hal sayap kanan, termasuk aktivisme anti-transgender. Lima tahun kemudian, dia punya anak dengan Elon Musk—seorang pria yang sekarang sedang dia lawan di pengadilan federal New York.
Awal bulan ini, St Clair mengajukan gugatan terhadap perusahaan AI milik Musk sebagai tanggapan atas banyaknya deepfake yang dibuat oleh chatbot Grok dari xAI dan dibagikan di X, platform media sosial yang dimiliki Musk. Dia bilang ke Fortune awal Januari bahwa pengguna X mengubah foto di profil X-nya menjadi gambar hasil AI yang seksual, termasuk beberapa yang menggambarkan dirinya seperti masih di bawah umur.
“Ada gambar saya tanpa penutup apa pun kecuali seutas benang dengan tas anak saya di latar belakang dan foto di mana saya terlihat tidak memakai atasan sama sekali,” katanya. “Saya merasa sangat jijik dan merasa dilanggar.”
Pertikaian antara St Clair dan X cuma satu bagian dari gelombang kemarahan yang lebih besar setelah model AI Grok dari xAI dipakai untuk kampanye ‘digital undressing’ tanpa izin yang luas mulai akhir Desember. Banyak pengguna menemukan mereka bisa tag Grok di platform X dan minta untuk mengedit gambar dari profil pengguna. Menurut penelitian dari Center for Countering Digital Hate, dalam rentang 11 hari—dari 29 Desember 2025 sampai 8 Januari 2026—Grok menghasilkan sekitar 3 juta gambar yang diseksualisasi.
Dalam gugatan, St Clair, yang beragama Yahudi, juga klaim bahwa chatbot AI itu membuat gambar yang menempatkannya “dalam bikini tali yang penuh simbol swastika.” Semakin St Clair angkat bicara soal masalah ini, katanya, semakin banyak gambar yang ditujukan padanya.
Pertarungan hukum jadi tidak enak dengan cepat. Setelah diberitahu tentang gugatan itu, perusahaan Musk hampir langsung menggugat balik si influencer konservatif, menuduhnya melanggar ketentuan layanan platform, yang menyatakan bahwa sengketa apa pun dengan X harus dibawa ke Texas. Perwakilan Musk tidak menanggapi pertanyaan spesifik dari Fortune.
Musk biasanya lebih suka bertarung hukum di Texas. Pada 2024, X memperbarui ketentuan layanannya untuk mewajibkan semua gugatan federal terhadap perusahaan diajukan di Distrik Utara Texas, meskipun kantor pusatnya ada di Bastrop, yang termasuk Distrik Barat Texas.
Musk dan perusahaannya tidak menyebut alasan untuk ketentuan itu. Tapi 10 dari 11 hakim aktif di Distrik Utara ditunjuk oleh presiden dari Partai Republik, dan tidak seperti kebanyakan pengadilan federal, distrik itu menetapkan kasus berdasarkan divisi tempat diajukan, bukan melalui penugasan acak. Pakar etika juga mengangkat kekhawatiran potensi konflik kepentingan karena Hakim Reed O’Connor, yang mengawasi beberapa gugatan yang melibatkan platform X milik Musk, punya saham Tesla. O’Connor kadang menolak untuk mundur diri, meski dia setidaknya sekali mengundurkan diri setelah kepemilikannya mendapat pengawasan.
“Ini benar-benar konyol,” kata St Clair soal gugatan balik itu, berargumen bahwa ketentuan layanan X tidak berlaku karena dia menggugat atas gambar yang dibuat tentang dirinya tanpa izinnya, bukan atas penggunaan platform olehnya sendiri.
St Clair bilang dia sekarang coba lawan gugatan balik itu, halangi perubahan tempat persidangan ke Texas, dan perjuangkan tanggung jawab yang lebih besar dari platform AI generatif.
“Ini tentang meminta pertanggungjawaban platform ini dan alat-alat AI generatif yang sangat baru ini ketika mereka diluncurkan tanpa mempedulikan kerusakan yang mereka sebabkan, kerusakan yang sepenuhnya bisa diperkirakan,” katanya. “Saya tidak akan pernah bisa menghapus dari pikiran gambar-gambar bukan hanya tentang saya, tapi juga tentang anak-anak orang lain dan perempuan lain yang harus saya lihat.”
xAI merilis pembaruan untuk chatbot itu awal bulan ini dan mengklaim bahwa akun X Grok tidak lagi diizinkan mengedit gambar orang nyata dengan pakaian terbuka. St Clair bilang bahwa pengguna menemukan cara lain, termasuk pakai aplikasi Grok mandiri, dan gambar-gambar itu masih dibagikan di platform X.
“Ini masih terjadi. Orang masih bisa menghasilkan gambar-gambar ini di aplikasi dan situs web Grok mandiri,” katanya. “Ada juga gambar saya sedang dibakar yang dibuat. Gambar-gambar provokatif tentang saya masih dibuat. Ini belum berhenti.”
Lembaga nirlaba Eropa, AI Forensics, juga menemukan bahwa Grok masih menghasilkan gambar-gambar terseksualisasi tentang individu meskipun ada pembatasan dari X. Para peneliti menemukan pengguna menghindari larangan dengan mengakses Grok langsung lewat situs webnya, bukan lewat X, atau dengan pakai Grok Imagine, alat pembuat video dan gambar AI-nya.
St Clair menghadapi tentangan dari pertarungannya dengan xAI dan Musk: Komentar di X sering menuduhnya sebagai mantan pacar pendendam yang mengincar uang Musk; status ‘terverifikasi’-nya di X dicabut beserta skema pembagian pendapatan iklan yang menyertainya; dan, dalam satu postingan X yang sekarang sudah dihapus, Musk bahkan ancam akan menggugat untuk hak asuh penuh atas anak mereka setelah St Clair berkomentar menyesali pandangan lamanya tentang hak-hak transgender.
Grok telah memicu pengawasan regulator global
Tren ‘nudifying’ di X yang menarget St Clair telah memicu keprihatinan global sebagian karena maraknya gambar-gambar terseksualisasi tentang anak-anak. Menurut penelitian dari Center for Countering Digital Hate, dari 3 juta gambar terseksualisasi yang dihasilkan Grok dalam periode 11 hari itu, 23.000 tampaknya menggambarkan anak-anak, yang mencerminkan perkiraan kecepatan rata-rata satu gambar terseksualisasi baru tentang anak di bawah umur setiap 41 detik. Ini termasuk swafoto yang diunggah seorang siswi yang ‘dibuka pakaiannya’ oleh Grok, dan gambar enam gadis muda memakai bikini mikro, yang dihasilkan oleh Grok.
“Sangat sulit untuk tidak menyimpulkan bahwa ini adalah bencana yang dibuat [oleh Elon Musk] sendiri,” kata Imran Ahmed, pendiri dan CEO Center for Countering Digital Hate, kepada Fortune. Musk sangat jelas dalam postingan pribadinya. Dia mengejek orang-orang yang khawatir tentang penyalahgunaan ini, dan terlihat meremehkannya, bukannya serius dan berusaha memperbaiki situasi selama hampir dua minggu.
Grok juga menghadapi gugatan kelas di California terkait deepfake seksual, serta penyelidikan formal oleh Komisi Uni Eropa. Jika X terbukti melanggar Undang-Undang Layanan Digital Uni Eropa, perusahaan bisa didenda hingga 6% dari pendapatan tahunan globalnya.
“Tindakan Uni Eropa sangat bagus. Menurut saya itu langkah yang benar, dan saya harap lebih banyak orang dan pemimpin mengikutinya,” kata St Clair. Pemerintahan Trump telah mengambil berbagai tindakan terhadap apa yang mereka anggap sebagai “sensor” Eropa dan memiliki masalah khusus dengan Undang-Undang Layanan Digital. Dalam salah satu langkahnya yang lebih dramatis, pada Desember mereka melarang lima warga negara Eropa, termasuk Ahmed, masuk ke Amerika Serikat, karena diduga menekan perusahaan teknologi untuk menyensor pandangan orang Amerika.
Pada hari Senin, regulator Uni Eropa mengatakan akan menilai apakah “gambar eksplisit seksual yang dimanipulasi” yang dihasilkan Grok telah ditampilkan ke pengguna di blok mereka, dan memperingatkan mungkin akan “memberlakukan tindakan sementara” jika X menolak melakukan penyesuaian yang berarti. Investigasi serupa sedang berlangsung di Australiaan, Prancis, dan Jerman, sementara X sempat dilarang di Indonesia dan Malaysia.
“Platform AI tidak memiliki perlindungan hukum yang sama seperti perusahaan media sosial, dan ini adalah ujian penting untuk melihat apakah hukum kelalaian dan hukum desain prompt bisa diterapkan ke platform AI,” kata Ahmed. “Jika mereka terbukti bersalah, ini kemungkinan akan mengubah industri chatbot AI selamanya.”
Cerita ini pertama kali dimuat di Fortune.com.