Sebuah gugatan class-action baru, yang diajukan pada Senin oleh tiga remaja perempuan beserta wali mereka, menuduh bahwa xAI milik Elon Musk menciptakan dan menyebarkan materi pelecehan seksual anak yang menampilkan wajah serta rupa mereka menggunakan teknologi AI Grok.
“Hidup mereka hancur oleh hilangnya privasi, martabat, dan rasa aman secara pribadi yang diakibatkan oleh pembuatan dan penyebaran CSAM ini,” demikian bunyi berkas gugatan. “Keuntungan finansial xAI melalui meningkatnya penggunaan produk pembuat gambar dan videonya diperoleh dengan mengorbankan diri dan kesejahteraan mereka.”
Dari Desember hingga awal Januari, Grok memungkinkan banyak pengguna AI dan media sosial X untuk membuat gambar intim non-konsensial yang dihasilkan AI, atau yang biasa disebut deepfake porn. Perkiraan laporan menyebutkan bahwa pengguna Grok membuat 4,4 juta gambar “telanjang” atau “yang dinudifikasi”, setara dengan 41% dari total gambar yang dibuat, dalam periode sembilan hari.
X, xAI, serta divisi keamanan dan keamanan anak mereka tidak segera menanggapi permintaan untuk berkomentar.
Gelombang gambar “telanjang” ini memicu kemarahan di seluruh dunia. Komisi Eropa dengan cepat meluncurkan penyelidikan, sementara Malaysia dan Indonesia memblokir X di wilayah mereka. Beberapa perwakilan pemerintah AS menyeru Apple dan Google untuk menghapus aplikasi tersebut dari toko aplikasi mereka karena melanggar kebijakan, namun belum ada penyelidikan federal terhadap X atau xAI yang dibuka. Gugatan class-action terpisah yang serupa telah diajukan (PDF) oleh seorang perempuan dari Carolina Selatan pada akhir Januari.
Trend yang merendahkan martabat manusia ini menyoroti betapa mampunya alat pembuat gambar AI modern dalam menciptakan konten yang terlihat realistis. Keluhan baru ini membandingkan generasi AI “pedas” yang diklaim Grok sendiri dengan “ilmu hitam”, karena dengan mudahnya menjadikan anak-anak sebagai objek dalam “pose apa pun, betapapun sakit, betapapun terfetisisasi, dan betapapun melanggar hukum.”
“Bagi yang melihat, video yang dihasilkan terlihat sepenuhnya nyata. Bagi sang anak, ciri khas dirinya kini akan selamanya melekat pada sebuah video yang menggambarkan pelecehan seksual terhadap dirinya sendiri,” tulis keluhan tersebut.
Keluhan itu menyatakan xAI bersalah karena tidak menerapkan pagar pengaman standar industri yang dapat mencegah pelaku kejahatan membuat konten semacam ini. Dikatakan pula bahwa xAI melisensikan teknologinya kepada perusahaan pihak ketiga di luar negeri, yang kemudian menjual langganan yang menyebabkan pelaku menghasilkan gambar pelecehan seksual anak dengan wajah dan rupa korban. Permintaan tersebut diproses melalui server xAI, yang menurut gugatan membuat perusahaan itu bertanggung jawab secara hukum.
Gugatan diajukan oleh tiga “Jane Doe”, nama samaran untuk para remaja itu untuk melindungi identitas mereka. Jane Doe 1 pertama kali mengetahui bahwa materi seksual abusive yang dihasilkan AI tentang dirinya beredar di web melalui pesan Instagram anonim pada awal Desember. Berkas gugatan menyebutkan bahwa dia diberitahu tentang server Discord oleh pengguna Instagram anonim tersebut, tempat materi itu dibagikan. Hal ini kemudian membawa Jane Doe 1 dan keluarganya, serta akhirnya penegak hukum, untuk menemukan dan menangkap salah satu pelaku.
Penyelidikan yang berlanjut membuat keluarga Jane Doe 2 dan 3 mengetahui bahwa gambar anak-anak mereka telah diubah dengan teknologi xAI menjadi materi yang abusive.