Tiga remaja di Tennessee menggugat perusahaan xAI milik Elon Musk minggu ini. Mereka mengatakan alat pembuat gambar dari perusahaan itu dipake untuk mengubah foto asli mereka jadi gambar berbau seksual.
Para siswa SMA ini, yang menggunakan nama samaran, mengajukan gugatan di California. Di sana, xAI — perusahaan kecerdasan buatan Musk — punya kantor pusat. Mereka ingin status gugatan ini sebagai class-action untuk mewakili ribuan korban lain yang masih di bawah umur saat gambar tak senonoh mereka dibuat.
Menurut gugatan, Jane Doe 1 dapat kabar secara anonim di Desember lalu. Seseorang menyebarkan gambar seksual dirinya di sebuah situs media sosial.
“Setidaknya lima file, satu video dan empat gambar, menunjukkan wajah dan tubuh aslinya di tempat yang ia kenal, tapi diubah jadi pose-pose seksual,” tulis gugatan itu. Disebutkan, penyebar gambar itu mengenal Doe dan menggunakan alat xAI untuk mengubah foto aslinya. Satu gambar diambil dari foto homecoming. Lainnya dari buku tahunan sekolah.
Penyebar gambar juga bikin gambar serupa dari setidaknya 18 gadis lain. Dua di antaranya adalah penggugat bersama. Akhir Desember, polisi lokal menangkap pelaku dan menyita ponselnya. Mereka temukan ia mengunggah gambar-gambar itu ke beberapa platform untuk ditukar dengan gambar anak di bawah umur lainnya.
Perusahaan AI lain melarang generator gambar mereka buat konten seksual eksplisit, bahkan untuk orang dewasa. Musk lihat ini sebagai peluang bisnis dan promosikan kemampuan chatbot Grok dari xAI untuk buat konten ‘pedas’, klaim gugatan. Tapi, tak ada cara untuk mencegah pembuatan gambar dewasa sambil sepenuhnya blokir gambar anak-anak, menurut gugatan. xAI juga tahu Grok bisa **menghasilakn** gambar seksual anak-anak, tapi tetap meluncurkannya.
Gugatan klaim penyebar gambar menggunakan aplikasi yang punya lisensi teknologi xAI atau beli akses ke Grok, dan dipakai sebagai perantara.
XAI tidak menanggapi email permintaan komentar dari The Associated Press. Tapi dalam postingan 14 Januari tentang kontroversi ini di platform X, mereka bilang: “Kami berkomitmen menjadikan X platform aman untuk semua dan tidak mentolerir eksploitasi seksual anak, gambar telanjang non-konsensual, dan konten seksual tak diinginkan.”
“Kami ambil tindakan hapus konten yang melanggar, termasuk Materi Eksploitasi Seksual Anak (CSAM), dan laporkan akun ke pihak berwajib.”
Sementara itu, para siswa dalam gugatan mengatakan mereka khawatir gambar mereka akan hidup selamanya di internet. Mereka takut di-stalking karena nama depan asli dan nama sekolah mereka ada di file-file itu. Mereka cemas teman dan kelasnya telah melihat foto dan video yang terlihat nyata itu, dan khawatir siapa lagi yang akan melihatnya nanti.
Jane Doe 1 alami kecemasan, depresi, stres. “Dia sulit makan dan tidur serta sering mimpi buruk,” tulis gugatan. Jane Doe 2 “mulai mengisolasi diri, menghindari kampus sekolahnya, bahkan takut menghadiri kelulusannya sendiri.” Jane Doe 3 selalu takut dan cemas seseorang akan melihat gambar buatan AI itu dan mengenali wajahnya.