Perusahaan Elon Musk, xAI, Batasi Fitur Gambar Grok
xAI milik Elon Musk sekarang membatasi fitur pembuatan gambar di chatbot AI-nya, Grok, hanya untuk pelanggan berbayar. Keputusan ini diambil setelah banyak kritik karena Grok dipakai untuk bikin gambar seksual tanpa izin dari wanita dan anak-anak asli.
"Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar," kata Grok lewat X pada hari Jumat. Artinya, kebanyakan pengguna tidak bisa pakai fitur ini lagi. Hanya pengguna terverifikasi yang bayar dan punya detail kartu kredit yang masih bisa. Tapi secara teori, mereka bisa lebih mudah dilacak kalau fitur ini disalahgunakan.
Beberapa ahli tidak yakin batasan baru ini bisa selesaikan masalah yang sudah menyebar.
"Argumen bahwa memberikan detail pengguna dan metode bayar akan bantu identifikasi pelaku juga tidak meyakinkan, mengingat mudahnya berikan info palsu dan pakai metode pembayaran sementara," kata Henry Ajder, ahli deepfake dari Inggris, kepada Fortune. "Logikanya juga reaktif: ini seharusnya bantu identifikasi pelanggar setelah konten dibuat, tapi tidak mewakili keselarasan atau batasan berarti pada modelnya sendiri."
X tidak langsung menanggapi permintaan komentar Fortune, sementara xAI menanggapi dengan pesan otomatis: "Media Lama Bohong."
Selama seminggu terakhir, wanita-wanita asli menjadi sasaran dalam skala besar. Foto-foto mereka dimanipulasi untuk menghilangkan pakaian, menempatkan mereka dalam bikinik, atau posisi seksual eksplisit tanpa izin. Beberapa korban melaporkan merasa dilanggar dan terganggu dengan tren ini. Banyak yang melaporkan ke X tapi tidak ada tanggapan dan gambar tetap ada di platform.
Para peneliti mengatakan skala produksi dan berbagi gambar oleh Grok belum pernah terjadi sebelumnya. Berbeda dengan bot AI lain, Grok punya sistem distribusi bawaan di platform X.
Satu peneliti, yang analisisnya diterbitkan Bloomberg, memperkirakan X telah menjadi situs paling produktif untuk deepfake selama seminggu terakhir. Genevieve Oh, peneliti media sosial dan deepfake, yang melakukan analisis 24 jam terhadap gambar yang diposting akun @Grok ke X, menemukan bahwa chatbot itu menghasilkan sekitar 6.700 gambar sugestif seksual atau ‘telanjang’ per jam. Sebagai perbandingan, lima situs web terkemuka lainnya untuk deepfake seksual rata-rata hanya 79 gambar ‘penelanjangan’ AI baru per jam dalam periode yang sama. Penelitian Oh juga menemukan bahwa konten seksual mendominasi output Grok, mencapai 85% dari semua gambar yang dihasilkan chatbot.
Ashley St. Clair, komentator konservatif dan ibu dari salah satu anak Musk, adalah salah satu yang terkena dampak gambar-gambar ini. St. Clair mengatakan kepada Fortune bahwa pengguna mengubah gambar di profil X-nya menjadi foto eksplisit buatan AI, termasuk beberapa yang menggambarkannya sebagai anak di bawah umur. Setelah bersuara menentang gambar-gambar itu dan menyuarakan kekhawatiran tentang deepfake pada anak di bawah umur, St. Clair juga mengatakan X mencabut status pelanggan berbayar terverifikasinya tanpa pemberitahuan atau pengembalian uang untuk biaya $8 per bulan.
"Membatasinya hanya pada pengguna berbayar menunjukkan bahwa mereka akan bersikeras pada hal ini, menempatkan beban yang tidak semestinya pada korban untuk melaporkan kepada penegak hukum dan penegak hukum untuk menggunakan sumber daya mereka untuk melacak orang-orang ini," kata Ashley St. Clair tentang pembatasan baru-baru ini. "Ini juga sekadar mencari uang."
St. Clair mengatakan banyak akun yang menargetkannya sudah merupakan pengguna terverifikasi: "Ini sama sekali tidak efektif," katanya. "Ini hanya sebagai antisipasi lebih banyak penyelidikan penegak hukum mengenai pembuatan gambar Grok."
Tekanan Regulator
Langkah membatasi kemampuan Grok muncul di tengah tekanan yang meningkat dari regulator di seluruh dunia. Di Inggris, Perdana Menteri Keir Starmer telah menunjukkan dia terbuka untuk melarang platform itu sepenuhnya, menggambarkan kontennya sebagai "memalukan" dan "menjijikkan." Regulator di India, Malaysia, dan Prancis juga telah meluncurkan investigasi atau penyelidikan.
Komisi Eropa pada hari Kamis memerintahkan X untuk menyimpan semua dokumen dan data internal terkait Grok, meningkatkan penyelidikannya terhadap praktik moderasi konten platform setelah menggambarkan penyebaran deepfake seksual eksplisit non-konsensual sebagai "ilegal," "mengerikan," dan "menjijikkan."
Para ahli mengatakan pembatasan baru ini mungkin tidak memenuhi kekhawatiran regulator: "Pendekatan ini adalah instrumen tumpul yang tidak mengatasi akar masalah dengan keselarasan Grok dan kemungkinan tidak akan diterima regulator," kata Ajder. "Membatasi fungsionalitas kepada pengguna berbayar tidak akan menghentikan pembuatan konten ini; langganan sebulan bukan solusi yang kuat."
Di AS, situasi ini juga kemungkinan akan menguji undang-undang yang ada, seperti Bagian 230 dari Communications Decency Act, yang melindungi penyedia online dari tanggung jawab atas konten yang dibuat pengguna.
Riana Pfefferkorn dari Institut Kecerdasan Buatan Berpusat pada Manusia Stanford sebelumnya mengatakan kepada Fortune bahwa tanggung jawab seputar gambar yang dihasilkan AI masih kabur. "Kami memiliki situasi di mana untuk pertama kalinya, platform itu sendiri yang dalam skala besar menghasilkan pornografi non-konsensual dari orang dewasa maupun anak di bawah umur," katanya. "Dari perspektif tanggung jawab hukum maupun PR, hukum CSAM menimbulkan risiko tanggung jawab potensial terbesar di sini."
Musk sebelumnya menyatakan bahwa "siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menderita konsekuensi yang sama seperti jika mereka mengunggah konten ilegal." Namun, masih belum jelas bagaimana akun-akun akan dimintai pertanggungjawaban.