Grok, chatbot AI milik Elon Musk, mengumumkan perubahan kebijakan yang mengklaim menawarkan perlindungan lebih terhadap deepfake seksual, setidaknya di platform X. Kebijakan baru ini muncul bersamaan dengan diluncurkannya penyelidikan oleh negara bagian California terkait isu ini, sementara Inggris mengancam akan melarangnya.
"Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang nyata dalam pakaian terbuka seperti bikini," bunyi pernyataan dari akun X Safety di X, yang merupakan situs saudari Grok, yang diposting tepat sebelum pukul 18.00 ET pada hari Rabu. "Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar."
Pembaruan dari X Safety juga menyatakan bahwa mereka menangani Materi Penyalahgunaan Seksual Anak (CSAM) dan konten ketelanjangan tanpa persetujuan dengan serius, sebelum mengulangi perubahan terbaru lainnya: Pembuatan dan pengeditan gambar melalui akun Grok di X kini terbatas hanya untuk pelanggan.
Akun X Safety juga mengumumkan bahwa mereka kini memiliki kemampuan untuk memblokir secara geografis "semua pengguna dalam [sic] menghasilkan gambar orang nyata dalam bikini, pakaian dalam, dan pakaian serupa melalui akun Grok di yurisdiksi di mana hal tersebut ilegal."
Grok dan X menghadapi gelombang sorotan di tahun baru ini seiring merebaknya gambar-gambar selebriti dan anak-anak yang disexualisasi dan dibuat tanpa persetujuan, yang dipicu pengguna dan diciptakan oleh AI-nya, di platform X. Jaksa Agung California Rob Bonta telah menuntut Grok dan pengembangnya, xAI, untuk mengambil langkah menghapus dan mencegah gambar semacam itu, dengan mengancam akan menggunakan "semua alat yang kami miliki" untuk melindungi warganya.
"Material ini, yang menggambarkan perempuan dan anak-anak dalam situasi telanjang dan eksplisit secara seksual, telah digunakan untuk melecehkan orang-orang di seluruh internet," kata Bonta dalam pernyataan pada hari Rabu.
Sementara itu, bos xAI/X/Grok, Elon Musk, tampaknya menantang pengguna untuk "menembus moderasi gambar Grok" pada hari yang sama ketika X Safety mengumumkan pembaruan keamanannya.
Perdana Menteri Inggris Keir Starmer pada hari Senin mengancam akan mengambil tindakan terhadap Musk, dengan mengatakan "jika X tidak dapat mengendalikan Grok, kami yang akan melakukannya," menurut laporan BBC. Indonesia dan Malaysia sudah memblokir akses Grok akhir pekan lalu.
Politikus juga menyasar Grok dan X, dengan tiga senator mendesak Apple untuk menghapus layanan tersebut dari toko aplikasinya. Aplikasi-aplikasi tersebut masih tersedia di App Store Apple hingga Rabu malam.
Perubahan terbaru X pada kebijakannya mungkin mencerminkan pengakuan oleh pimpinan perusahaan bahwa mereka tidak terlindungi oleh Pasal 230 dari Undang-Undang Kesopanan Komunikasi AS yang berusia 30 tahun, menurut BBC. Pasal 230 melindungi perusahaan teknologi dari gugatan terkait konten buatan pengguna, tetapi gambar dan konten lain yang dibuat oleh teknologi aplikasi itu sendiri mungkin tidak sepenuhnya kebal terhadap perlindungan hukum tersebut.