Christal Hayes dan
Osmond Chia
Getty Images
Elon Musk meluncurkan Grok di platform media sosial X pada tahun 2023.
Model AI Elon Musk, Grok, tidak akan lagi dapat mengedit foto orang sungguhan untuk menampilkan mereka dalam pakaian yang terbuka di yurisdiksi di mana hal tersebut ilegal, menyusul kekhawatiran luas atas deepfake AI yang diseksualisasikan.
“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dalam pakaian yang terbuka,” bunyi sebuah pengumuman di X.
Merespons larangan tersebut, pemerintah Inggris mengklaim “pembenaran” setelah Perdana Menteri Sir Keir Starmer menyerukan X untuk mengendalikan alat AI-nya.
Perubahan ini diumumkan beberapa jam setelah jaksa agung tertinggi California menyatakan bahwa negara bagian tersebut sedang menyelidiki penyebaran deepfake AI yang diseksualisasikan, termasuk yang melibatkan anak-anak, yang dihasilkan oleh model AI itu.
“Kami kini memblokir secara geografis kemampuan semua pengguna untuk menghasilkan gambar orang sungguhan dalam bikini, pakaian dalam, dan pakaian serupa melalui akun Grok dan dalam Grok di X di yurisdiksi-yurisdiksi di mana hal itu ilegal,” kata X dalam sebuah pernyataan pada Rabu.
X juga menegaskan kembali bahwa hanya pengguna berbayar yang akan dapat mengedit gambar menggunakan Grok di platformnya.
Menurut pernyataan itu, ini akan menambah lapisan perlindungan ekstra dengan membantu memastikan bahwa mereka yang mencoba menyalahgunakan Grok untuk melanggar hukum atau kebijakan X dapat dimintai pertanggungjawaban.
Dengan pengaturan NSFW (not safe for work) diaktifkan, Grok seharusnya mengizinkan “ketelanjangan bagian atas tubuh manusia dewasa imajiner (bukan yang sungguhan)” yang konsisten dengan apa yang dapat dilihat dalam film berrating R, tulis Musk daring pada hari Rabu.
“Itu adalah standar de facto di Amerika. Ini akan bervariasi di wilayah lain sesuai dengan hukum berdasarkan negara per negara,” kata miliarder teknologi itu.
Musk sebelumnya membela X, dengan memposting bahwa para kritikus “hanya ingin menekan kebebasan berekspresi” disertai dua gambar hasil AI yang memperlihatkan Perdana Menteri Inggris Sir Keir Starmer dalam bikini.
Dalam beberapa hari terakhir, para pemimpin di seluruh dunia mengkritik fitur pengeditan gambar Grok.
Pada akhir pekan lalu, Malaysia dan Indonesia menjadi negara pertama yang melarang alat AI Grok setelah pengguna melaporkan foto mereka diubah untuk menciptakan gambar eksplisit tanpa persetujuan.
Regulator media Inggris, Ofcom, mengatakan pada Senin bahwa mereka akan menyelidiki apakah X gagal mematuhi hukum Inggris terkait gambar-gambar seksual tersebut.
Sir Keir memperingatkan X bisa kehilangan “hak untuk mengatur diri sendiri” di tengah kecaman atas gambar-gambar AI itu, tetapi kemudian dalam minggu yang sama mengatakan ia menyambut laporan bahwa X mengambil tindakan untuk menangani masalah ini.
Beberapa anggota parlemen Inggris juga meninggalkan platform media sosial X menyusul kemarahan publik ini.
Jaksa Agung California Rob Bonta mengatakan pada Rabu: “Materi ini, yang menggambarkan perempuan dan anak-anak dalam situasi telanjang dan seksual eksplisit, telah digunakan untuk melecehkan orang-orang di seluruh internet.”
Peneliti kebijakan Riana Pfefferkorn mengatakan ia terkejut X butuh waktu begitu lama untuk menerapkan pengamanan baru pada Grok dan bahwa fitur pengeditan seharusnya telah dihapus segera setelah penyalahgunaan dimulai.
Pertanyaan tetap ada tentang bagaimana X akan menegakkan kebijakan barunya, seperti bagaimana model AI akan tahu jika suatu gambar adalah orang sungguhan dan tindakan apa yang akan diambil ketika pengguna melanggar aturan, kata Pfefferkorn.
Musk juga tidak menampilkan perusahaannya dalam sorotan yang serius, tambahnya, seraya mengatakan akan lebih membantu jika dia berhenti “melakukan hal-hal seperti memposting ulang gambar AI Keir Starmer dalam bikini.”
Pelaporan tambahan oleh Katy Bailes.