Pada hari Jumat, platform media sosial X milik Elon Musk menambahkan pembatasan yang sangat ringan pada chatbot AI-nya, Grok, menyusul kecaman atas penggunaan alat AI tersebut untuk memanipulasi foto pengguna di X guna menghasilkan deepfake pelecehan seksual terhadap perempuan dan anak-anak. Tidak semua pihak menerima langkah ini.
Sekarang, chatbot tersebut tampaknya membatasi pengguna dari menghasilkan atau mengedit gambar saat mereka men-tag Grok dalam postingan di X, kecuali mereka adalah pelanggan berbayar.
“Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk membuka fitur-fitur ini,” tulis chatbot Grok —yang bukan merupakan juru bicara— di X pada hari Kamis sebagai tanggapan kepada seorang pengguna.
Namun, seperti pertama kali diungkapkan oleh The Verge, pernyataan itu tidak sepenuhnya benar. Alat gambar Grok masih tersedia secara gratis ketika pengguna mengakses chatbot melalui situs web dan aplikasi Grok, atau melalui tab Grok di aplikasi dan situs web X. Pengguna juga dapat memerintahkan Grok untuk memanipulasi gambar dengan menggunakan tombol “Edit image” pada situs web desktop X atau dengan menekan lama gambar apa pun di aplikasi selulernya.
Gagasan membatasi alat gambar chatbot untuk pelanggan berbayar di X sebagai solusi telah menuai kritik tajam. Seorang juru bicara Downing Street menyebut langkah ini “menghina korban misogini dan kekerasan seksual.” Inggris, bersama banyak pemerintah lainnya, dengan cepat menyerukan X untuk menangani masalah deepfakenya.
“Langkah ini hanya mengubah fitur AI yang memungkinkan pembuatan gambar melanggar hukum menjadi layanan premium,” kata juru bicara tersebut kepada The Guardian.
Sejak akhir bulan lalu, beberapa pengguna X telah menggunakan Grok untuk menghasilkan gambar yang disexualisasi dari foto yang diposting oleh pengguna lain di platform tanpa persetujuan mereka, termasuk gambar yang melibatkan anak di bawah umur.
Seorang peneliti media sosial dan deepfake menemukan bahwa Grok menghasilkan sekitar 6.700 gambar yang bernuansa seksual atau gambar telanjang per jam selama periode 24 jam di awal Januari, seperti dilaporkan Bloomberg pada Rabu.
Regulator online Inggris, Ofcom, mengatakan awal pekan ini bahwa mereka telah menghubungi perusahaan terkait masalah ini dan memperingatkan bahwa mereka dapat membuka penyelidikan tentang apakah X mematuhi hukum negara tersebut.
Komisi Eropa juga sedang menyelidiki apakah X mematuhi hukumnya dan telah memerintahkan X untuk menyimpan semua dokumen internal terkait Grok hingga akhir tahun ini.
Sementara itu, Senator Ron Wyden mengatakan kepada Gizmodo bahwa chatbot AI tidak dilindungi oleh Bagian 230, sebuah undang-undang yang melindungi platform online dari tanggung jawab atas tindakan ilegal pengguna.
“Seperti yang pernah saya katakan, chatbot AI tidak dilindungi oleh Bagian 230 untuk konten yang mereka hasilkan, dan perusahaan harus bertanggung jawab penuh atas hasil kriminal dan berbahaya dari konten tersebut. Negara-negara bagian harus turun tangan untuk meminta pertanggungjawaban X dan Musk jika Departemen Kehakiman Trump tidak mau,” kata Wyden.
Ini bukan pertama kalinya Grok menimbulkan masalah bagi X. Tahun lalu, pembaruan yang dimaksudkan untuk mengatasi apa yang disebut Musk sebagai “bias kiri-tengah” justru menyebabkan Grok menghasilkan propaganda antisemit, bahkan menyebut dirinya sebagai “MechaHitler.”
Dan kontroversi-kontroversi ini tampaknya tidak membantu kondisi keuangan perusahaan. Bloomberg melaporkan bahwa xAI, perusahaan induk X dan Grok, mengalami kerugian bersih $1,46 miliar untuk kuartal yang berakhir pada September dan telah menghabiskan $7,8 miliar dalam sembilan bulan pertama tahun ini.
X sendiri menghadapi dampak keuangan. Pendapatan perusahaan di Inggris turun hampir 60% pada tahun 2024 karena para pengiklan meninggalkan platform tersebut, menurut The Guardian.
Meskipun mungkin tampak aneh bahwa Musk tidak mengambil tindakan yang lebih kuat untuk menanggapi kontroversi ini, semuanya tampaknya tidak mengurangi antusiasme investor. xAI mengumumkan pekan ini bahwa mereka telah mengumpulkan $20 miliar dalam putaran pendanaan terbarunya.
Dihubungi untuk dimintai komentar, xAI membalas Gizmodo dengan email yang menyatakan, “Legacy Media Lies.”
Sementara itu, X merujuk pada pernyataan yang mereka posting pada 3 Januari.
“Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Penyalahgunaan Seksual Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja dengan pemerintah lokal dan penegak hukum sesuai kebutuhan,” tulis akun Safety perusahaan di X. “Siapa pun yang menggunakan atau memberikan perintah pada Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal.”