Sudah lebih dari seminggu sejak pengguna X mulai secara massal menggunakan model AI Grok untuk ‘membuka pakaian’ orang, termasuk anak-anak, namun platform milik Elon Musk itu hampir tidak berbuat apa pun untuk menanganinya. Salah satu alasannya adalah fakta bahwa saat ini platform tersebut tidak diwajibkan untuk melakukan banyak hal terkait masalah ini.
Tahun lalu, Kongres AS mengesahkan Undang-Undang Take It Down, yang antara lain mengkriminalisasi materi eksplisit seksual tanpa persetujuan dan mewajibkan platform seperti X untuk menyediakan opsi bagi korban agar dapat meminta penghapusan konten yang menggunakan citra mereka dalam waktu 48 jam. Senator Demokrat Amy Klobuchar, salah satu pencetus undang-undang tersebut, memposting di X, “Tidak ada orang yang seharusnya menemukan gambar seksual dirinya yang dibuat AI di internet—terutama anak-anak. X harus mengubah ini. Jika tidak, Undang-Undang TAKE IT DOWN yang bipartisan saya akan segera mewajibkan mereka.”
Perhatikan kata “segera” dalam kalimat itu. Kewajiban bagi platform untuk membuat sistem pemberitahuan dan penghapusan dalam undang-undang tersebut baru akan berlaku efektif pada 19 Mei 2026. Saat ini, baik X (platform tempat gambar-gambar itu dihasilkan melalui perintah yang diposting dan dihosting) maupun xAI (perusahaan yang bertanggung jawab atas model AI Grok yang menghasilkan gambar) tidak memiliki sistem permintaan penghapusan yang formal. X memiliki prosedur permintaan penghapusan konten formal untuk penegak hukum, tetapi pengguna biasa disarankan untuk melalui Pusat Bantuan, di mana tampaknya pengguna hanya dapat melaporkan sebuah postingan karena melanggar aturan X.
Jika Anda penasaran seberapa besar kemungkinan pengguna biasa untuk berhasil menghapus gambar-gambar semacam ini, tanyakan saja pada Ashley St. Clair mengenai hasil usahanya ketika ia melaporkan gambar seksual dirinya tanpa persetujuan yang dibagikan di X. St. Clair memiliki akses yang setara dengan siapa pun untuk mengajukan permohonan penghapusan sebuah postingan—dia adalah ibu dari salah satu anak Elon Musk dan memiliki akun X dengan lebih dari satu juta pengikut. “Ini lucu, mengingat ini jalur paling langsung yang saya miliki dan mereka tidak berbuat apa-apa,” ujarnya kepada The Guardian. “Saya telah mengadu ke X, dan mereka bahkan tidak menghapus foto saya saat masih anak-anak, yang ‘dibuka pakaiannya’ oleh Grok.”
Gambar St. Clair akhirnya dihapus, tampaknya setelah banyak dilaporkan oleh pengikutnya dan mendapat perhatian pers. Namun, St. Clair kini mengklaim bahwa ia justru “diberi terima kasih” atas upayanya mengangkat isu ini dengan dibatasi untuk berkomunikasi dengan Grok dan keanggotaan X Premium-nya dicabut. Premium memungkinkannya mendapat bayaran berdasarkan keterlibatan. Grok, yang menjadi sumber informasi utama untuk seluruh situasi ini—meski merupakan model AI yang tidak mampu berbicara atas nama siapa atau apa pun—menjelaskan dalam sebuah postingan, “Centang X dan Premium Ashley St. Clair kemungkinan dihapus karena kemungkinan pelanggaran ketentuan, termasuk tuduhannya secara publik terhadap Grok karena menghasilkan gambar yang tidak pantas dan kemungkinan aktivitas mirip spam.”
Penegakan hukum di luar Undang-Undang Take It Down memang mungkin, meski kurang langsung. Senator Demokrat Ron Wyden menyatakan bahwa materi yang dihasilkan Grok tidak akan dilindungi oleh Bagian 230 dari Communications Decency Act, yang biasanya memberikan kekebalan hukum kepada platform teknologi atas perilaku ilegal pengguna. Tentu saja, kecil kemungkinan Departemen Kehakiman di bawah pemerintahan Trump akan mengejar kasus terhadap perusahaan-perusahaan Musk, sehingga upaya penegakan diserahkan kepada negara bagian.
Di luar AS, beberapa pemerintah menangani masalah ini dengan jauh lebih serius. Otoritas di Prancis, Irlandia, Inggris Raya, dan India telah mulai menyelidiki gambar-gambar seksual tanpa persetujuan yang dihasilkan Grok dan mungkin akan mengajukan tuntutan terhadap X dan xAI.
Tetapi jelas-jelas pimpinan X dan xAI tidak terlihat menanggapi masalah ini dengan serius. Sementara Grok menghasilkan gambar seksual anak-anak, Elon Musk, CEO kedua perusahaan yang terlibat dalam skandal ini, justru aktif membagikan ulang konten yang dibuat sebagai bagian dari tren tersebut, termasuk gambar AI dari pemanggang roti dan roket yang memakai bikini. Sejauh ini, pengakuan X atas situasi ini hanya sebatas menyalahkan pengguna. Dalam postingan dari X Safety, perusahaan menyatakan, “Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan mendapat konsekuensi yang sama seolah mereka mengunggah konten ilegal,” tetapi tidak mengambil tanggung jawab atas kemungkinan yang diciptakannya.
Bahkan, aktivitas Grok dalam beberapa pekan terakhir ini justru tampak lebih mendekati apa yang diinginkan Musk dari AI tersebut. Menurut laporan CNN, Musk merasa “tidak puas dengan penyensoran berlebihan” pada Grok, termasuk merasa sangat frustrasi dengan pembatasan pada generator gambar dan video Grok. Di depan publik, Musk berulang kali memuji “mode pedas” Grok dan mencemooh gagasan “kewajaran” dalam AI.
Menanggapi permintaan komentar dari Gizmodo, xAI hanya berkata, “Media Lama Bohong,” pesan otomatis terbaru yang dikirimkan platform itu sejak menutup departemen humasnya.