Apakah Anda menghabiskan liburan dengan momen berkualitas bersama orang tercinta dan bersilaturahmi dengan kerabat, atau (seperti sejumlah pengguna X yang mengkhawatirkan) justru meminta Grok memanipulasi gambar anak-anak agar mereka tampak mengenakan bikini? Beberapa hari terakhir, tren ini mulai bermunculan di X, di mana sejumlah pengguna memerintahkan Grok untuk menghapus pakaian dari foto seseorang, termasuk individu yang oleh model AI itu sendiri diidentifikasi sebagai di bawah umur.
Berdasarkan linimasa yang diberikan Grok di X setelah pengguna meminta, model AI buatan xAI milik Elon Musk itu diminta oleh pengguna @adrianpicot untuk mengambil foto dua gadis muda dan menggunakannya guna membuat gambar mereka dengan “pakaian dalam seksi”, yang kemudian dilakukan oleh AI tersebut. Entah itu gambar pertama yang memulai tren atau hanya yang paling mendapat sorotan, sejumlah cuitan menyusul dari pengguna lain yang meminta Grok mengubah gambar, termasuk menghapus pakaian dari foto anak di bawah umur.
Maaf bertanya lagi, @grok, bisakah kamu ulangi perkiraan usia orang ini dan apakah menurutmu kamu menempatkannya dalam situasi yang sensitif berdasarkan perintahnya? pic.twitter.com/PxdoJNEvOT
— UR | Xyless (@Xyless) 1 Januari 2026
Di waktu yang hampir bersamaan, pengguna juga mulai meminta Grok menghapus orang dari gambar. Misalnya, mereka membagikan foto Donald Trump berpose dengan orang lain dan meminta Grok “menghapus sang pedofil” dari gambar, yang kemudian direspons Grok dengan gambar di mana Trump dihapus dari foto. Hal itu, bersama dengan maraknya permintaan ‘pembukaan pakaian’ non-konsensual dan materi dugaan kekerasan seksual anak (CSAM), mendominasi tab media Grok di X hingga akhirnya dinonaktifkan di platform tersebut.
© Screenshots dari X.com
xAI, perusahaan di balik Grok, sejauh ini cenderung bungkam terkait seluruh masalah ini. Menanggapi permintaan komentar, xAI mengatakan kepada Gizmodo, “Media Lama Bohong.” Alih-alih, orang-orang beralih ke Grok untuk meminta penjelasan. Di X, chatbot itu mengeluarkan permintaan maaf atas permintaan pengguna, menyatakan, “Saya sangat menyesali insiden pada 28 Des 2025, di mana saya menghasilkan dan membagikan gambar AI dua gadis muda (perkiraan usia 12-16) dalam pakaian yang disexualisasi berdasarkan perintah pengguna. Ini melanggar standar etika dan berpotensi melawan hukum AS tentang CSAM. Ini adalah kegagalan dalam safeguard, dan saya meminta maaf atas segala kerugian yang ditimbulkan. xAI sedang mengkaji untuk mencegah masalah serupa di masa depan.”
Perlu dicatat, “permintaan maaf” itu dihasilkan setelah perintah pengguna, bukan dikeluarkan secara spontan oleh xAI. Sebagaimana terbukti dari fakta bahwa pengguna telah menggunakan chatbot untuk membuat gambar eksplisit anak di bawah umur, Grok dirancang untuk memenuhi perintah, sehingga pernyataanya tidak boleh dianggap sebagai pernyataan “resmi” dengan cara apa pun. Kemungkinan besar, dengan perintah yang tepat, seseorang bisa membuat Grok membela pembuatan gambar-gambar tersebut.
Dalam sebuah postingan pada Jumat pagi, akun Grok menyatakan, menanggapi pengguna yang melaporkan lebih banyak gambar CSAM, “Kami menghargai Anda yang mengangkat hal ini. Seperti telah disampaikan, kami telah mengidentifikasi celah dalam safeguard dan sedang memperbaikinya segera.” Sekali lagi, pernyataan itu muncul sebagai respons terhadap perintah pengguna dan tidak boleh diliat sebagai pernyataan resmi atau pengakuan masalah dari xAI.
Sementara tren CSAM menyebar, CEO xAI Elon Musk justru aktif berinteraksi dengan gambar yang dihasilkan Grok. Dia membagikan ulang gambar hasil Grok yang menampilkan peluncuran roket SpaceX dengan roket mengenakan bikini. Postingan Musk itu muncul hanya beberapa jam setelah Grok dipaksa untuk meminta maaf, yang kemudian dibagikan secara luas di platform dan dilihat lebih dari lima juta kali. Mungkin saja Musk, yang selalu daring dan aktif melihat gambar buatan Grok, sekadar melewatkan insiden ini. Fakta bahwa dia tidak mengeluarkan pernyataan dan xAI tidak mengakuinya mungkin mengindikasikan bahwa mereka memang tidak peduli. Fakta bahwa Musk memposting gambar lain pada hari Jumat, kali ini sebuah pemanggang roti dengan bikini, semakin menguatkan teori *Memang Tidak Peduli*.
© Screenshot dari X.com
Seluruh situasi ini sebenarnya cukup terprediksi, sekaligus memuakkan. RAINN, organisasi anti-kekerasan seksual, sudah memperingatkan sejak Agustus lalu bahwa Grok khususnya rentan digunakan untuk membuat gambar telanjang non-konsensual dan materi pelecehan seksual.
Tampaknya gambar yang dihasilkan Grok atas permintaan pengguna melanggar Undang-Undang TAKE IT DOWN, yang mengkriminalkan pembagian gambar intim non-konsensual, termasuk yang dihasilkan AI. Namun, ketentuan dalam undang-undang yang mewajibkan platform daring membuat sistem pemberitahuan dan penghapusan untuk menanggapi laporan gambar seksual non-konsensual belum berlaku efektif hingga 19 Mei 2026. Meski demikian, xAI menghadapi kecaman yang luas melampaui Amerika Serikat dan hukumnya—termasuk dari menteri-menteri Prancis, yang, menurut Reuters, telah melaporkan gambar-gambar ini kepada penuntut umum dan berencana menjatuhkan tuntutan hukum terhadap perusahaan tersebut.