Dua negara Asia Tenggara, yaitu Malaysia dan Indonesia, menjadi negara pertama di dunia yang mengambil tindakan terhadap chatbot Grok milik Elon Musk karena kemampuannya membuat gambar deepfake.
Pada 10 Januari, Indonesia mengumumkan akan membatasi akses ke Grok untuk sementara. Menteri Komunikasi dan Digital, Meutya Hafid, menulis dalam pernyataan bahwa larangan ini diberlakukan untuk melindungi "perempuan, anak-anak, dan masyarakat luas" dari konten porno palsu yang dibuat oleh AI.
Kemudian, sehari setelahnya, Komisi Komunikasi dan Multimedia Malaysia (MCMC) juga mengatakan akan "membatasi sementara" akses ke Grok karena "penyalahgunaan berulang … untuk membuat gambar cabul, seksual eksplisit, tidak senonoh, sangat ofensif, dan gambar manipulasi tanpa izin."
MCMC dalam pernyataannya mengatakan telah mengirim pemberitahuan ke X dan xAI—perusahaan induk Grok—pada 3 dan 8 Januari, tetapi menilai tanggapan mereka "tidak cukup untuk mencegah bahaya atau memastikan kepatuhan hukum."
Indonesia dan Malaysia memiliki aturan ketat terhadap pornografi online. Indonesia, negara dengan populasi Muslim terbesar di dunia, telah bersikap sangat agresif dan telah menjerat kreator OnlyFans, baik lokal maupun asing, berdasarkan UU Pornografi 2008.
Pada 9 Januari, X membatasi pembuatan gambar hanya untuk pengguna berbayar untuk menahan banjirnya gambar deepfake, di mana pengguna meminta Grok mengubah gambar perempuan agar terlihat berpakaian minim. Korban telah menyerang X karena mengizinkan pembuatan konten seksual tanpa izin, termasuk yang melibatkan anak di bawah umur. Pejabat pemerintah juga mempertimbangkan tindakan terhadap X dan Grok.
xAI mengirim email hanya berisi teks "Legacy Media Lies" setelah Fortune meminta komentar tentang larangan dari Indonesia dan Malaysia.
Kelalaian Keamanan yang Terus-menerus
Tindakan pemerintah terhadap X dan Grok kemungkinan besar tidak terhindarkan, mengingat betapa mudahnya membuat konten deepfake.
"Pelindung di Grok mudah untuk dilewati," kata Chew Han Ei, seorang peneliti senior di Lee Kuan Yew School of Public Policy di NUS. "Ketika sebuah sistem dapat dengan mudah didorong untuk memproduksi atau memperkuat konten sintetis berbahaya, itu menunjukkan kelemahan dalam desain."
Langkah Indonesia dan Malaysia terhadap Grok dan X terjadi di tengah kekhawatiran yang lebih luas di kawasan ini tentang media sosial dan deepfake.
Beberapa pemerintah di Asia telah mengeluarkan regulasi terhadap pembuatan deepfake, biasanya dalam konteks mencegah kejahatan siber, penipuan, dan gangguan pemilu. Pada 2024, Korea Selatan mengkriminalisasi menonton atau memproduksi pornografi deepfake.
Tahun lalu, Australia dan Malaysia melarang akses media sosial untuk anak di bawah 16 tahun, karena khawatir dengan bahaya online seperti perundungan siber, eksploitasi seksual, dan penipuan keuangan. Pada hari Senin, Meta mengungkapkan telah menutup 550.000 akun di Facebook, Instagram, dan Threads untuk mematuhi larangan baru Australia.
"Pemerintah menjadi kurang bersedia untuk mentolerir pendekatan ‘rilis dulu, perbaiki nanti’. Jika pengaman tidak kredibel, akses ke alat tersebut menjadi pertanyaan kebijakan yang sah," kata Chew.
Bergabunglah dengan kami di Fortune Workplace Innovation Summit pada 19–20 Mei 2026 di Atlanta. Era baru inovasi tempat kerja telah tiba—dan aturan lama sedang ditulis ulang. Dalam acara eksklusif dan penuh energi ini, para pemimpin paling inovatif di dunia akan berkumpul untuk mengeksplorasi bagaimana AI, kemanusiaan, dan strategi menyatu untuk mendefinisikan kembali masa depan pekerjaan. Daftar sekarang.