Jakarta (ANTARA) – Indonesia untuk sementara memblokir Grok AI milik Elon Musk karena khawatir bahwa AI tersebut memfasilitasi pornografi deepfake tanpa persetujuan. Langkah ini menandai eskalasi signifikan dalam upaya negara mengatur keamanan kecerdasan buatan dan digital.
Kementerian Komunikasi dan Informatika mengumumkan tindakan ini pada hari Sabtu, dengan menyebut kebutuhan mendesak untuk melindungi perempuan, anak-anak, dan masyarakat umum dari dampak psikologis dan sosial konten eksplisit hasil AI.
“Pemerintah memandang deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital,” kata Menteri Meutya Hafid dalam pernyataan resmi.
Ia mengategorikan penyalahgunaan AI untuk membuat pornografi palsu sebagai bentuk “kekerasan berbasis digital.”
Pemerintah Indonesia menuntut platform digital yang beroperasi di dalam negeri untuk membuktikan bahwa mereka memiliki pengamanan yang memadai guna mencegah produksi atau distribusi konten terlarang.
Sebagai bagian dari penegakan ini, Kementerian telah mengeluarkan panggilan resmi ke Platform X (dulunya Twitter).
Perusahaan diwajibkan memberikan klarifikasi, dengan menjelaskan dampak negatif dari konfigurasi Grok saat ini.
Selain itu, untuk menunjukkan kepatuhan, perusahaan juga harus merincikan langkah mitigasi dengan menyajikan tindakan teknis konkret untuk mencegah penyalahgunaan di masa depan.
Pemblokiran ini didukung oleh Peraturan Menteri No.5/2020, yang mengatur Penyelenggara Sistem Elektronik Swasta.
Regulasi ini memberikan kewenangan luas kepada pemerintah Indonesia untuk membatasi akses ke platform yang gagal memoderasi “konten terlarang” atau gagal berkoordinasi dengan persyaratan keamanan negara.
Menteri Hafid menekankan bahwa meski blokir ini bersifat sementara, masa depan Grok di Indonesia—salah satu pasar media sosial terbesar di dunia—sangat tergantung pada kesediaan platform menerapkan filter konten ketat dan standar AI yang etis.
Berita terkait: Anggota DPR desak tindakan tegas atas penyalahgunaan Grok AI
Berita terkait: Kemenkominfo selidiki dugaan penyalahgunaan Grok AI untuk konten tak bermoral
Penerjemah: Adimas, Kenzu
Editor: Aditya Eko Sigit Wicaksono
Hak Cipta © ANTARA 2026