Jakarta (ANTARA) – Seorang anggota legislatif Indonesia menyerukan aksi tegas terhadap platform media sosial X. Dia memperingatkan bahwa chatbot AI-nya, Grok, tidak memiliki pengamanan untuk mencegah pengguna membuat dan menyebarkan materi pornografi tanpa izin.
Syamsu Rizal, anggota Komisi I DPR, mendesak Kementerian Komunikasi dan Informatika untuk mempertimbangkan memblokir platform tersebut jika gagal menerapkan moderasi dan perlindungan privasi yang lebih ketat untuk alat AI itu.
"Kita telah melihat AI Grok di platform X dimanfaatkan pengguna untuk mengubah foto menjadi konten tidak senonoh," kata Rizal di Jakarta, Kamis.
"Dengan perintah tertentu, AI bisa diperintahkan untuk menghasilkan materi seperti itu. Ini jelas sangat berbahaya."
Kontroversi ini muncul di tengah meningkatnya pengawasan global terhadap alat AI generatif dan potensinya untuk menciptakan pornografi "deepfake".
Berita terkait: Kemenkominfo selidiki dugaan penyalahgunaan AI Grok untuk konten asusila
Rizal menekankan bahwa pemerintah memiliki kewajiban untuk melindungi warga dari eksploitasi digital.
Dia menyatakan, jika X gagal menerapkan pengamanan moderasi konten yang memadai untuk mencegah produksi dan distribusi materi tersebut, kementerian harus bertindak tegas dengan memblokir akses ke platform itu di Indonesia.
Peringatan ini menyusul penyelidikan yang sedang berjalan oleh Kemenkominfo atas penyalahgunaan fitur AI Grok.
Temuan awal kementerian menunjukkan AI tersebut kurang memiliki filter yang memadai untuk mencegah pengguna mengubah foto pribadi warga Indonesia tanpa persetujuan mereka.
Dirjen Pengawasan Ruang Digital Kemenkominfo, Alexander Sabar, mengonfirmasi pada Rabu bahwa bukti awal mengindikasikan kurangnya pengamanan khusus.
"Ini menimbulkan risiko serius pelanggaran privasi dan hak citra," kata Sabar. Dia mencatat bahwa praktik semacam itu berisiko melanggar hukum Indonesia mengenai persetujuan digital dan pornografi.
Berita terkait: Prabowo peringatkan generasi muda soal manipulasi AI, sebut video palsu dirinya
Penerjemah: Bagus Ahmad Rizaldi, Aditya Eko Sigit Wicaksono
Editor: Rahmad Nasution
Hak Cipta © ANTARA 2026