Kamis, 8 Januari 2026 – 08:54 WIB
Jakarta, VIVA – Direktipid Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, angkat bicara soal dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok di platform X. Fitur ini diduga dipakai untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi.
Himawan menjelaskan, jika ada seseorang yang memanipulasi data elektronik milik orang lain tanpa persetujuan, maka hal itu dapat dikenakan pidana.
“Kalau bicara AI, selama itu bisa diklarifikasi sebagai manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” kata Himawan kepada wartawan, dikutip Kamis (8/1).
Sementara itu, Himawan menuturkan pihaknya saat ini sedang menyelidiki perkembangan AI ini, termasuk soal deepfake yang menggunakan AI.
“Jadi perkembangan teknologi sekarang mengarah ke artificial intelligence, termasuk deepfake yang menggunakan AI. Karena itu kita sedang melakukan penyelidikan ke arah sana,” jelasnya.
“Termasuk kita sedang selidiki yang kemarin AI terkait website e-tilang, yang banyak beredar itu juga sedang kita lakukan penyelidikan. Jadi memang itu menjadi target kita di Ditipid Siber,” lanjut Himawan.
Baca Juga:
Alexander Sabar Ancam Blokir X
Sebagai informasi, Kementerian Komunikasi dan Informatika (Kominfo) menindaklanjuti dugaan penyalahgunaan fitur AI Grok di platform X. Fitur ini dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk memanipulasi foto pribadi yang bersifat sensitif tanpa izin pemiliknya.
Direktur Jenderal Aplikasi Informatika, Samuel Abrijani Pangerapan, mengungkapkan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto warga Indonesia.
Kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Samuel di Jakarta.
Sementara itu, Samuel menilai bahwa manipulasi digital terhadap foto pribadi bukan cuma persoalan kesusilaan, melainkan bentuk perampasan kontrol individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.
Halaman Selanjutnya
Saat ini Kominfo tengah berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.