Tiga situs web yang dipakai untuk membuat materi pelecehan tercatat menerima 100.000 kunjungan bulanan dari warga Australia, menurut badan pengawas.
Ditayangkan Pada 27 Nov 202527 Nov 2025
Klik di sini untuk membagikan di media sosial
share2
Pengguna internet di Australia telah diblokir mengakses sejumlah situs yang memanfaatkan kecerdasan buatan untuk membuat materi eskploitasi seksual anak, demikian diumumkan regulator internet negeri itu.
Ketiga situs “nudify” tersebut menarik diri dari Australia menyusul peringatan resmi, kata Komisioner eSafety Julie Inman Grant pada Kamis.
Rekomendasi Cerita
daftar 4 itemakhir daftar
Kantor Grant menyebut situs-situs itu sebelumnya mendapat sekitar 100.000 kunjungan per bulan dari Australia dan muncul dalam kasus-kasus terkenal pencitraan pelecehan seksual anak berbasis AI yang melibatkan pelajar sekolah di Australia.
Grant menyatakan layanan “nudify” semacam itu, yang memungkinkan pengguna membuat foto orang nyata tampak telanjang memakai AI, telah memberikan efek yang “menghancurkan” di sekolah-sekolah Australia.
“Kami mengambil tindakan penegakan hukum pada September karena penyedia ini gagal menerapkan pengamanan untuk mencegah layanannya dipakai membuat materi eksploitasi seksual anak dan bahkan memasarkan fitur seperti menelanjangi ‘gadis mana saja,’ dengan opsi pembuatan gambar ‘gadis sekolah’ dan fitur seperti ‘mode seks,’” kata Grant dalam sebuah pernyataan.
Perkembangan ini terjadi setelah kantor Grant mengeluarkan peringatan resmi kepada perusahaan berbasis Inggris di balik situs-situs itu pada September, dengan ancaman hukuman perdata hingga 49,5 juta dolar Australia (AS$32,2 juta) jika mereka tidak menerapkan pengamanan untuk mencegah pelecehan berbasis gambar.
Grant menambahkan bahwa Hugging Face, sebuah platform hosting untuk model AI, secara terpisah juga telah mengambil langkah untuk mematuhi hukum Australia, termasuk mengubah syarat layanannya untuk mewajibkan pemegang akun mengambil tindakan guna meminimalisir risiko penyalahgunaan platform mereka.
Australia berada di garis depan upaya global untuk mencegah bahaya online terhadap anak-anak, dengan melarang media sosial bagi usia di bawah 16 tahun dan menindak aplikasi yang digunakan untuk membuntuti serta membuat gambar deepfake.
Penggunaan AI untuk membuat gambar eksplisit seksual tanpa persetujuan telah menjadi keprihatinan yang semakin besar seiring pesatnya proliferasi platform yang mampu menciptakan materi semirip foto hanya dengan satu klik.
Dalam survei yang dilakukan kelompok advokasi asal AS, Thorn, tahun lalu, 10 persen responden berusia 13-20 tahun melaporkan mengenal seseorang yang pernah dibuatkan gambar telanjang deepfake, sementara 6 persen mengaku menjadi korban langsung pelecehan semacam itu.