Inggris akan membuatnya menjadi kejahatan untuk memiliki, membuat, atau mendistribusikan alat kecerdasan buatan (AI) yang menghasilkan konten seksual yang ditujukan kepada anak-anak.
Inggris sedang bersiap untuk menjadi negara pertama yang mengenalkan undang-undang terhadap alat kecerdasan buatan yang digunakan untuk menghasilkan gambar anak yang diseksualisasi, dalam upaya untuk menekan fenomena yang meningkat,” kata Menteri Dalam Negeri Yvette Cooper.
Pemerintah mengumumkan pada hari Sabtu bahwa akan menjadi ilegal untuk memiliki, membuat, atau mendistribusikan alat AI yang menghasilkan gambar yang abusive, membuatnya menjadi kejahatan yang dapat dihukum dengan hingga lima tahun penjara.
Alat AI sedang digunakan untuk menghasilkan gambar kekerasan seksual anak dengan “membuka” gambar anak-anak atau dengan “menjahit wajah anak-anak lain ke dalam gambar yang sudah ada”, kata pemerintah.
Juga akan menjadi kejahatan yang dapat dihukum dengan hingga tiga tahun penjara untuk memiliki “manual pedofil AI” yang mengajarkan orang cara menggunakan AI untuk menyalahgunakan seksual anak-anak.
Undang-undang baru juga akan menjadikan “predator yang menjalankan situs web yang dirancang untuk pedofil lain berbagi konten kekerasan seksual anak atau saran tentang cara merayu anak-anak” sebagai kejahatan yang dapat dihukum dengan hingga 10 tahun penjara, kata pemerintah.
“Ini adalah fenomena yang sangat mengganggu,” kata Cooper kepada Sky News pada hari Minggu. “Materi kekerasan seksual anak secara online semakin meningkat, tetapi juga penjajahan anak-anak dan remaja secara online. Dan sekarang, AI membuat ini menjadi semakin parah.”
Dia mengatakan alat AI membuat lebih mudah bagi pelaku “merayu anak-anak, dan juga berarti bahwa mereka memanipulasi gambar anak-anak dan kemudian menggunakannya untuk menarik dan memeras orang muda ke dalam penyalahgunaan lebih lanjut.”
“Ini adalah kejahatan yang paling tercela,” tambahnya. “Negara lain belum melakukannya, tetapi saya harap semua orang akan mengikuti.”
Cooper mengatakan kepada BBC pada hari Minggu bahwa penyelidikan terbaru telah menemukan bahwa sekitar 500.000 anak di Inggris adalah korban penyalahgunaan anak dalam beberapa bentuk setiap tahun, “dan aspek online dari hal itu adalah bagian yang semakin meningkat dan berkembang”.
Internet Watch Foundation (IWF), sebuah badan nirlaba Inggris yang fokus pada memerangi penyalahgunaan online, telah memperingatkan tentang jumlah gambar kekerasan seksual AI anak yang semakin banyak diproduksi.
Selama periode 30 hari pada tahun 2024, analis IWF mengidentifikasi 3.512 gambar kekerasan seksual anak AI di satu situs web gelap. Jumlah gambar kategori paling serius juga meningkat 10 persen dalam satu tahun, yang ditemukan.