Selama dua tahun terakhir, jutaan orang yang mencari video kekerasan terhadap anak di situs web Pornhub di Inggris telah diinterupsi. Setiap kali seseorang mengetik kata-kata atau frasa yang terkait dengan kekerasan, pesan peringatan telah memblokir halaman, mengatakan bahwa konten semacam itu ilegal. Dan dalam separuh kasus, sebuah chatbot juga mengarahkan orang ke tempat di mana mereka dapat mencari bantuan.
Pesan peringatan dan chatbot tersebut diterapkan oleh Pornhub sebagai bagian dari program uji coba, yang dilakukan dengan dua organisasi perlindungan anak berbasis di Inggris, untuk mencari tahu apakah orang dapat diarahkan untuk menjauhi mencari materi ilegal dengan intervensi kecil. Sebuah laporan baru yang menganalisis uji coba tersebut, dibagikan secara eksklusif dengan WIRED, mengatakan bahwa pop-up tersebut menyebabkan penurunan jumlah pencarian materi kekerasan seksual terhadap anak (CSAM) dan melihat banyak orang mencari dukungan untuk perilaku mereka.
“Jumlah pencarian yang sebenarnya, itu sebenarnya cukup tinggi menakutkan,” kata Joel Scanlan, seorang dosen senior di University of Tasmania, yang memimpin evaluasi Chatbot reThink. Selama uji coba multi tahun, ada 4.400.960 peringatan sebagai respons terhadap pencarian terkait CSAM di situs web Pornhub di Inggris – 99 persen dari semua pencarian selama uji coba tidak memicu peringatan. “Ada penurunan signifikan selama intervensi dalam jumlah pencarian,” kata Scanlan. “Jadi pesan pencegahan memang berhasil.”
Jutaan gambar dan video CSAM ditemukan dan dihapus dari web setiap tahun. Mereka dibagikan di media sosial, diperdagangkan dalam obrolan pribadi, dijual di web gelap, atau dalam beberapa kasus diunggah ke situs web porno legal. Perusahaan teknologi dan perusahaan porno tidak mengizinkan konten ilegal di platform mereka, meskipun mereka menghapusnya dengan tingkat efektivitas yang berbeda. Pornhub menghapus sekitar 10 juta video pada tahun 2020 dalam upaya untuk memberantas materi kekerasan terhadap anak dan konten bermasalah lainnya dari situs webnya setelah laporan New York Times yang merugikan.
Pornhub, yang dimiliki oleh perusahaan induk Aylo (sebelumnya MindGeek), menggunakan daftar 34.000 istilah yang dilarang, melintasi beberapa bahasa dan dengan jutaan kombinasi, untuk memblokir pencarian materi kekerasan terhadap anak, kata juru bicara perusahaan tersebut. Ini merupakan salah satu cara Pornhub berusaha melawan materi ilegal, kata juru bicara tersebut, dan merupakan bagian dari upaya perusahaan yang ditujukan pada keselamatan pengguna, setelah bertahun-tahun dituduh telah menjadi tuan rumah eksploitasi anak dan video nonkonsensual. Ketika orang di Inggris mencari salah satu istilah dalam daftar Pornhub, pesan peringatan dan chatbot muncul.
Chatbot tersebut dirancang dan diciptakan oleh Internet Watch Foundation (IWF), sebuah organisasi nirlaba yang menghapus CSAM dari web, dan Lucy Faithfull Foundation, sebuah badan amal yang berupaya mencegah kekerasan seksual terhadap anak. Chatbot tersebut muncul bersama pesan peringatan sebanyak 2,8 juta kali. Uji coba menghitung jumlah sesi di Pornhub, yang dapat berarti orang dihitung beberapa kali, dan tidak bertujuan untuk mengidentifikasi individu. Laporan tersebut mengatakan ada “penurunan bermakna” dalam pencarian CSAM di Pornhub dan bahwa setidaknya “sebagian” chatbot dan pesan peringatan tampaknya telah memainkan peran.