Pada awal 2022, dua staf kebijakan Google bertemu dengan tiga wanita yang menjadi korban penipuan yang mengakibatkan video eksplisit dari mereka beredar secara online—termasuk melalui hasil pencarian Google. Para wanita tersebut termasuk dalam ratusan orang dewasa muda yang merespons iklan mencari model pakaian renang hanya untuk dipaksa tampil dalam video seks yang didistribusikan oleh situs GirlsDoPorn. Situs tersebut ditutup pada tahun 2020, dan seorang produser, seorang akuntan, dan seorang kameramen kemudian mengaku bersalah atas perdagangan seks, tetapi video-video terus muncul di hasil pencarian Google lebih cepat daripada wanita-wanita tersebut bisa meminta penghapusan.
Wanita-wanita tersebut, didampingi oleh seorang pengacara dan seorang ahli keamanan, menyajikan banyak ide untuk bagaimana Google bisa menyembunyikan klip-klip kriminal dan merendahkan diri tersebut dengan lebih baik, menurut lima orang yang hadir atau diberi informasi tentang pertemuan virtual tersebut. Mereka ingin pencarian Google melarang situs web yang didedikasikan untuk GirlsDoPorn dan video dengan watermark-nya. Mereka menyarankan Google bisa meminjam hard drive 25 terabyte di mana konsultan keamanan cyber wanita-wanita tersebut, Charles DeBarber, telah menyimpan setiap episode GirlsDoPorn, mengambil sidik jari matematika, atau “hash,” dari setiap klip, dan memblokirnya agar tidak pernah muncul kembali di hasil pencarian.
Dua staf Google dalam pertemuan itu berharap menggunakan apa yang mereka pelajari untuk memenangkan lebih banyak sumber daya dari atasan. Tetapi pengacara korban, Brian Holm, pergi dengan perasaan ragu. Tim kebijakan berada dalam “posisi sulit” dan “tidak memiliki kewenangan untuk mengubah di dalam Google,” katanya.
Reaksi nalurinya tepat. Dua tahun kemudian, tidak ada dari ide-ide tersebut yang dibahas dalam pertemuan yang dijalankan, dan video-video masih muncul dalam pencarian.
WIRED telah berbicara dengan lima mantan karyawan Google dan 10 advokat korban yang telah berkomunikasi dengan perusahaan tersebut. Mereka semua mengatakan bahwa mereka menghargai bahwa karena perubahan terbaru yang telah dilakukan Google, para korban penyalahgunaan seksual berbasis gambar seperti penipuan GirlsDoPorn bisa lebih mudah dan berhasil menghapus hasil pencarian yang tidak diinginkan. Tetapi mereka frustrasi karena manajemen di raksasa pencarian tersebut belum menyetujui proposal, seperti ide hard drive, yang mereka percayai akan lebih sepenuhnya mengembalikan dan menjaga privasi jutaan korban di seluruh dunia, sebagian besar dari mereka adalah wanita.
Sumber-sumber tersebut menggambarkan perdebatan internal yang sebelumnya tidak dilaporkan, termasuk alasan Google untuk tidak menggunakan alat industri bernama StopNCII yang berbagi informasi tentang gambar intim nonkonsensual (NCII) dan kegagalan perusahaan untuk menuntut situs-situs porno memverifikasi persetujuan untuk memenuhi syarat lalu lintas pencarian. Tim penelitian Google sendiri telah menerbitkan langkah-langkah yang bisa diambil perusahaan teknologi melawan NCII, termasuk menggunakan StopNCII.
Sumber-sumber tersebut percaya upaya seperti itu akan lebih baik mengendalikan masalah yang semakin berkembang, sebagian melalui akses yang semakin luas ke alat kecerdasan buatan yang menciptakan deepfake eksplisit, termasuk mereka yang melibatkan korban-korban GirlsDoPorn. Laporan keseluruhan ke hotline Revenge Porn UK lebih dari dua kali lipat tahun lalu, menjadi sekitar 19.000, begitu juga dengan jumlah kasus yang melibatkan konten sintetis. Separuh dari lebih dari 2.000 orang Britania Raya dalam survei terbaru khawatir menjadi korban deepfake. Gedung Putih pada bulan Mei mendorong tindakan lebih cepat oleh pembuat undang-undang dan industri untuk meredam NCII secara keseluruhan. Pada bulan Juni, Google bergabung dengan tujuh perusahaan lain dan sembilan organisasi dalam mengumumkan sebuah kelompok kerja untuk mengoordinasikan respons.
Saat ini, korban dapat menuntut penuntutan pelaku atau mengejar klaim hukum terhadap situs web yang menyimpan konten, tetapi kedua jalur tersebut tidak dijamin, dan keduanya bisa mahal karena biaya hukum. Mendapatkan Google untuk menghapus hasil pencarian bisa menjadi taktik yang paling praktis dan melayani tujuan akhir menjaga konten yang melanggar keluar dari mata teman, manajer perekrutan, pemilik rumah potensial, atau kencan—yang hampir semuanya kemungkinan besar mencari informasi tentang orang melalui Google.
Jurubicara Google, yang meminta anonimitas untuk menghindari pelecehan dari pelaku, menolak berkomentar tentang panggilan dengan korban GirlsDoPorn. Dia mengatakan memerangi apa yang perusahaan sebut sebagai gambar eksplisit nonkonsensual (NCEI) tetap menjadi prioritas dan bahwa tindakan Google jauh melampaui apa yang diperlukan secara hukum. “Selama bertahun-tahun, kami telah berinvestasi secara mendalam dalam kebijakan dan perlindungan terdepan industri untuk membantu melindungi orang yang terkena dampak konten berbahaya ini,” katanya. “Tim di seluruh Google terus bekerja dengan tekun untuk memperkuat perlindungan kami dan dengan cermat mengatasi tantangan-tantangan baru untuk lebih melindungi orang.”