Setiap metode tersebut dibuat sebagai senjata—hampir selalu digunakan terhadap perempuan—untuk merendahkan martabat, melecehkan, atau menyebabkan rasa malu, di antara kerugian lainnya. Julie Inman Grant, komisioner e-safety Australia, mengatakan kantornya mulai melihat lebih banyak deepfake dilaporkan ke skema keluhan penyalahgunaan berbasis gambar, bersamaan dengan konten yang dihasilkan oleh kecerdasan buatan lainnya, seperti konten kekerasan seksual anak “sintetis” dan anak-anak yang menggunakan aplikasi untuk membuat video yang mengeseksualisasikan teman sekelas mereka. “Kami tahu ini adalah bentuk penyalahgunaan yang sangat kurang dilaporkan,” kata Grant.
Seiring dengan bertambahnya jumlah video di situs web deepfake, para pencipta konten—seperti streamer dan model dewasa—telah menggunakan permintaan DMCA. DMCA memungkinkan pemilik hak kekayaan intelektual dari suatu konten untuk meminta agar konten tersebut dihapus dari situs web secara langsung atau dari hasil pencarian. Lebih dari 8 miliar permintaan penghapusan, yang mencakup segala hal mulai dari game hingga musik, telah diajukan kepada Google.
“DMCA secara historis telah menjadi cara penting bagi korban penyalahgunaan seksual berbasis gambar untuk menghapus konten mereka dari internet,” kata Carrie Goldberg, seorang pengacara hak korban. Goldberg mengatakan bahwa undang-undang pidana dan prosedur hukum perdata yang lebih baru memudahkan penghapusan beberapa penyalahgunaan seksual berbasis gambar, tetapi deepfake mempersulit situasi tersebut. “Meskipun platform cenderung tidak memiliki empati terhadap korban pelanggaran privasi, mereka menghormati hukum hak cipta,” kata Goldberg.
Analisis WIRED terhadap situs web deepfake, yang mencakup 14 situs, menunjukkan bahwa Google telah menerima permintaan penghapusan DMCA tentang semua situs tersebut dalam beberapa tahun terakhir. Banyak situs web hanya menyimpan konten deepfake dan seringkali berfokus pada selebriti. Situs web tersebut menyediakan formulir kontak DMCA di mana orang bisa langsung meminta untuk menghapus konten, meskipun mereka tidak mempublikasikan statistik apa pun, dan tidak jelas seberapa efektif mereka dalam menanggapi keluhan. Satu situs web mengatakan bahwa situs tersebut berisi video “aktris, YouTuber, streamer, tokoh TV, dan jenis tokoh publik dan selebriti lainnya.” Situs tersebut menyimpan ratusan video dengan “Taylor Swift” dalam judul videonya.
Sebagian besar permintaan penghapusan DMCA yang terkait dengan situs web deepfake yang terdaftar dalam data Google berkaitan dengan dua situs terbesar. Kedua situs tersebut tidak merespons pertanyaan tertulis yang dikirim oleh WIRED. Sebagian besar dari 14 situs web tersebut memiliki lebih dari 80 persen keluhan yang menyebabkan konten dihapus oleh Google. Beberapa permintaan penghapusan hak cipta yang dikirim oleh individu menunjukkan kecemasan dari video yang dapat terjadi. “Ini dilakukan untuk merendahkan dan mengintimidasi saya,” kata satu permintaan. “Saya sangat serius dalam hal ini dan saya akan melakukan segala cara untuk menghapusnya,” kata permintaan lainnya.
“Impaknya sangat besar pada kehidupan seseorang,” kata Yvette van Bekkum, CEO Orange Warriors, sebuah perusahaan yang membantu orang menghapus gambar yang bocor, dicuri, atau dibagikan tanpa izin secara online, termasuk melalui permintaan DMCA. Van Bekkum mengatakan bahwa organisasi tersebut melihat peningkatan konten deepfake online, dan korban menghadapi hambatan untuk maju dan meminta agar konten mereka dihapus. “Bayangkan jika Anda sedang dalam proses perekrutan dan orang-orang mencari nama Anda di Google, dan mereka menemukan konten eksplisit seperti itu,” kata van Bekkum.
Jurubicara Google, Ned Adriance, mengatakan bahwa proses DMCA mereka memungkinkan “pemegang hak” untuk melindungi karyanya secara online dan perusahaan tersebut memiliki alat terpisah untuk menangani deepfake—termasuk formulir dan proses penghapusan yang terpisah. “Kami memiliki kebijakan untuk pornografi deepfake tanpa persetujuan, sehingga orang dapat meminta konten semacam itu yang mencakup wajah mereka dihapus dari hasil pencarian,” kata Adriance. “Dan kami sedang aktif mengembangkan langkah-langkah pengaman tambahan untuk membantu orang yang terkena dampak.” Google mengatakan bahwa ketika mereka menerima volume tinggi penghapusan hak cipta yang valid tentang suatu situs web, mereka menggunakannya sebagai sinyal bahwa situs tersebut mungkin tidak memberikan konten berkualitas tinggi. Perusahaan tersebut juga mengatakan bahwa mereka telah membuat sistem untuk menghapus salinan duplikat pornografi deepfake tanpa persetujuan setelah mereka menghapus satu salinannya, dan bahwa mereka baru-baru ini memperbarui hasil pencarian mereka untuk membatasi keterlihatan deepfake ketika orang tidak sedang mencarinya.