Beberapa perusahaan teknologi besar, termasuk Google, Apple, dan Discord, telah memungkinkan orang untuk mendaftar dengan cepat ke situs web “undress” yang berbahaya, yang menggunakan kecerdasan buatan (AI) untuk menghapus pakaian dari foto asli sehingga korban terlihat “telanjang” tanpa persetujuan mereka. Lebih dari selusin situs web deepfake ini telah menggunakan tombol login dari perusahaan teknologi tersebut selama berbulan-bulan.
Sebuah analisis WIRED menemukan 16 situs web undress dan “nudify” terbesar menggunakan infrastruktur login dari Google, Apple, Discord, Twitter, Patreon, dan Line. Pendekatan ini memungkinkan orang dengan mudah membuat akun di situs web deepfake—memberikan mereka lapisan kredibilitas—sebelum mereka membayar kredit dan menghasilkan gambar.
Meskipun bot dan situs web yang membuat gambar intim tanpa persetujuan wanita dan gadis telah ada selama bertahun-tahun, jumlahnya meningkat dengan diperkenalkannya kecerdasan buatan generatif. Jenis penyalahgunaan “undress” ini sangat luas, dengan remaja laki-laki diyakini membuat gambar dari teman sekelas mereka. Perusahaan teknologi telah lambat dalam menangani skala masalah ini, kata para kritikus, dengan situs web tersebut muncul tinggi dalam hasil pencarian, iklan berbayar yang mempromosikannya di media sosial, dan aplikasi muncul di toko aplikasi.
“Ini adalah kelanjutan dari tren yang mengnormalisasi kekerasan seksual terhadap wanita dan gadis oleh Big Tech,” kata Adam Dodge, seorang pengacara dan pendiri EndTAB (Ending Technology-Enabled Abuse). “API login adalah alat kenyamanan. Kita tidak boleh membuat kekerasan seksual menjadi tindakan kenyamanan,” katanya. “Kita seharusnya memasang dinding di sekitar akses ke aplikasi ini, dan malah kita memberikan jembatan drawbridge kepada orang.”
Alat login yang dianalisis oleh WIRED, yang diterapkan melalui API dan metode otentikasi umum, memungkinkan orang menggunakan akun yang sudah ada untuk bergabung dengan situs web deepfake. Sistem login Google muncul di 16 situs web, Discord muncul di 13, dan Apple di enam. Tombol X muncul di tiga situs web, dengan Patreon dan layanan pesan Line muncul di dua situs web yang sama.
WIRED tidak menyebutkan nama situs web, karena mereka memungkinkan penyalahgunaan. Beberapa merupakan bagian dari jaringan yang lebih luas dan dimiliki oleh individu atau perusahaan yang sama. Sistem login telah digunakan meskipun perusahaan teknologi secara umum memiliki aturan yang menyatakan bahwa pengembang tidak boleh menggunakan layanan mereka dengan cara yang akan menyebabkan kerusakan, pelecehan, atau melanggar privasi orang.
Setelah dihubungi oleh WIRED, juru bicara Discord dan Apple mengatakan mereka telah menghapus akun pengembang yang terhubung ke situs web mereka. Google mengatakan akan mengambil tindakan terhadap pengembang ketika menemukan bahwa persyaratan mereka telah dilanggar. Patreon mengatakan melarang akun yang memungkinkan gambar eksplisit dibuat, dan Line mengonfirmasi sedang menyelidiki tetapi mengatakan tidak dapat berkomentar tentang situs web tertentu. X tidak membalas permintaan komentar tentang cara sistem mereka digunakan.
Dalam beberapa jam setelah Jud Hoffman, wakil presiden kepercayaan dan keamanan Discord, mengatakan kepada WIRED bahwa mereka telah menghentikan akses situs web ke API-nya karena melanggar kebijakan pengembang, salah satu situs web undress memposting di saluran Telegram bahwa otorisasi melalui Discord “sementara tidak tersedia” dan mengklaim sedang mencoba memulihkan akses. Layanan undress tersebut tidak merespons permintaan komentar WIRED tentang operasinya.
Ekspansi Cepat
Sejak teknologi deepfake muncul menuju akhir 2017, jumlah video dan gambar intim nonkonsensual yang dibuat telah berkembang secara eksponensial. Sementara video lebih sulit diproduksi, pembuatan gambar menggunakan situs web dan aplikasi “undress” atau “nudify” telah menjadi hal yang umum.
“Kita harus jelas bahwa ini bukan inovasi, ini adalah pelecehan seksual,” kata David Chiu, jaksa kota San Francisco, yang baru-baru ini membuka gugatan terhadap situs web undress dan nudify serta penciptanya. Chiu mengatakan 16 situs web yang difokuskan gugatan kantornya telah memiliki sekitar 200 juta kunjungan dalam enam bulan pertama tahun ini. “Situs web ini terlibat dalam eksploitasi mengerikan terhadap wanita dan gadis di seluruh dunia. Gambar-gambar ini digunakan untuk membuli, merendahkan, dan mengancam wanita dan gadis,” tuduh Chiu.