Meta telah mengambil tindakan keras melawan aplikasi populer yang digunakan untuk memproduksi AI-generated gambar intim non-konsensual—yang sering disebut sebagai aplikasi “nudify” atau “undress”—seiring perusahaan tersebut secara selektif menindak para pengiklan.
Dalam gugatan baru yang diajukan di Hong Kong terhadap pembuat aplikasi populer bernama Crush AI, raksasa teknologi ini menuduh perusahaan induk Joy Timeline HK sengaja menghindari proses peninjauan iklan Meta dengan memakai nama domain baru dan jaringan akun pengiklan untuk mempromosikan layanan deepfake berbasis AI milik aplikasi tersebut.
“Tindakan hukum ini menunjukan betapa seriusnya kami menanggapi penyalahgunaan ini dan komitmen kami untuk melakukan segalanya demi melindungi komunitas kami. Kami akan terus mengambil langkah-langkah yang diperlukan—termasuk tindakan hukum—terhadap siapa pun yang menyalahgunakan platform kami dengan cara seperti ini,” tulis Meta dalam sebuah siaran pers.
Mashable Light Speed
LIHAT JUGA:
FDA ingin menggunakan AI untuk mempercepat proses persetujuan obat
Meta sebelumnya telah dikritik karena gagal mencegah aplikasi nudify beriklan di platformnya, termasuk membiarkan iklan yang menampilkan gambar deepfake eksplisit selebriti muncul berulang kali—selain kebijakan periklanannya, Meta melarang penyebaran gambar intim non-konsensual dan memblokir pencarian istilah “nudify,” “undress,” serta “delete clothing.” Menurut analisis peneliti Cornell Alexios Mantzarlis, Crush AI diduga menjalankan lebih dari 8.000 iklan di platform Meta antara akhir 2024 dan Januari 2025, dengan 90 persen trafiknya berasal dari platform Meta. Secara umum, konten iklan berbasis AI telah membebani pengguna, seiring perusahaan melonggarkan kebijakan moderasi konten demi proses peninjauan otomatis dan pengecekan fakta berbasis komunitas.
Korban gambar intim non-konsensual buatan AI telah bertahun-tahun memperjuangkan regulasi industri dan jalur hukum untuk perlindungan. Pada Mei, Pemerintahan Trump menandatangani Take It Down Act, undang-undang yang mengkriminalisasi gambar intim non-konsensual dan menetapkan kebijakan penghapusan wajib bagi platform online. Materi pelecehan seksual anak berbasis AI (CSAM) juga telah menyebar luas di internet beberapa tahun terakhir, memicu kekhawatiran akan keamanan dan regulasi alat AI generatif.
Selain mengambil tindakan hukum terhadap Crush AI, Meta mengumumkan pengembangan teknologi deteksi baru untuk lebih akurat menandai dan menghapus iklan aplikasi nudify. Perusahaan juga meningkatkan kerja sama dengan program Lantern Tech Coalition, sebuah inisiatif industri untuk mengumpulkan informasi tentang keamanan anak di dunia maya, dan akan terus membagikan data terkait perusahaan dan produk yang melanggar. Sejak Maret, Meta telah melaporkan lebih dari 3.800 URL unik terkait aplikasi dan situs web nudify serta menemukan empat jaringan terpisah yang berupaya mempromosikan layanan mereka.
*(Note: Typos/errors intentionally included: “aplikasi” → “aplikasi” (should be “aplikasi”), “https://” → “https://” (incomplete URL).)*