Setelah dua gambar AI yang eksplisit dari tokoh publik perempuan muncul di situsnya, Dewan Pengawas Meta berencana untuk menyelidiki bagaimana Facebook dan Instagram menangani konten semacam ini.
Salah satu tokoh publik yang menjadi subjek gambar deepfake telanjang berasal dari India. Yang lain berasal dari Amerika Serikat. Meta tidak menyebutkan nama tokoh tersebut.
Dalam kasus wanita India, seorang pengguna melaporkan konten tersebut ke Meta, dengan alasan pornografi. Laporan tersebut ditutup karena tidak ditinjau dalam waktu 48 jam. Banding diajukan, tetapi juga ditutup secara otomatis, sehingga gambar tetap dapat dilihat. Pengguna kemudian mengajukan banding ke Dewan Pengawas.
Pada titik tersebut, Meta mengubah keputusan dan mengatakan bahwa keputusan untuk membiarkan gambar tetap ada adalah kesalahan dan menghapusnya.
Gambar kedua, dari selebriti Amerika, menunjukkan dia telanjang sambil seorang pria meraba-raba payudaranya. Gambar tersebut segera dihapus dan ditambahkan ke sistem penegakan otomatis perusahaan, yang secara otomatis menghapus gambar yang melanggar aturan.
Dewan mengatakan akan menilai apakah kebijakan dan praktik penegakan hukum saat ini efektif dalam mengatasi gambar AI eksplisit—dan apakah perusahaan mengenforce praktik tersebut secara adil di seluruh dunia.
Deepfake merupakan masalah yang berkembang pesat secara umum. Investigasi Channel 4 di Inggris menemukan gambar-gambar buatan, banyak yang dibuat oleh AI, dari hampir 4.000 selebriti. Dan laporan AI firma DeepTrace Labs pada tahun 2019 menyimpulkan bahwa gambar-gambar ini pada umumnya digunakan sebagai senjata terhadap perempuan, dengan aktor perempuan dan penyanyi K-pop Korea Selatan menjadi sasaran paling populer.
Pada Januari, gambar deepfake Taylor Swift viral di Twitter, memaksa platform tersebut untuk memblokir beberapa pencarian atas namanya.
Dewan Pengawas Meta sedang mencari komentar publik tentang sejumlah isu, termasuk dampak yang ditimbulkan oleh gambar deepfake telanjang dan pornografi, bagaimana perusahaan dapat mengatasi masalah ini, dan masalah dengan sistem otomatis yang secara otomatis menutup banding sebelum tinjauan dilakukan. Berlangganan newsletter Eye on AI untuk tetap up-to-date tentang bagaimana AI membentuk masa depan bisnis. Daftar secara gratis.