Sebuah platform yang menjanjikan “obrolan AI yang pedas” membiarkan hampir dua juta gambar dan video, banyak di antaranya menampilkan warga sipil biasa, terekspos ke publik, dilaporkan oleh 404 Media.
Menurut 404 Media, Secret Desires, sebuah chatbot erotis dan generator gambar AI, meninggalkan wadah penyimpanan cloud yang berisi foto, nama-nama perempuan, dan informasi pribadi lain seperti tempat kerja serta universitas dalam keadaan rentan.
“Kebocoran masif” ini merupakan kasus terbaru dimana orang menggunakan alat-alat AI generatif untuk mengubah foto biasa menjadi deepfake eksplisit tanpa persetujuan.
**Aplikasi kencan untuk semua orang**
AdultFriendFinder — pilihan pembaca untuk koneksi kasual
Tinder — pilihan utama untuk menemukan hubungan singkat
Hinge — pilihan populer untuk pertemuan rutin
Produk tersedia untuk dibeli melalui tautan afiliasi. Jika Anda membeli sesuatu melalui tautan di situs kami, Mashable dapat memperoleh komisi afiliasi.
**LIHAT JUGA:**
Apakah porno AI merupakan cakrawala baru dalam kepuasan diri — dan apakah itu etis?
Sebagian foto dan video diambil dari influencer nyata, figur publik, dan perempuan yang tidak terkenal. Kategori terakhir mencakup tangkapan layar Snapchat dan setidaknya satu foto kenangan sekolah. Beberapa media yang terbongkar mencakup gambar AI yang dihasilkan pengguna, seperti yang dibuat dengan fitur “tukar-wajah” yang kini sudah tidak berfungsi, yang dihapus oleh Secret Desires awal tahun ini.
**Mashable Trend Report**
Seperti Character.AI atau Replika, Secret Desires memungkinkan pengguna membuat persona AI dan mengobrol dengannya. Sementara konten pornografi tidak diizinkan di Character.AI (dan hanya diizinkan untuk pengguna Replika tertentu), Secret Desires menyatakan bahwa mereka “menyediakan keintiman dan koneksi tanpa batas” dalam Panduan Cepat Mulai mereka.
Seperti yang ditemukan 404 Media, media yang dihasilkan AI dalam wadah penyimpanan yang rentan itu kebanyakan bersifat eksplisit. Beberapa nama file mencakup istilah seperti “17-tahun”.
Perusahaan tersebut tidak menanggapi permintaan komentar dari 404 Media, tetapi file-file tersebut menjadi tidak dapat diakses sekitar satu jam setelah publikasi menghubungi.
Selama bertahun-tahun, perempuan dan remaja putri telah menjadi korban deepfake eksplisit, yang merupakan konten yang dihasilkan AI. Banyak deepfake adalah rupa perempuan yang “ditukar wajahnya” ke dalam video porno. Hal ini berlaku untuk selebriti seperti Taylor Swift maupun perempuan yang tidak terkenal. Ini juga terjadi pada anak-anak perempuan, menciptakan materi pelecehan seksual anak daring.
Tahun ini, Kongres meloloskan Undang-Undang Take It Down untuk memerangi gambar deepfake. Undang-undang ini terbukti kontroversial, karena beberapa kelompok advokasi dan kebebasan berbicara mengklaim bahwa undang-undang ini dapat digunakan sebagai senjata terhadap materi eksplisit yang konsensual atau pidato politik.
Topik
Kecerdasan Buatan