Sebuah investigasi baru mengklaim bahwa toko aplikasi Apple dan Google menampung puluhan aplikasi AI yang disebut “nudify”, meskipun aplikasi semacam itu melanggar aturan kedua perusahaan tersebut.
The Transparency Project (TTP), sebuah kelompok yang berafiliasi dengan Kennedy School of Government di Universitas Harvard, menemukan puluhan aplikasi di kedua toko yang secara digital menghapus pakaian, membuat subjek menjadi telanjang atau hampir telanjang. Mereka menemukan 55 aplikasi semacam itu di Google Play Store dan 47 di Apple App Store.
TTP menulis:
“Aplikasi-aplikasi yang diidentifikasi TTP telah diunduh lebih dari 705 juta kali secara kolektif di seluruh dunia dan menghasilkan pendapatan $117 juta, menurut AppMagic, sebuah firma analitik aplikasi. Karena Google dan Apple mengambil porsi dari pendapatan itu, mereka secara langsung mengambil keuntungan dari aktivitas aplikasi-aplikasi ini.”
Kedua raksasa teknologi telah menanggapi laporan TTP. Apple memberitahu CNBC bahwa mereka telah menghapus 28 aplikasi yang diidentifikasi dalam laporan TTP, sementara Google mengatakan kepada media tersebut bahwa mereka telah “menangguhkan beberapa aplikasi” sambil mencatat investigasi mereka masih berlangsung.
Namun, TTP menyimpulkan bahwa kedua App Store perlu berbuat lebih banyak untuk menghentikan deepfake non-konsensual.
TEMUKAN JUGA:
Deepfake eksplisit bersifat traumatis. Begini cara menghadapi rasa sakitnya.
“Temuan TTP menunjukkan bahwa Google dan Apple telah gagal mengimbangi penyebaran aplikasi AI deepfake yang dapat ‘menelanjangi’ orang tanpa izin mereka,” demikian pernyataan laporan tersebut. “Kedua perusahaan ini mengklaim berkomitmen pada keamanan dan keselamatan pengguna, tetapi mereka menampung sekumpulan aplikasi yang dapat mengubah foto biasa seorang wanita menjadi gambar yang bersifat pelecehan dan terseksualisasi.”
Laporan dari TTP ini muncul di tengah kontroversi seputar Elon Musk dan Grok dari xAI, yang sedang diselidiki di beberapa negara karena membuat gambar-gambar terseksualisasi non-konsensual. Sebuah investigasi Mashable menemukan bahwa Grok kekurangan pagar pengaman dasar untuk mencegah deepfake. Selain itu, para peneliti mengatakan Grok telah menciptakan lebih dari 3 juta gambar terseksualisasi — termasuk lebih dari 20.000 yang tampaknya menggambarkan anak-anak — dalam periode 11 hari antara 29 Desember dan 8 Januari.
Dengan dimulainya era AI, deepfake seksual akan terus menjadi masalah besar bagi perusahaan-perusahaan teknologi ke depannya.