Video deepfake pornografi Taylor Swift menjadi viral di X (sebelumnya Twitter) minggu ini, menyoroti bahaya gambar yang dihasilkan oleh AI secara online.
Media sintetis atau yang dimanipulasi yang dapat menipu orang tidak diperbolehkan di X, sesuai dengan kebijakannya, dan tim keamanan platform ini mengumumkan pada hari Jumat bahwa mereka “secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab atas pemuatan tersebut.”
LIHAT JUGA:
Era internet yang dihasilkan oleh AI sudah ada
Pada hari Sabtu, pengguna menyadari bahwa X telah mencoba mengatasi masalah tersebut dengan memblokir pencarian “Taylor Swift” – namun bukan istilah terkait tertentu, seperti yang dilaporkan oleh The Verge.
X memblokir nama Taylor Swift dari Pencarian.
Kredit: Tangkapan layar: X
Mashable juga dapat memunculkan halaman kesalahan untuk istilah “Taylor Swift AI” dan “Taylor AI.” Namun, istilah “Swift AI,” “Taylor AI Swift,” dan “Taylor Swift deepfake” masih dapat dicari di platform ini, dengan gambar yang dimanipulasi tetap ditampilkan di tab “Media.”
Seperti yang dicatat oleh reporter budaya Mashable, Meera Navlakha, dalam artikel tentang deepfake Swift, platform media sosial utama berjuang untuk mengendalikan konten yang dihasilkan oleh AI. Hal ini disebabkan oleh kecepatan dan akses dalam menciptakan gambar-gambar ini, sehingga platform sosial seperti X menjadi kewalahan dengan gambar-gambar tersebut dalam beberapa bulan terakhir. Membuat nama Swift tidak dapat dicari menunjukkan bahwa X tidak tahu bagaimana mengatasi beragam gambar dan video deepfake di platformnya.
Pada hari Jumat, juru bicara pers Gedung Putih, Karine Jean-Pierre, menyebut situasinya “mengkhawatirkan.” Ia juga mengomentari bahwa harus ada legislasi tentang hal ini, mengisyaratkan bahwa masalah moderasi gambar AI mungkin segera dibahas di Kongres.