Pencarian untuk Taylor Swift dihentikan oleh X milik Elon Musk akhir pekan ini setelah foto-foto yang dihasilkan oleh kecerdasan buatan secara eksplisit secara seksual dari bintang pop internasional ini menjadi viral di platform tersebut. Ini adalah salah satu dari beberapa kali X secara signifikan memblokir konten kontroversial di platform tersebut, yang sejauh ini bersembunyi di balik klaim sebagai platform “kebebasan berbicara” untuk membiarkan kontennya berkeliaran sejak Musk mengambil alih.
Peringatan! Microsoft Ingin ChatGPT Mengendalikan Robot Berikutnya
“Ada yang salah,” kata X ketika Anda mencari “Taylor Swift” pada hari Senin ini. “Coba muat ulang.”
Foto-foto Taylor Swift yang dihasilkan oleh kecerdasan buatan mulai beredar di X akhir pekan lalu, dengan satu postingan mendapatkan lebih dari 45 juta tampilan. Postingan-postingan tersebut langsung mendapatkan kecaman dari penggemar Swift, yang akhirnya mendorong X untuk memblokir akun-akun yang membagikan konten tersebut dan menghapus postingan-postingan yang paling viral. Bahkan Gedung Putih mengomentari situasi tersebut, dengan Karine Jean-Pierre, Sekretaris Pers Biden, menyebut situasi tersebut “mengkhawatirkan.” Pada akhir pekan, pengguna menyadari bahwa mereka tidak lagi dapat mencari nama Taylor Swift, yang menandakan salah satu upaya moderasi konten paling dramatis dari X sejak Musk mengambil alih.
Microsoft memperkenalkan perlindungan baru untuk alat generasi gambar mereka, Designer, menurut 404 Media pada hari Senin, yang diidentifikasi sebagai alat yang digunakan untuk membuat gambar porno AI dari Swift. Designer dilaporkan digunakan untuk membuat gambar-gambar eksplisit secara seksual dari beberapa selebriti lainnya, yang beredar di 4chan dan Telegram.
Pada hari Senin pagi, “Swift” menjadi topik tren di X karena foto-foto bintang pop tersebut muncul di lapangan pada Kejuaraan AFC dengan pacarnya, Travis Kelce. Kehadiran Swift di pertandingan Kansas City Chiefs dilaporkan meningkatkan rating pertandingan NFL tahun ini, dan kemungkinan besar dia akan menuju ke Las Vegas pada tanggal 11 Februari untuk memberi dukungan tim kekasihnya di Superbowl.
Konvergensi antara Taylor Swift dan Superbowl 58 sedang menjadi peristiwa paling viral tahun baru ini, memberikan X waktu dua minggu untuk memastikan foto-foto porno AI-nya tidak lagi beredar pada saat itu.
Seorang perwakilan dari X tidak segera merespons permintaan komentar dari Gizmodo.
Platform media sosial milik Musk telah terjerumus dalam skandal moderasi konten dalam beberapa bulan terakhir, karena meningkatnya anti-Semitisme dan supremasi kulit putih di platform tersebut telah mengusir pengiklan. Musk bahkan memainkan peran dalam memimpin gerakan tersebut, dengan mendukung dan membagikan pendapat kontroversial, mempertahankan bahwa X harus menjadi tempat umum yang mempromosikan kebebasan berbicara.
Meskipun dihadapkan pada kritik yang tajam, X enggan memoderasi kontennya terlalu keras. Namun, kecaman dari pasukan penggemar Taylor Swift terbukti terlalu berat bagi platform tersebut untuk mempertahankan sikap kebebasan berbicara. Keputusan untuk membatasi pencarian seputar duplikat AI Taylor Swift menandai salah satu contoh yang lebih mencolok dari moderasi konten yang sebenarnya.
Serikat aktor, SAG-AFTRA, bersuara menentang gambar porno AI Taylor Swift pada hari Jumat, dengan menyatakan bahwa konten tersebut seharusnya ilegal jika dibuat tanpa persetujuan seseorang. Swift sendiri dilaporkan “marah” tentang situasi ini. Seiring dengan semakin realistisnya pembuat gambar AI, pornografi balas dendam yang dibuat dengan alat-alat tersebut dengan cepat menjadi salah satu area kekhawatiran yang besar.
X telah menulis kebijakan terhadap “keadaan telanjang tanpa persetujuan” serta “media sintetis dan dimanipulasi,” yang keduanya secara kategoris mencakup porno AI Swift. Platform ini memiliki kebijakan tanpa kompromi terhadap jenis media ini, dan X tampaknya bertindak sesuai dengan pedoman yang telah mereka tetapkan sebelumnya.