X dibanjiri dengan gambar-gambar Taylor Swift AI yang grafis

Gambar AI yang secara eksplisit menggambarkan Taylor Swift dalam konteks seksual telah beredar di X (dulu disebut Twitter) dalam beberapa hari terakhir, menjadi contoh terbaru dari penyebaran pornografi palsu yang dihasilkan oleh AI dan tantangan dalam menghentikannya.

Salah satu contoh yang paling menonjol di X menarik lebih dari 45 juta tayangan, 24.000 repost, dan ratusan ribu suka serta bookmark sebelum pengguna terverifikasi yang membagikan gambar tersebut ditangguhkan akunnya karena melanggar kebijakan platform. Postingan tersebut tersedia di platform selama sekitar 17 jam sebelum dihapus.

Namun, ketika para pengguna mulai membahas postingan viral tersebut, gambar-gambar tersebut mulai menyebar dan diposting di akun-akun lain. Banyak yang masih ada, dan sejak itu muncul banyak gambar palsu baru yang grafis. Di beberapa wilayah, istilah “Taylor Swift AI” menjadi topik yang tren, mempromosikan gambar-gambar tersebut kepada audiens yang lebih luas.

Penggemar Swift sedang membanjiri platform untuk menutupi gambar palsu yang eksplisit tersebut.

Penggemar Swift telah mengkritik X karena membiarkan banyak postingan tetap ada selama ini. Sebagai respons, penggemar merespons dengan membanjiri tagar yang digunakan untuk menyebarkan gambar-gambar tersebut dengan pesan yang mempromosikan klip nyata Swift saat tampil untuk menyembunyikan gambar palsu yang eksplisit tersebut.

Insiden ini menyoroti tantangan nyata dalam menghentikan pornografi deepfake dan gambar-gambar yang dihasilkan oleh AI dari orang-orang nyata. Beberapa pembuat gambar AI memiliki pembatasan yang mencegah pembuatan gambar telanjang, pornografi, dan fotorealistik dari selebritas, namun banyak yang tidak secara eksplisit menawarkan layanan tersebut. Tanggung jawab untuk mencegah penyebaran gambar palsu seringkali jatuh pada platform sosial – hal yang sulit dilakukan dalam keadaan terbaik dan bahkan lebih sulit bagi perusahaan seperti X yang telah mengurangi kemampuan moderasi mereka.

Saat ini perusahaan sedang diselidiki oleh Uni Eropa terkait klaim bahwa platform ini digunakan untuk “menyebarluaskan konten ilegal dan disinformasi” dan dilaporkan bahwa perusahaan tersebut ditanya mengenai protokol krisisnya setelah ditemukan disinformasi tentang perang Israel-Hamas yang dipromosikan di seluruh platform tersebut.