Ketika ahli disinformasi Tal Hagin meminta Grok untuk memverifikasi sebuah postingan di X mengenai rudal Iran yang diklaim menyerang Tel Aviv, chatbot berbasis AI milik Elon Musk itu gagal total.
Grok berulang kali salah mengidentifikasi lokasi dan tanggal untuk video tersebut, yang awalnya dibagikan di X oleh outlet media milik negara Iran pada hari Minggu. Lalu, chatbot itu berusaha membuktikan klaimnya dengan membagikan gambar yang dihasilkan AI.
“Kini Grok malah membalas dengan ‘AI slop’ kehancuran,” tulis Hagin menanggapi. “Bener-bener kacau.”
Interaksi ini dengan jelas menggambarkan betapa terlepasnya X dari realitas sejak AS dan Israel melancarkan serangan ke Iran pada 28 Februari. Seperti dilaporkan WIRED waktu itu, platform media sosial itu cepat dibanjiri disinformasi oleh akun-akun yang membagikan video palsu dan video yang diambil dari konteks berbeda.
Seiring konflik berlanjut, banjir ini justru makin parah. Belakangan ini, gelombang diperkuat oleh gambar dan video AI, sementara Grok berulang kali memberikan informasi palsu ketika diminta memverifikasi klaim-klaim di platform. Gambar AI dibagikan oleh akun-akun berbayar yang memiliki tanda centang biru dan oleh pejabat Iran yang berusaha menggambarkan kerusakan yang dilebih-lebihkan.
Maraknya alat pembuat gambar dan video AI yang mudah diakses telah memicu konten palsu yang semakin canggih. Misalnya, pada 2 Maret, pejabat dan media negara Iran membagikan video AI yang menunjukkan gedung tinggi di Bahrain terbakar. Video dan gambar tersebut terlihat cukup realistis bagi banyak orang: Satu gambar yang menunjukkan pesawat pengebom B-2 AS ditembak jatuh Iran dengan pasukan AS ditahan ditonton lebih dari satu juta kali sebelum dihapus, sementara gambar anggota Delta Force yang ditangkap otoritas Iran ditonton lebih dari 5 juta kali sebelum dihapus.
Sebagian konten AI yang dipromosikan di X kurang realistis. Salah satu video, contohnya, mengklaim menunjukkan pasukan Iran memproduksi rudal jauh di dalam gua. Namun, video itu tetap dibagikan oleh banyak akun dan telah ditonton lebih dari sejuta kali.
AI juga digunakan pemerintah Iran untuk mendorong narasi antisemit yang terang-terangan, dengan akun-akun dalam jaringan propaganda pro-rezim di X membagikan postingan buatan AI yang menggambarkan kaum Yahudi Ortodoks memimpin prajurit AS berperang atau merayakan kematian orang Amerika, menurut peneliti dari Institute of Strategic Dialogue (ISD) yang membagikan analisisnya kepada WIRED.
Sejumlah akun dalam jaringan pro-rezim ini juga membagikan video palsu yang konon menunjukkan sederetan gadis muda berjalan melewati Presiden Donald Trump dengan hanya mengenakan pakaian dalam. Postingan itu ditonton lebih dari 6,8 juta kali, menurut ISD, sebelum akhirnya diturunkan, meski terus dibagikan oleh akun lain di X.
“Yang sangat unik dari perang ini adalah peningkatan drastis konten buatan AI yang harus saya bantah,” kata Hagin kepada WIRED. “Ini kemungkinan karena AI sudah cukup maju untuk menipu jurnalis, dan betapa mudahnya pengguna membuat ‘AI slop’ ini tanpa konsekuensi. Semakin lama kita tidak memiliki regulasi terhadap penyalahgunaan AI, semakin besar kerugian yang ditimbulkan. Saya melihat merajalelanya berita palsu berbasis AI mendorong kita ke tepi dunia berbasis fakta kecuali kita melakukan perubahan sekarang.”
Ketika banjir rekayasa AI mulai membanjiri platform pekan lalu, X mengumumkan akan sementara mendemonetisasi akun-akun centang biru jika mereka memposting video konflik bersenjata buatan AI tanpa label. X tidak menanggapi permintaan komentar mengenai berapa banyak akun yang telah didemonetisasi sejak aturan diterapkan. Hingga baru-baru ini, sejumlah pejabat Iran tampaknya membayar X untuk layanan premiumnya, yang memberikan centang biru pada akun mereka, meningkatkan interaksi, dan membuka peluang untuk menghasilkan uang dari postingan mereka.