Dalam jam-jam setelah Iran mengumumkan serangan drone dan peluru kendali terhadap Israel pada 13 April, postingan palsu dan menyesatkan dengan cepat menjadi viral di X. Institute for Strategic Dialogue (ISD), sebuah lembaga pemikir nirlaba, menemukan sejumlah postingan yang mengklaim untuk mengungkap serangan dan dampaknya, namun sebenarnya menggunakan video dan foto yang dihasilkan oleh AI, serta rekaman ulang dari konflik lain yang menunjukkan peluncuran roket di malam hari, ledakan, dan bahkan Presiden Joe Biden mengenakan seragam militer.
Hanya 34 dari postingan menyesatkan ini mendapatkan lebih dari 37 juta tayangan, menurut ISD. Banyak akun yang memposting informasi yang menyesatkan juga terverifikasi, yang berarti mereka membayar X $8 per bulan untuk “tanda biru” dan konten mereka diperkuat oleh algoritma platform. ISD juga menemukan bahwa beberapa akun mengklaim sebagai ahli intelijen sumber terbuka (OSINT), yang dalam beberapa tahun terakhir, telah menjadi cara lain untuk memberikan legitimasi pada postingan mereka.
Salah satu postingan di X mengklaim bahwa “Perang Dunia III resmi dimulai,” dan mencakup video yang tampaknya menunjukkan peluncuran roket ke malam hari—kecuali video tersebut sebenarnya berasal dari video YouTube yang diposting pada tahun 2021. Postingan lain mengklaim menunjukkan penggunaan Iron Dome, sistem pertahanan rudal Israel, selama serangan, tetapi video tersebut sebenarnya dari Oktober 2023. Kedua postingan ini mendapatkan ratusan ribu tayangan dalam jam-jam setelah serangan diumumkan, dan keduanya berasal dari akun terverifikasi. Media Iran juga membagikan video kebakaran hutan di Chili awal tahun ini, mengklaim bahwa video tersebut menunjukkan akibat dari serangan tersebut. Hal ini juga mulai beredar di X.
“Fakta bahwa begitu banyak misinformasi dan disinformasi tersebar oleh akun yang mencari popularitas atau keuntungan finansial memberikan ruang gerak bagi pelaku yang lebih jahat, termasuk lembaga media negara Iran yang menyajikan rekaman dari kebakaran hutan di Chili sebagai kerusakan dari serangan Iran terhadap Israel untuk mengklaim operasi tersebut sebagai keberhasilan militer,” kata Isabelle Frances-Wright, direktur teknologi dan masyarakat di ISD. “Kerusakan pada lanskap informasi sedang merusak kemampuan audiens untuk membedakan kebenaran dari kebohongan dalam skala yang mengerikan.”
X tidak memberikan tanggapan atas permintaan komentar hingga waktu publikasi.
Meskipun misinformasi seputar konflik dan krisis telah lama ditemukan di media sosial, X sering juga digunakan untuk informasi penting secara real-time. Namun di bawah kepemimpinan Elon Musk, perusahaan tersebut membatasi moderasi konten, dan disinformasi berkembang subur. Dalam beberapa hari setelah serangan Hamas pada 7 Oktober, X dibanjiri dengan disinformasi, membuat sulit bagi peneliti OSINT yang sah untuk mengungkap informasi. Di bawah kepemimpinan Musk, X telah mempromosikan fungsi catatan komunitas berbasis kerumunan sebagai cara untuk melawan misinformasi di platform, namun dengan hasil yang bervariasi. Beberapa konten yang diidentifikasi oleh ISD sejak itu menerima catatan komunitas, meskipun baru dua postingan yang telah diberikan ketika organisasi tersebut menerbitkan temuannya.
“Saat krisis terjadi, tampaknya menjadi pola berulang di platform seperti X di mana akun premium secara inheren mencemari ekosistem informasi dengan separuh kebenaran serta kebohongan, baik melalui media yang keliru diidentifikasi maupun gambaran palsu yang menunjukkan bahwa sebuah peristiwa disebabkan oleh aktor atau negara tertentu,” kata Moustafa Ayad, direktur eksekutif ISD untuk Asia, Timur Tengah, dan Afrika. “Hal ini terus terjadi dan akan terus terjadi di masa depan, membuat lebih sulit untuk mengetahui apa yang nyata dan apa yang tidak.”
Dan bagi mereka yang menjadi bagian dari model langganan dan pembagian pendapatan iklan X, menjadi viral berpotensi berarti mendapatkan uang.
Meskipun tidak jelas bahwa pengguna yang menyebarkan informasi palsu atau menyesatkan yang diidentifikasi oleh ISD sedang memonetisasi konten mereka, laporan terpisah yang dirilis oleh Center for Countering Digital Hate (CCDH) bulan lalu menemukan bahwa antara 7 Oktober dan 7 Februari, 10 influencer, termasuk influencer kanan jauh Jackson Hinkle, berhasil meningkatkan jumlah pengikut mereka dengan memposting konten antisemit dan Islamofobik tentang konflik tersebut. Enam dari akun yang diperiksa oleh CCDH adalah bagian dari program langganan X, dan semua 10 adalah pengguna terverifikasi. Para influencer berprofil tinggi yang merupakan bagian dari program pembagian pendapatan iklan X menerima bagian dari pendapatan iklan berdasarkan “tayangan organik dari iklan yang ditampilkan dalam balasan” terhadap konten mereka, menurut perusahaan.