Platform media sosial X telah dibanjiri foto dan video palsu sejak Presiden Donald Trump meluncurkan perang baru terhadap Iran pekan lalu. Namun, kepala produk X, Nikita Bier, mengumumkan kebijakan baru pada Selasa yang diharapkannya dapat mengurangi insentif bagi akun-akun yang membagikan konten palsu buatan AI. Setidaknya ketika motivasi membagikannya murni finansial.
“Mulai sekarang, pengguna yang memposting video konflik bersenjata yang dihasilkan AI—tanpa menyertakan pernyataan bahwa itu dibuat dengan AI—akan ditangguhkan dari Pembagian Pendapatan Kreator selama 90 hari,” tulis Bier pada Selasa dalam postingan di X.
“Pelanggaran berikutnya akan mengakibatkan penangguhan permanen dari program. Ini akan diberi tanda oleh kami melalui postingan yang memiliki Catatan Komunitas atau jika konten berisi metadata (atau sinyal lain) dari alat generative AI,” lanjut Bier.
Belum jelas apakah akan ada persyaratan seberapa besar pernyataan penafian harus tampil dan apakah perlu disematkan dalam video atau cukup disertakan dalam teks kicauan. Banyak celah yang digunakan akun X untuk peniruan identitas, seperti membuat nama pengguna yang sangat panjang sehingga kata “parodi” hanya muncul jika diklik untuk melihat profil akun tertentu. Celah potensial di sini juga tampak tak terhingga.
Kepalsuan Perang AS-Iran
Foto dan video palsu telah mendapatkan jutaan tayangan dalam beberapa hari terakhir, sejak AS dan Israel melancarkan perang di Iran yang menewaskan Pemimpin Tertinggi Ayatollah Ali Khamenei dan sejumlah besar pejabat Iran lainnya. Hingga Selasa, tidak ada tanda-tanda pelambatan.
Salah satu gambar palsu menampilkan pilot pesawat tempur AS yang ditembak jatuh dan dikira sebagai orang Iran oleh seorang pria Kuwait dengan pipa. Gambar itu menyertakan watermark SynthID dari Google, yang berarti dibuat menggunakan salah satu produk generative AI Google.
Jika diperhatikan lebih seksama, orang-orang dalam gambar itu juga kehilangan beberapa jari, tanda klasik kepalsuan oleh AI.
Gambar buatan AI yang viral yang diklaim menunjukkan pilot tempur Amerika ditembak jatuh di Kuwait. Gambar: X
Beberapa akun berbeda di X juga membagikan rekaman yang diklaim menunjukkan Tel Aviv, Israel, dibombardir rudal.
Namun video tersebut memiliki beberapa tanda bahaya besar yang mengindikasikannya dibuat dengan AI, menurut pelacak disinformasi BBC Shayan Sardarizadeh. Yang paling mencolok mungkin adalah mobil-mobil di jalan, yang bentuknya aneh dan tidak terlihat seperti mobil sungguhan.
Tapi ada juga audionya, yang menyertakan seseorang di luar kamera berkata “Tel Aviv, aku tidak percaya ini,” dengan cara tidak wajar yang terlalu sempurna jika ingin menyebarkan informasi palsu tentang lokasi spesifik.
Banyak pengguna X menanyakan pada Grok dari xAI apakah video itu nyata dan tampaknya secara konsisten merespons bahwa itu nyata. Salah satu pengguna yang membagikan video itu bahkan bersikeras bahwa itu pasti nyata karena Grok yang mengatakannya.
#ULTIMAHORA
🚨 CASTIGA IRÁN CON FURIA A TEL AVIV
Y si, si es real, si gustan chequen con @grok… pic.twitter.com/oypZhe0OrE
— La Catrina Norteña (@catrina_nortena) March 3, 2026
Tapi Grok adalah pemeriksa fakta yang buruk dan tidak bisa diandalkan untuk memberi tahu Anda apakah sebuah video nyata, sama seperti seharusnya tidak digunakan untuk hal-hal yang melibatkan sejarah Perang Dunia II. Ini adalah MechaHitler sendiri, bagaimanapun.
Video yang Salah Label
Satu pertanyaan yang belum dijawab X adalah apakah gambar dan video yang menyesatkan yang tidak *pasti* dibuat dengan AI akan didemonetisasi. Karena ada banyak cara lain untuk menyesatkan orang di media sosial di masa perang.
Video palsu populer yang viral juga diklaim menunjukkan kedutaan besar AS di Arab Saudi terbakar. Kedutaan itu memang terkena dua drone Iran pada Senin, menurut New York Times, tapi bukan itu yang digambarkan dalam video.
BREAKING 🚨
EXPLOSIONS REPORTED AT THE US EMBASSY IN RIYADH, SAUDI ARABIA pic.twitter.com/eMQVdDICol
— Iran Times (@IranTimes9) March 3, 2026
Pada kenyataannya, video di atas setidaknya sudah berusia sebulan, telah diposting ke YouTube pada 6 Februari. Itu tidak ada hubungannya dengan perang saat ini. Meskipun video itu tampak nyata, video tersebut disalahartikan sebagai peristiwa yang terjadi baru-baru ini.
Video lain diberi judul “Pesawat Iran VS kapal AS. Aku bisa menonton ini sepanjang hari,” meraup lebih dari tujuh juta tayangan. Itu sebenarnya rekaman dari sebuah video game. Apakah membuat klip video dari rekaman game dan menyajikannya sebagai peristiwa terkini akan membuat pengguna X memenuhi syarat untuk didemonetisasi? Tidak ada tanda bahwa itu dibuat menggunakan AI, yang merupakan satu-satunya hal yang disebut Bier dalam kicauannya pada Selasa.
An Iranian plane VS a US ship.
I can watch this all day 😂 pic.twitter.com/qjLH2rA8V1
— Joel Fischer 🇺🇸 (@realJoelFischer) March 1, 2026
Masih ada video lain yang mendapat perhatian signifikan yang konon menunjukkan “markas besar CIA” di Dubai dengan asap mengepul setelah terkena serangan Iran. Sebuah akun yang sering memposting disinformasi secara keliru mengklaim bahwa otoritas UAE menangkap siapa pun yang membagikan rekaman itu. Tetapi rekaman itu sebenarnya dari tahun 2015.
Footage of CIA headquarters in Dubai targeted this morning by Iran, have emerged.
UAE is arresting those releasing the footage. But they can’t hide this. pic.twitter.com/K3iPuvH4WU
— Syrian Girl (@Partisangirl) March 1, 2026
Orang-orang yang dianggap terhormat pun bisa terbawa dalam membagikan gambar dan video palsu ini, seperti yang berulang kali kita lihat hanya dalam beberapa hari terakhir. Pembawa acara Fox News Bret Baier membagikan video kedutaan palsu itu dan Gubernur Texas… Greg Abbott membagikan rekaman permainan video itu, meskipun keduanya kemudian menghapus cuitan mereka.
Sarang Disinformasi
X telah menjadi episentrum bagi foto dan video palsu setiap kali ada berita penting, baik mengenai perang maupun topik lainnya. Elon Musk turut memperparah masalah disinformasi setelah membeli Twitter akhir 2022, dengan mengembalikan akun-akun teorisi konspirasi yang sebelumnya diblokir serta mencabut tanda verifikasi lama yang membantu pengguna mengidentifikasi kepercayaan suatu akun. Kemudian, teknologi AI generatif semakin memperburuk keadaan.
Musk juga meluncurkan program pembagian pendapatan bagi kreator yang mendorong pengguna untuk mencari perhatian sebanyak-banyaknya, tanpa peduli kebenaran konten. Musk sendiri kerap membagikan hal yang tidak benar atau konten AI, seperti video Sydney Sweeney untuk mempromosikan Grok.
Musk belum secara pribadi menanggapi kebijakan baru untuk mendemonetisasi akun yang membagikan konten AI tanpa transparansi.
Kepentingan Pribadi Musk
Komentator sayap jauh Matt Walsh menilai kebijakan baru X ini belum cukup. “Mengapa tidak menangguhkan saja akun yang membagikan konten AI tanpa menyatakan keasliannya?” tanya Walsh dalam sebuah cuitan Selasa lalu.
Jawabannya kemungkinan karena Musk membayangkan dunia di mana segala yang dikonsumsi pengguna di X adalah hasil generasi AI. Miliarder tersebut telah menyatakan hal ini dalam beberapa diskusi, termasuk dengan podcaster Joe Rogan akhir tahun lalu.
“Sebagian besar konten yang dikonsumsi orang dalam lima atau enam tahun mendatang, mungkin lebih cepat, akan berupa konten buatan AI. Musik, video…” ujar Musk dengan nada yang mengambang.
Musk yakin versi masa depan ini lah yang benar-benar diinginkan orang—konten palsu yang memanjakan keinginan mereka—karena ia sendiri begitu terlepas dari kemanusiaan.
Lalu bagaimana dengan aktor politik yang menyebarkan konten palsu?
Langkah mendemonetisasi akun yang menyebarkan rekaman AI di X tanpa label yang tepat terlihat sebagai kemajuan, meskipun sangat sederhana. Namun, ini hanya akan mengurangi motivasi pengguna yang menyebarkan konten demi mencari keuntungan finansial dari jumlah tayangan.
Bagaimana dengan akun yang menyebarkan konten dengan alasan berbeda, seperti memengaruhi opini publik atau pasar taruhan di luar kendali X? Atau mungkin mereka hanya ingin menciptakan keonaran? Di era AI, tidak ada lagi hambatan berarti untuk menciptakan pasokan konten palsu tanpa batas, sebagaimana diakui Bier pada Selasa.
“Di masa perang, akses terhadap informasi autentik dari lapangan sangat krusial. Dengan teknologi AI saat ini, sangat mudah menciptakan konten yang dapat menyesatkan,” cuit Bier.
X tidak menanggapi pertanyaan yang dikirim via email pada Selasa, hal yang tidak mengejutkan. Perusahaan ini memiliki riwayat permusuhan terhadap jurnalis sejak Musk membeli Twitter. Gizmodo akan memperbarui artikel ini jika ada tanggapan.