Internet laksana selang pemadam kebakaran yang menyemburkan sampah palsu tiada henti. Dan saya sungguh bingung harus berbuat apa.
Saya telah menulis tentang gambar-gambar palsu di internet sejak 2013, saat foto Presiden Teddy Roosevelt menunggang seekor rusa besar viral dan saya menulis postingan blog singkat untuk membuktikan kepalsuannya. Gambar itu adalah rekayasa pra-Photoshop, dibuat sebagai lelucon visual seabad lalu. Ia termasuk gambar lawas yang membuatmu berhenti sejenak dan bertanya, “tunggu, apa ini asli?”
Tahun berikutnya, pada 2014, saya membongkar lebih banyak lagi gambar palsu yang viral. Sejak itu, saya rutin menulis laporan akhir tahun yang menampilkan berbagai rekayasa viral. Biasanya saya menikmati proses memverifikasi gambar-gambar viral karena rasanya seperti saya memahami lebih baik apa yang autentik di dunia ini dan membagikannya pada orang-orang yang mungkin menginginkan pemahaman serupa. Namun perasaan itu berubah belakangan ini.
Tahun ini, saya benar-benar mentok. Melihat ke belakang pada 2025, terlalu banyak foto dan video palsu untuk ditangani. Menyusun ringkasan rekayasa terbesar sepanjang tahun terasa seperti upaya sia-sia. Apa jadinya jika persentase signifikan dari unggahan di platform seperti Instagram, Facebook, dan X hanyalah sampah generasi AI? Tahun ini terasa seperti titik balik untuk pertanyaan itu. Begitu banyak gambar dan video yang muncul di aliran media sosial saya ternyata palsu. Saya belum pernah melihatnya separah ini.
Contoh apa yang akan Anda masukkan dalam artikel tentang gambar dan video palsu tahun 2025? Pada 2023, ada gambar seperti Paus mengenakan jaket puff buatan AI yang seolah ada di mana-mana. Itu adalah masa-masa awal generasi gambar AI yang fotorealistis, dan Paus palsu itu menyebar ke setiap sudut internet. Kini di 2025, sulit untuk fokus pada sejumlah gambar dan video pilihan karena terlalu banyak yang harus dibuktikan kepalsuannya. Orang-orang tenggelam dalam kepalsuan, dan banyak yang tidak menyadarinya. Mereka hanya menggeser jari dan beralih ke foto atau video berikutnya.
Bahkan para ahli pun tak lagi bisa membedakan. Jeremy Carrasco telah melakukan pekerjaan luar biasa tahun ini di TikTok, YouTube, dan Instagram, mengedukasi publik tentang cara mendeteksi video AI. Namun setidaknya ada satu video yang dia sebut palsu pada 2025, yang ternyata asli.
Begitulah keadaan kita sekarang. Bahkan orang-orang yang paling terampil dalam mendeteksi rekayasa pun tidak lagi yakin pada diri sendiri.
Video demi video dan foto demi foto di media sosial hanyalah “slop” AI yang memburu keterlibatan pengguna. Ada insentif finansial bagi orang untuk mengunggah video palsu, seperti hewan peliharaan yang diselamatkan dari kebakaran, anjing yang memilih pemiliknya, atau binatang yang diselamatkan dari perangkap di bawah es. Video-video ini menarik jika Anda tak tahu itu palsu, karena pembuat konten dibayar berdasarkan jutaan tayangan. Namun daya tariknya hilang saat Anda tahu itu tak nyata.
Apa risikonya ketika kamu menonton video singkat tentang orang-orang imajiner yang melakukan hal-hal imajiner? Film dan acara TV cenderung memberi kita alasan untuk peduli pada karakter yang dikembangkan di layar sebelum mereka dilemparkan ke dalam konflik yang harus diatasi. Ketegangan dramatis seperti itu tidak ada saat kamu menonton karakter AI. Lalu mengapa harus peduli?
Pernah ada masa ketika saya mengira beberapa orang sangat naif karena tertipu oleh photoshop yang buruk. Namun sikap itu kini jarang saya miliki. Peralatannya telah berkembang sedemikian rupa sehingga siapa pun bisa tertipu oleh gambar palsu. Anda sungguh tak perlu merasa buruk jika tertipu oleh konten AI di tahun 2025.
Gambar utama artikel ini dibuat di Google Gemini dengan Nano Banana Pro, yang dirilis bulan lalu. Saya hanya mengetik: “Buat gambar fotorealistik seorang pria yang melihat langsung ke kamera. Buat semirip mungkin.” Jika mau, saya bisa mengkustomisasi gambar dengan berbagai instruksi spesifik untuk menggambarkan suatu adegan di tempat tertentu dengan orang-orang tertentu. Namun saya membuat gambar ini dalam 10 detik hanya untuk menunjukkan betapa mudahnya mencapai fotorealisme sekarang.
Sebagai orang yang telah menghabiskan lebih dari satu dekade menerapkan skeptisisme pada gambar palsu, saya tak bisa lagi hanya mengandalkan petunjuk visual atau melacak sumber suatu foto. Google akhirnya mengintegrasikan detektor watermark visual di Gemini, namun itu belum cukup. Ada begitu banyak generator gambar AI di luar sana, dan jika Gemini tidak menandai gambarmu sebagai buatan AI, tidak lantas berarti itu asli. Itu hanya berarti Google tidak terlibat dalam pembuatannya. Ada banyak sekali pencipta gambar AI di luar sana.
Orang-orang berkuasa seperti Donald Trump memanfaatkan penuh lingkungan informasi ini. Presiden itu beberapa kali bersikeras bahwa hal-hal yang nyata adalah palsu di tahun 2025. Seperti ketika Trump mengatakan BBC menggunakan AI untuk membuatnya mengatakan sesuatu yang tidak dia ucapkan (mereka tidak menggunakan AI) atau ketika furnitur dilempar keluar dari jendela Gedung Putih pada September, sebulan sebelum pembongkaran East Wing. Trump mengandalkan apa yang dikenal sebagai dividen pembohong. Ketika lingkungan informasi kacau, orang akan bersikukuh bahwa hal yang nyata adalah misinformasi.
Elon Musk, miliarder pemilik X, mengatakan bahwa dia membayangkan dunia di mana segala sesuatu yang dikonsumsi orang sehari-hari adalah AI. Dan meskipun masih terlalu awal untuk mengatakan apakah prediksi itu akan terwujud, dia bekerja keras untuk mewujudkannya. Musk berpikir versi masa depan inilah yang benar-benar diinginkan orang—konten palsu yang memanjakan keinginan mereka—karena dia begitu tercerabut dari kemanusiaan.
Seperti yang dia katakan pada Joe Rogan: “Sebagian besar yang dikonsumsi orang dalam lima atau enam tahun, mungkin lebih cepat dari itu, hanyalah konten yang dihasilkan AI.” Jadi musik, video…
— Matt Novak (@paleofuture.bsky.social) 8 November 2025 pukul 08.27
Dalam beberapa hal, rasanya kita sudah setengah jalan menuju ke sana. Dan disaat hampir sebagian besar hal adalah palsu, tampaknya jauh lebih efisien untuk hanya menyoroti hal-hal yang memang nyata.