Ada brand fashion terverifikasi dengan logo kelinci hitam putih namanya @forbiddenclothes, yang punya hampir setengah juta follower, bersembunyi di Instagram. Salah satu postingan paling banyak dilihat, yang dipasang di atas feed, nunjukkin perwira Nazi SS dari film Inglourious Basterds duduk kaku di meja. Tulisannya ada di atas dia:
"Waktu keluarga lagi berdebat tentang politik dan mereka minta pendapat ahli gue."
Tiga puluh satu juta orang udah lihat klip itu. Lebih dari 1,6 juta suka. Komentarnya penuh pujian: "Waktunya gue bersinar." "Mereka belum siap dengar yang sebenarnya." Seorang pengguna terverifikasi nanya kenapa semua orang "memanjakan fasisme" dan suaranya tenggelam sama balasan.
Dan kalo kamu lihat reel itu lebih lama—atau yang mirip—kamu akan cepat sadar kalau itu hampir ketinggalan jaman dibanding yang muncul selanjutnya.
Sesudah geser, kamu akan lihat reel dari akun lain: ada "terjemahan" bikinan AI dari pidato Adolf Hitler. Di atas rekaman suara Hitler yang ngasih peringatan soal "kekuatan setan" yang menyusup ke kehidupan intelektual dan ekonomi negara, grafis di layar hitung jumlah orang Yahudi di kabinet Trump dan di organisasi media besar, nunjukkin foto-foto orang itu dengan bintang Yahudi yang diedit di wajah mereka.
Sekitar 1,4 juta orang tonton video itu; 142,000 kasih suka. Komentarnya ada yang bilang: "Kita berhutang maaf sama dia" dan "Dia benar tentang segalanya."
Setelah Fortune kasih tau Meta tentang klip-klip ini, tapi sebelum perusahaan kasih komentar resmi, perusahaan hapus klip-klip itu.
Scroll lagi dan kamu akan lihat penyangkalan Holocaust: figur otak kecil bilang, "Dia gas jutaan orang. Baca buku sejarah," dan figur otak besar yang sombong balas, "Siapa yang nulis buku sejarah?" Gambar lanjutannya coba jelaskan konspirasi kepemilikan media.
Ini dapat 3,2 juta views. Lebih dari 250,000 suka dan share.
Dalam beberapa menit, polanya jadi jelas. Konten ini tidak sendirian, dan tidak niche. Dia ada di mana-mana. Dan dia diatur algoritma supaya kelihatan kayak kamulah yang "nemuin" kebenaran; feed yang, sekali didorong ke arah tertentu, tiba-tiba jadi mirip propaganda antisemit dan rasis.
Algoritma Instagram ngasih imbalan apa saja yang maksimalin waktu tonton dan share, dan di tahun 2025 itu termasuk meme konspirasi, rasis, atau antisemit yang dibungkus jadi humor atau bahkan seni aesthetic. Program monetisasi, jaringan pertanian klip, dan insentif sponsor dengan produk pihak ketiga mendorong dinamika ini, mengubah konten bernuansa ekstrem jadi strategi engagement yang untung bagi kreator.
Tapi bukan cuma kreator yang untung. Bagi reporter Fortune ini, reel-reel itu muncul pas di atas dan di bawah iklan dari brand besar—JPMorgan Chase, Nationwide Insurance, SUNY, Porsche, Angkatan Darat AS, dan banyak banget lain-lain. Konten ekstrem dan iklan blue-chip berjalan beriringan, nunjukkin kalau pipa monetisasi masih terbuka dan bahwa pengiklan mungkin tidak tau atau tidak anggap hal ini berbahaya bagi reputasi. Fortune hubungi semua perusahaan yang disebut di atas buat minta komentar, tapi tidak dapat jawaban.
Dalam pernyataan ke Fortune, Meta bilang kalau "Kami tidak mau konten jenis ini ada di platform kami dan brand tidak mau iklan mereka muncul di sebelahnya." Mereka nambahin kalau mereka masukkan "konten yang melanggar ke database kami" supaya mereka bisa hapus "salinannya" kalo ada yang coba upload lagi.
Tapi, beberapa menit setelah Meta kirim pernyataannya, reporter ini buka Instagram Reels dan lihat iklan lain dari JPMorgan Chase persis di atas reel dari akun meme antisemit @goyimclub. Reel itu pake setup penyangkalan Holocaust yang biasa—"Kalo gue punya 15 oven yang bikin kue 24/7, berapa tahun yang dibutuhin buat bikin 6 juta kue?"—trope favorit akun-akun kayak gini, yang tujuannya buat mengejek jumlah kematian Holocaust dan ngasih saran kalau angka sebenarnya jauh lebih rendah, sering diklaim salah cuma 271.000.
Langsung setelah iklan JPMorgan Chase, muncul reel lain—kali ini dari akun antisemit @gelnox.exe. Itu nunjukkin kayak percakapan ChatGPT yang nanya, "Kapan Spanyol mengusir orang Yahudi?" (dengan kata "Yahudi" disensor), diikuti "1492." Terus: "Kapan Zaman Keemasan Spanyol dimulai?" Lagi-lagi: "1492." Maksudnya, jelas, bahwa kemakmuran Spanyol mulai hanya setelah orang Yahudi diusir. Reel itu punya lebih dari 5 juta tayangan dan 316.000 suka.
Standar komunitas Meta sendiri larang hampir semua trope di reel ini. Kebijakan "Perilaku Rasis"-nya melarang "Penyangkalan Holocaust," begitu juga "Klaim bahwa orang Yahudi mengendalikan lembaga keuangan, politik, atau media," dan menyebut grup sebagai ‘setan.’" Kebijakan "Organisasi dan Individu Berbahaya"-nya melarang konten yang memuja figur berbahaya, contohnya: "Hitler tidak salah apa-apa." Semua ini adalah konten terlarang Tingkat 1. Tapi reel yang isinya semua elemen ini masih aktif dan dipromosikan algoritma di Instagram hari ini.
Alasannya struktural: pada Januari, CEO Meta Mark Zuckerberg hentikan pemeriksaan fakta pihak ketiga di AS, dan longgarkan aturan konten politik. Perubahan ini termasuk naikin ambang batas keyakinan untuk menghapus ujaran kebencian, kata Zvika Krieger, mantan (dan pertama) Direktur Inovasi Bertanggung Jawab Meta, ke Fortune. "Apa pun yang bikin engagement paling banyak akan dapat imbalan di algoritma ini," kata Krieger, dan setelah perubahan aturan, sistem yang mestinya tangkap konten berbahaya "sengaja dibuat kurang sensitif."
Atau, seperti kata satu kreator Gen Z asal Pakistan yang dapat uang dari posting reel antisemit ke Fortune, "Video-video itu udah gak kena banned lagi."
Dalam pernyataan, Meta bilang bahwa "[s]ementara cerita ini membuat sejumlah klaim, faktanya jelas: hanya di paruh pertama 2025, kami tindak hampir 21 juta konten karena melanggar pelarangan kami tentang Organisasi dan Individu Berbahaya." Awalnya, Meta bilang bahwa mereka secara proaktif mendeteksi hampir 99% konten ini, sebelum bilang persentase sebenarnya ada di kisaran rendah 90-an. Meta menambahkan bahwa komitmen mereka untuk mengatasi anti-Semitisme tetap "tidak berubah," dan mereka telah menghapus "konten dan akun yang melanggar yang dilaporkan ke kami."
Meta tidak menjawab pertanyaan Fortune tentang bagaimana postingan yang ditandai Fortune bisa mendapat jutaan tayangan, atau bagaimana mereka bisa tetap ada begitu lama.
Lebih Besar dari Groypers
Washington telah menghabiskan minggu lalu berdebat tentang satu angka: apakah "30 hingga 40 persen" staf Republican muda di Capitol Hill adalah pengikut groyper, artinya mereka penggemar Nick Fuentes, seorang streamer nasionalis kulit putih yang terkenal karena makan malam di Mar-a-Lago dengan Kanye West dan Donald Trump, dan baru-baru ini muncul di podcast Tucker Carlson dan mengulang retorika anti-Semit. Angka 30%-40% itu datang dari komentator konservatif Rod Dreher, yang mengatakan dia telah mewawancarai beberapa konservatif Gen Z dan memverifikasinya, yang telah dibantah oleh komentator lain.
Tapi anti-Semitisme dan rasisme yang didukung Fuentes sulit disebut sebagai pandangan pinggiran ketika reel Instagram yang menyebarkan pandangan serupa rutin mendapat jutaan tayangan.
Para pembuat konten di balik video ini jelas dalam percakapan dengan Fortune tentang alasan mereka membuatnya: uang. Henry, seorang pekerja teknologi berusia 26 tahun di Inggris yang menjalankan halaman meme sayap kanan dengan 90.000 pengikut, mengatakan kepada Fortune dia telah menghasilkan "lebih dari £10,000" dari penjualan kaos dan shoutout, dan bahwa postingan yang menyebut Hitler atau Holocaust "selalu dapat lebih banyak perhatian."
Seorang pelajar SMA remaja di Pakistan, yang dirahasiakan namanya oleh Fortune, mengatakan dia menghasilkan $800–$900 per bulan, dibayar $0.10 per seribu tayang oleh Whop, sebuah platform "clip-farm" yang memberi pembuat konten logo untuk ditempelkan pada meme apa pun yang paling laku. Untuk kampanye "kategori terbuka," dia bisa posting apa saja yang dia mau — dan dia bilang reel yang secara konsisten mencapai target pembayaran adalah yang bertema rasis atau Hitler.
Fortune menghubungi Whop untuk meminta komentar tapi tidak mendapat tanggapan.
Seorang pekerja teknologi AS berusia 20-an tahun, yang membuat konten anti-Semit serupa dan minta anonim, mengatakan dia menghasilkan hampir $3,000 dari program bonus dan referral Instagram sebelum akhirnya didemonetisasi. Dia berkata postingannya yang paling "menyinggung dan politis" mendorong pertumbuhan audiens tercepat. Dia menambahkan bahwa dia sendiri beragama Yahudi dan tidak percaya pada konten itu, tapi dia mempostingnya dengan harapan mendapatkan cukup banyak pengikut untuk akhirnya menghapus postingan itu dan kemudian mendapatkan uang lagi.
Bahkan, tidak satu pun dari ketiga kreator yang diwawancarai Fortune mengaku memiliki motif ideologis yang kuat selain karena merasa meme-meme itu agak lucu. Mereka semua bilang konten kontroversial adalah salah satu jalan yang paling bisa diandalkan, dan termudah, untuk mendapatkan perhatian — dan karena itu, penghasilan. (Fortune tidak bisa memverifikasi sendiri klaim penghasilan para kreator tersebut.)
Setiap kreator yang diajak bicara Fortune mengatakan jangkauan mereka meningkat tajam setelah perubahan kebijakan Meta pada bulan Januari, yang terjadi hanya beberapa bulan setelah Presiden Donald Trump mengancam akan memenjarakan Zuckerberg karena klaim bahwa dia mencoba mempengaruhi pemilu 2024. Setelahnya, Zuckerberg berusaha memperbaiki hubungannya dengan Presiden, menyumbang $1 juta ke dana inagurasi Trump dan menghadiri inagurasi itu sendiri.
Beberapa mengatakan perubahannya langsung terasa: reel yang dulu ditandai atau dibatasi tiba-tiba menjangkau jutaan feed. Petani klip dari Pakistan mengatakan video-video itu sekarang tidak "diban," dan pemilik halaman meme dari Inggris mengatakan jangkauannya "melonjak sangat tinggi."
Perubahan itu bukan tidak sengaja. Meta secara terbuka telah bergerak untuk memperlonggar peneguran, mempersonalisasi konten politik, dan bahkan berpotensi mengotomatisasi, menurut dokumen internal, hingga 90% dari tinjauan privasi dan integritas yang dulu memperlambat materi berbahaya sebelum menjangkau miliaran pengguna.
“Pada awal tahun 2020-an, perusahaan-perusahaan ini mengerahkan sumber daya yang besar untuk moderasi,” kata Krieger. “Yang kita lihat sekarang adalah kebalikannya, sebuah penarikan diri yang disengaja, plus pengalihan bakat ke arah AI konsumen.”
Krieger bilang dia tidak percaya Meta sedang berusaha mendukung konten kebencian; melainkan, mereka mengutamakan "kebebasan berbicara," dengan mengorbankan nilai-nilai lain. "Saya akan mengatakan itu adalah nilai etika: otonomi, keputusan orang untuk memilih," kata Krieger. “Tapi itu jelas datang dengan mengorbankan nilai etika lain, seperti keselamatan dan keadilan."
Argumen Krieger – bahwa Meta telah menempatkan kebebasan berbicara di atas semua nilai lain – mencerminkan ungkapan politik yang umum. Sejak Twitter melarang Trump setelah kerusuhan 6 Januari, Presiden dan sekutunya bersikeras bahwa mereka adalah korban skema sensor besar-besaran oleh Big Tech. Tapi lanskapnya telah berubah dramatis sejak saat itu: platform besar seperti X dan Youtube telah menarik kembali pengaman, mengaktifkan kembali akun yang dilarang, dan mengadopsi kerangka "kebebasan berbicara."
Pada saat yang sama, setelah perang Israel-Hamas dimulai pada Oktober 2023, anti-Semitisme telah melonjak; dan data baru AJC menunjukkan 33% warga Amerika Yahudi menjadi sasaran secara pribadi dalam tahun lalu.
Bisnis Kebencian
Reel-reel anti-Semit ini sekarang sangat umum sampai ada lelucon meta tentang keberadaannya yang di mana-mana: sebuah reel dari klip film Nazi yang berdiri sekitar dengan teks "POV: kamu buka Instagram di tahun 2025" (8.7 juta tayangan, 610 ribu suka). Reel lain tentang seorang pria berkata "Aku akan membelamu, Hitler" diberi teks "Gen Z setelah menghabiskan 5 menit di IG reels," (2.1 juta tayangan, 216 ribu suka).
Dan banyak akun terbesar yang menyebarkan konten ini bukanlah troll anonim — mereka adalah influencer. Salah satu yang terbesar, @hermesdiditagain, dengan 280.000 pengikut, mencampur wawancara "man-on-the-street" yang rasis dan anti-Semit dengan meme konspirasi. Fortune seharusnya mewawancarai Hermes, sampai dia bertanya apakah reporter itu orang Yahudi. Setelah dia bilang iya, Hermes memblokirnya.
Bagaimanapun, sebagian besar ekosistem ini dibangun untuk menghindari pemeriksaan. Akun-akun ini bersembunyi di balik branding tanpa wajah, mengalirkan lalu lintas ke platform kripto, suplemen, merch, atau layanan berlangganan. Kadang-kadang, pembuat kontennya bahkan tidak nyata. Seorang ahli bernama Joan Donovan bilang ke Fortune bahwa dia pikir beberapa akun cuma "persona" yang dibuat untuk konten klip. Mereka pake foto stok, wajah setengah AI, atau gambar yang diedit sedikit supaya video rasis kelihatan seperti dari influencer yang menarik. "Platform media sosial tidak terlalu peduli sama kualitas konten, yang penting konten itu dapat banyak interaksi," kata Donovan.
Interaksi—terutama yang marah, kaget, atau provokatif—adalah yang mendorong pembayaran, sponsor, bonus referal, pertumbuhan pengikut, dan cara dapat uang lainnya. Dan karena banyak dari materi ini sekarang dibuat AI, dari suara sampai visual, biaya produksinya jadi sangat murah. Donovan bilang, cuma dengan beberapa perintah dan editor klip, seorang kreator bisa membuat banyak sekali konten yang bikin marah dan menjangkau jutaan orang.
Anak-anak sekolah menengah suka konten ini
Konten ini menarik karena artinya tidak jelas. Banyak video pendek pake kode: emoji kotak jus untuk orang Yahudi, "Pelukis Austria" sebagai nama samaran Hitler. Banyak juga yang dibungkus dengan gaya hiper-ironis dan estetika esoterik dari simbol-simbol seperti Vril atau Agartha. Agartha adalah kerajaan bawah tanah mitos yang terkait dengan Nazisme abad 20 dan sekarang jadi lelucon di kalangan meme sayap kanan. Instagram penuh dengan edit-an Agartha: kaleng White Monster Energy yang buka "portal", tentara AI berambut pirang berbaris lewat geraya bercahaya, urutan gaya Sora dengan tema antisemit. Anak sekolah menengah sekarang buat meme tentang guru mana yang "diizinkan masuk" ke Agartha, memperlakukannya seperti bahasa rahasia dalam kelompok mereka.
Seorang ahli meme, Aidan Walker, mendeskripsikan ini sebagai "peluit anjing ironis"—materi yang jelas-jelas antisemit, tapi cukup bergaya dan self-referential sehingga pengguna bisa menyangkal percaya sambil tetap menyebarkan narasinya.
Meme-meme ini punya banyak lapisan lelucon, edit-an, dan referensi esoterik sehingga "kamu sebenernya tidak bisa bedain ini rasis atau tidak… tapi kalau kamu tahu, ya kamu tahu," kata Walker ke Fortune.
Tujuannya bukan agar penonton percaya ada portal bumi berongga di bawah Antartika; tapi dengan pura-pura percaya, mereka menunjukkan sikap: Lembaga-lembaga itu dicurangi, dan cuma orang yang paham dengan pengetahuan rahasia ini yang "benar-benar bisa melihat" realita.
Day tariknya, menurut dia, sama besarnya secara emosional dan ideologis. Videonya diedit dengan kompeten, penuh referensi, dan dirancang supaya terasa seperti barang terlarang.
"Kamu nonton satu dan berpikir, ‘Aku tidak seharusnya menonton ini. Ini mengerikan,’" kata Walker.
Pelanggaran itu kemudian jadi ritual ikatan—"kita sudah melakukannya bersama, sekarang kamu saudaraku karena kamu paham ini dan orang lain tidak"—dan semacam "kebijaksanaan terlarang," penjelasan gelap yang membuat dunia terasa seperti punya rahasia yang masuk akal, tambahnya.
Dari meme sampai bahaya di dunia nyata
Tapi dunia esoterik itu tidak cuma berpotensi kekerasan — kekerasan sudah muncul darinya.
Awal bulan ini, seorang remaja 17 tahun meledakkan bahan peledak saat salat Jumat di sebuah sekolah menengah di Jakarta, melukai lebih dari 50 siswa. Saat polisi menyita senapan mesin mainan yang dia bawa ke masjid, mereka menemukan tulisan yang coret-coretan yang langsung berasal dari cerita meme yang beredar di Instagram Reels: "14 kata. Untuk Agartha." Tulisan lain berbunyi, "Brenton Tarrant: Selamat datang di neraka."
Ideologi remaja itu masih diselidiki. Tapi referensinya tidak diciptakan dalam ruang hampa: itu simbol-simbol yang sama yang memenuhi feed Reels saat ini.
AS juga mengalami peningkatan kekerasan antisemit: bom molotov di sebuah unjuk rasa di Boulder, dua pegawai kedutaan Israel dibunuh di luar museum di Washington, dan peningkatan tajam pelecehan dan ancaman yang dicatat organisasi Yahudi. Laporan ADL mencatat peningkatan 21% dalam serangan antisemit pada tahun 2024 dibanding tahun sebelumnya. Tidak ada insiden ini yang disebabkan oleh satu reel tertentu, tapi pandangan dunianya familiar: konspirasi tentang kekuatan Yahudi, frame "kami vs mereka", dan perasaan bahwa kekerasan itu dibenarkan atau tidak terelakkan.
Seorang pekerja tech Gen-Z keturunan Yahudi yang mengelola salah satu akun meme mengatakan dia percaya bahwa kekerasan itu bagian dari efek pendulum.
"Semuanya sangat anti orang kulit putih 10 tahun lalu, dan sekarang ada banyak orang kulit putih yang kesal," katanya. "Jadi, aku tidak terlalu tahu seberapa buruk ini akan terjadi, tapi kekerasan terlihat jauh lebih mungkin daripada dulu."
Apakah dia tidak merasa punya rasa tanggung jawab?
"Aku cuma ambil konten akun lain dan repost, jadi kurasa itu buat aku merasa tidak terlalu berkontribusi pada semuanya," katanya, suaranya menghilang menjadi tawa gugup. "Tapi, ya, secara objektif, ini bukan hal yang bagus."
Akunnya, @violent_autism, yang punya hampir 100.000 pengikut, menghilang tak lama setelah wawancara. Tidak jelas apakah dia yang menghapusnya atau Instagram.
Akun-akun ini jangkauannya juga jauh melampaui penggemar Gen Z. @forbiddenclothes punya penggemar terkenal, yang mengikuti tepat 7.350 akun di Instagram termasuk influencer fitness, halaman meme, toko perlengkapan berburu, sampai pedagang kripto. Dan meski tidak bisa dibuktikan dia salah satu dari jutaan yang menonton konten bernuansa Nazi dengan "niat tidak jelas", Donald Trump Jr., putra Presiden, juga terdaftar sebagai pengikut @forbiddenclothes. Dia tidak menanggapi permintaan komentar dari Fortune. Halo teman-teman! Saya kemarin baru baca artikel tentang perubahan iklim. Ini bener-bener penting buat kita semua.
Menurut artikel itu, suhu bumi naik sedikit-sedikit setiap tahunnya. Ini terjadi karena ada banyak gas karbon dioksida di udara, terutama dari asap pabrik dan kendaraan.
Kalau kita nggak melakukan apa-apa, nanti bisa ada banyak masalah. Misalnya, cuaca jadi lebih ekstrem, seperti banjir besar atau panas yang sangat terik. Bukan cuma itu, permukaan air laut juga bisa naik dan membahayakan kota-kota di dekat pantai.
Tapi, jangan khawatir! Kita masih bisa bantu selamatkan bumi dengan cara yang sederhana. Contohnya, kurangi pemakaian listrik yang tidak perlu, lebih sering naik transportasi umum, dan mendukung penggunaan energi yang bersih.
Ayo kita mulai dari hal-hal kecil untuk masa depan bumi yang lebih baik!