Video viral yang rasis dan antisemit di TikTok sepertinya dibuat dengan Google alat pembuatan video AI baru mereka, Veo 3, menurut laporan terbaru dari Media Matters.
Organisasi riset nirlaba itu menemukan bahwa beberapa video bermuatan kebencian telah ditonton ratusan ribu hingga jutaan kali.
Juru bicara TikTok mengatakan ke Mashable bahwa platform mereka memiliki kebijakan tegas melawan ujaran kebencian, dan menggunakan teknologi serta proses moderasi komprehensif untuk menerapkannya.
“Kami secara proaktif menegakkan aturan ketat terhadap ujaran dan perilaku kebencian, serta telah menghapus akun-akun yang teridentifikasi dalam laporan tersebut—banyak di antaranya sudah diblokir sebelum laporan ini terbit,” kata juru bicara itu dalam email.
Salah satu video TikTok berjudul “Rata-rata Waffle House di Atlanta” menampilkan setting restoran yang dipenuhi monyet yang melempar semangka dan membawa ember berisi ayam goreng. Video itu telah ditonton lebih dari 622.000 kali saat Media Matters mengambil tangkap layarnya.
Beberapa komentator memperkuat stereotip rasis dalam video tersebut. Seseorang berkata, “semua tingkah mereka… persis sekali…”.
Video TikTok lain yang diunggah pertengahan Juni, dengan setidaknya 835.000 tayangan, diberi caption “gue minta AI bikin ‘pengalaman biasa di Spirit Airlines'”. Video itu juga menampilkan monyet yang memanjati seluruh pesawat.
Media Matters menyebut video-video yang mereka identifikasi durasinya maksimal delapan detik—sama dengan durasi klip teks-ke-video Veo 3 yang tersedia untuk publik. Video-video itu juga berlabel “Veo” di sudutnya, atau memakai hashtag, caption, atau nama pengguna terkait Veo 3 atau AI. Mereka juga mengandung kesalahan, distorsi, dan teks tidak masuk akal yang umum ada di video buatan AI.
Media Matters mempublikasikan kompilasi klip yang mereka temukan di akun YouTube mereka sendiri.
Mashable menghubungi Google untuk meminta tanggapan atas laporan Media Matters, tapi belum mendapat balasan saat artikel ini diterbitkan.
Meski Media Matters fokus pada video di TikTok, beberapa konten bermasalah yang sama juga muncul di YouTube dan Instagram.
Tapi, contoh yang dilihat Mashable dapat engagement jauh lebih rendah—kadang hanya ratusan like dan segelintir komentar—menunjukkan konten itu tidak sesukses di TikTok sebelum dihapus.
Secara umum, video Veo 3 bermuatan kebencian atau rasis memang populer di platform media sosial lain termasuk Instagram.
Saat Veo 3 dirilis akhir Mei, editor tech Mashable Timothy Beck Werth menyebut realisme-nya “mengagumkan” sekaligus “menyeramkan”. Google mengatakan ke Werth bahwa pengaman Veo 3 melawan misinformasi termasuk watermark digital, dan mereka menerapkan pedoman keamanan AI.
Video AI yang diidentifikasi Media Matters mengandung stereotip anti-Kulit Hitam seputar kriminalitas, preferensi makanan, dan ayah yang absen. Beberapa menampilkan interaksi polisi dengan orang Kulit Hitam, termasuk satu adegan di mana polisi kulit putih menembak “orang Kulit Hitam” dari dalam mobil. Klip itu sudah ditonton lebih dari 14 juta kali.
Klip-klip itu juga menampilkan citra rasis terhadap orang Asia dan Asia Selatan, serta stereotip antisemit seperti pria Yahudi mengejar koin emas.
Satu video yang ditonton sejuta kali menampilkan pria kurus berdiri di depan krematorium, vlog di kamp konsentrasi Nazi. “Semua senang di sini,” katanya. Tidak jelas apakah video satu menit itu dibuat pakai Veo 3.
Jenis video AI lain sepertinya fokus pada kekerasan terhadap imigran dan para pendukungnya.
Video-video ini tampaknya melanggar kebijakan ujaran kebencian Google. Kebijakan AI generatif Google melarang pengguna membuat atau menyebarkan konten yang memfasilitasi kebencian, pelecehan, atau hasutan kekerasan.
TikTok juga melarang ujaran kebencian yang “menyerang, mengancam, atau merendahkan individu/kelompok berdasarkan atribut yang dilindungi.”
PEMBARUAN: 3 Juli 2025, 13:02 PDT Artikel diperbarui dengan pernyataan dari TikTok.