“Mereka memodifikasi suara saya atau apalah yang mereka lakukan, mengubah suara mereka sendiri biar kedengeran kayak saya, dan orang-orang berkomentar seolah itu beneran saya padahal bukan,” kata Washington baru-baru ini ke WIRED, saat ditanya tentang AI. “Saya gak punya akun Instagram. Gak punya TikTok. Gak punya semua itu. Jadi apapun yang kalian dengar dari sana—itu bukan saya, dan sayangnya, orang-orang cuma ikut-ikutan dan itu dunia yang kalian tinggali sekarang.”
Bagi Clark, video talk show itu jelas-jelas upaya memancing amarah moral—biar penonton lebih gampang terlibat dan menyebarkan misinformasi. “Emosi yang bagus buat dipancing kalau mau engagement. Kalau bikin orang sedih atau tersinggung, mereka bakal pendam sendiri. Tapi kalau bikin mereka marah, mereka bakal share videonya ke teman-teman sefikiran dan nulis komentar panjang,” ujarnya. Gak masalah juga, katanya, kalau kejadiannya gak nyata atau bahkan diberi keterangan ‘buatan AI’, selama tokoh yang terlibat mungkin aja bertindak seperti itu (di mata penonton, setidaknya), dalam skenario lain. Ekosistem YouTube sendiri juga berperan. Dengan begitu banyak penonton yang menelan konten secara pasif sambil nyetir, bersih-bersih, bahkan ketiduran, konten AI gak perlu terlihat sempurna buat nyampur di deretan informasi yang diserap pasif.
Reality Defender, perusahaan spesialis pendeteksi deepfake, meninjau beberapa video. “Kami bisa kasih tahu bahwa beberapa keluarga dan teman kami (terutama yang lebih tua) pernah nemu video kayak gini dan, meski gak langsung percaya, mereka tanya ke kami (soalnya tahu kami ahli) buat mastiin, karena mereka masih ragu,” kata Ben Colman, pendiri dan CEO Reality Defender, ke WIRED.
WIRED juga menghubungi beberapa channel buat minta tanggapan. Cuma satu kreator, pemilik channel dengan 43.000 subscriber, yang jawab.
“Saya cuma bikin wawancara cerita fiksi dan saya jelas-jelas tulis di deskripsi setiap video,” katanya, berbicara anonim. “Saya pilih format wawancara fiksi karena bisa gabungin storytelling, kreativitas, dan sedikit realisme dengan unik. Video-video ini terasa imersif—kayak liat momen beneran terjadi—dan realisme emosional itu bikin orang tertarik. Kayak kasih penonton skenario ‘bagaimana jika?’ yang dramatis, intens, atau malah mengejutkan, tapi tetep fiksi belaka.”
Tapi soal motif di balik channel-channel ini, yang kebanyakan berbasis di luar AS, baik agenda politik ketat maupun pivot mendadak ke storytelling imersif gak cukup jadi penjelasan. Channel dengan email pakai istilah ‘earningmafia’, bagaimanapun, mengisyaratkan niatan finansial yang lebih jelas, sama seperti sifat repetitif channel-channel itu—WIRED menemukan bukti video yang diduplikat, dan beberapa channel dioperasi oleh kreator yang sama, termasuk yang punya channel kembar kena suspend.
Ini gak mengejutkan, dengan semakin banyak konten sampah—terutama yang menarget yang rentan—kini makin menjamur di YouTube seiring naiknya AI generatif. Di mana-mana, kreator memilih topik kontroversial kayak karakter TV anak dalam situasi memalukan, bahkan sidang perdagangan seks P. Diddy, buat dapet engagement—dan pendapatan—sebanyak mungkin.