Selama 40 tahun terakhir, Henry dan Margaret Tanner telah membuat sepatu kulit dengan tangan di bengkel kecil mereka di Boca Raton, Florida. "Tidak ada jalan pintas, tidak ada bahan murahan, hanya kerajinan terbaik yang jujur," kata Henry dalam iklan YouTube untuk bisnisnya, Tanner Shoes.
Yang lebih menakjubkan?
Henry mampu melakukan semua ini meskipun tangannya cacat dan bengkok. Sedangkan Margaret hanya memiliki tiga jari, seperti terlihat di foto pasangan ini di situs web mereka.
Gambar generasi AI yang baru-baru ini dihapus dari situs web Tanner Shoes.
Saya menemukan Tanner Shoes melalui serangkaian iklan video YouTube. Sebagai penulis yang lama mengulas mode pria, saya penasaran dengan pembuat sepatu kulit khusus ini. Dalam iklan khas Tanner Shoes, seorang pria tua—kemungkinan Henry—muncul di atas rekaman sepatu kulit "buatan tangan" sambil berkata lelah, "Mereka tidak membuatnya seperti dulu, tapi selama 40 tahun kami melakukannya… Pelanggan bilang sepatu kami terlihat klasik dan sepadan dengan harganya. Tapi sekarang, Anda tak perlu bayar mahal karena kami pensiun. Untuk pertama dan terakhir kalinya, setiap pasang diskon 80%."
Saya curiga "penjualan pensiun" Tanner Shoes sama nyatanya dengan foto Henry dan Margaret Tanner. Di luar iklan ini, tidak ada jejak online mereka atau bukti bisnis Tanner Shoes di Boca Raton. Saya menghubungi Tanner Shoes untuk menanyakan keberadaan pemiliknya, lokasi perusahaan, dan apakah mereka benar-benar akan tutup, tapi belum mendapat tanggapan.
Tak mengejutkan, pengguna Reddit menemukan iklan video YouTube serupa untuk toko-toko fiktif lainnya, menunjukkan bahwa iklan menyesatkan ini bukan insiden tunggal. Seorang pengguna Reddit berkata, "Saya melihat iklan serupa dalam bahasa Jerman dengan nenek AI yang katanya menutup toko perhiasannya dan menjual barang ‘buatan tangan’ dengan diskon." Setelah saya menanyakan iklan Tanner Shoes ke YouTube, akun pengiklan itu ditangguhkan karena melanggar kebijakan platform.
Cuplikan iklan Tanner Shoes yang menampilkan "aktor" AI.
Iklan-iklan ini adalah bagian dari tren iklan video YouTube yang menggunakan konten generasi AI. Iklan AI juga ada di Instagram dan TikTok, tapi sebagai platform video tertua dan paling mapan, saya fokuskan investigasi ini pada YouTube, yang dimiliki Google.
Meski AI memiliki kegunaan sah dalam periklanan, banyak iklan video AI di YouTube bersifat menipu, dirancang untuk mengelabui penonton agar membeli sepatu kulit atau pil diet. Statistik penipuan AI sulit ditemukan, tapi FBI memperingatkan pada 2024 bahwa kejahatan dunia maya yang menggunakan AI meningkat. Secara keseluruhan, penipuan online dan phishing naik 94% sejak 2020, menurut laporan Bolster.ai.
Alat AI dapat cepat membuat video, gambar, dan audio yang terlihat nyata. Dengan ini, penipu bisa mudah menciptakan "aktor" AI untuk iklan mereka.
Dalam iklan AI lain yang ditinjau Mashable, seorang "analis keuangan" AI berjanji, "Saya mungkin satu-satunya penasihat keuangan yang membagikan semua transaksinya online," dan "Saya menang 18 dari 20 transaksi terakhir." Cukup klik tautan untuk bergabung dengan grup WhatsApp rahasia. Aktor AI lainnya menjanjikan rahasia menurunkan berat badan ("Saya turun 20 pon hanya dengan tiga bahan di kulkas!"). Ada juga deepfake selebritas.
Penasihat keuangan AI dalam iklan YouTube.
Deepfake selebritas dan iklan video AI yang menipu
Saya terkejut menemukan mantan pembawa acara Today, Hoda Kotb, mempromosikan trik diet mencurigakan di YouTube. Di video itu, Kotb palsu berkata, "Ini resep viral garam merah muda yang ditampilkan di Today Show, tapi bagi yang melewatkannya, saya akan ajarkan trik 30 detik ini. Sebagai ibu tunggal dua anak, saya hampir tak punya waktu untuk diri sendiri, jadi saya coba trik garam merah muda, tapi harus berhenti karena efeknya terlalu cepat."
Sayangnya, garam merah muda takkan membuatmu langsing, apa pun kata Kotb palsu. (Materi generasi AI.)
Kotb palsu ini bersikeras bahwa rahasia diet ini benar-benar sah. "Ini resep yang digunakan selebritas Jepang untuk kurus. Saat pertama tahu, saya juga tak percaya. Harvard dan Johns Hopkins bilang ini 12 kali lebih efektif dari Mounjaro… Jika tak turun setidaknya empat bagian lemak, saya akan belikanmu sekotak pena Mounjaro."
Klik iklannya, dan kamu akan dibawa ke video lain dengan lebih banyak deepfake selebritas dan "testimoni" pelanggan yang meragukan. Spoiler: Video ini berujung pada promosi pil diet Exi Shred, bukan resep yang dijanjikan. Perwakilan Kotb tidak menanggapi permintaan komentar, tapi saya menemukan video asli yang dipakai untuk deepfake ini. Video aslinya diunggah di Instagram pada 28 April, dan sudah dipakai dalam iklan AI pada 17 Mei.
Kotb hanyalah korban lain deepfake AI yang cukup canggih untuk lolos dari pemeriksaan iklan YouTube.
Terkadang, kreasi AI ini terlihat nyata, tapi jika diperhatikan, ada kejanggalan. Karena deepfake Kotb memakai versi alterasi video asli, ekspresi wajah dan gerakan tangannya berulang. Tanda lain? Aktor AI sering salah ucap kata sederhana.
Aktor AI finansial menjanjikan siaran langsung di Twitch, tapi ia salah ucap "livestream" sebagai "give-stream." Di video AI tentang diet, aktor AI tersandung frasa sederhana seperti "I lost 35 lbs," dengan canggung mengucapkan "lbs" sebagai "ell-bees." Saya juga melihat Elon Musk palsu dalam penipuan kripto yang mengucapkan "DOGE" seperti "doggy."
Tapi tak selalu ada kejanggalan.
Bisakah kamu bedakan yang nyata? Yakin?
Setelah menyelidiki iklan video AI di YouTube, saya mulai memeriksa setiap aktor yang muncul. Tak selalu mudah membedakan model yang diubah digital dengan kreasi AI mengilap, atau akting buruk dengan video influencer yang diubah.
Jadi, setiap kali YouTube menayangkan iklan baru, saya pertanyakan setiap detail kecil—suara, pakaian, kedipan mata, kacamata. Mana yang nyata? Mana yang palsu?
Awalnya saya pikir, itu pasti bukan pembawa acara Fox News, Dr. Drew Pinsky, yang menjual suplemen mahal, tapi deepfake lagi? Dan benarkah itu Bryan Johnson, bintang viral "saya ingin hidup abadi", yang menjual "protein panjang umur" dan minyak zaitun extra virgin? Ternyata benar. Jangan lupa, banyak selebritas yang benar-benar muncul di iklan YouTube.
Tapi bagaimana dengan pria botak berkilau yang punya teknik rahasia turunkan kolesterol, yang tak ingin diketahui perusahaan farmasi? Dan apakah wanita berkacamata itu benar-benar menjual software untuk mengotomatiskan laporan keuangan? Saya sungguh tak tahu lagi mana yang nyata.
Tonton cukup banyak iklan YouTube, dan semua model serta influencer yang difilter berlebihan mulai terlihat seperti orang buatan.
Konten AI takkan hilang
Jika YouTube dipenuhi video AI, alasannya jelas: Google sendiri yang mempromosikannya. Di Google I/O 2025, Google memperkenalkan Veo 3, model terbaru untuk membuat video dan dialog AI. Veo 3 adalah lompatan besar dalam pembuatan video AI, seperti yang pernah saya laporkan untuk Mashable.
Veo 3 terlalu baru untuk jadi dalang video menipu dalam cerita ini. Selain itu, Google menyertakan watermark tersembunyi di semua video Veo 3 untuk identifikasi (watermark visual juga baru ditambahkan). Tapi dengan banyaknya alat AI yang tersedia, volume video palsu di internet pasti akan bertambah.
Salah satu video viral Veo 3 pertama yang saya lihat adalah iklan farmasi palsu. Meski iklan itu dimaksudkan sebagai lelucon, saya tidak tertawa. Bagaimana jika perusahaan farmasi sungguhan menggunakan aktor AI untuk memerankan dokter?
Ahli deepfake Henry Ajder mengatakan konten AI dalam iklan memaksa kita menghadapi penipuan yang sudah ada di dunia periklanan.
Di AS, iklan TV dan lainnya harus mematuhi hukum perlindungan konsumen dan regulasi FTC. Pada 2024, FTC meloloskan aturan yang melarang penggunaan AI untuk meniru instansi pemerintah dan bisnis, dan Kongres baru saja mengesahkan UU yang mengkriminalkan deepfake, "Take It Down" Act. Namun, banyak video AI berada di area abu-abu hukum.
Pertanyaan rumitnya: Jika seluruh iklan dibuat dengan aktor AI tanpa disklosure jelas, apakah iklan itu secara definitif menipu? Dan apakah lebih menipu daripada mempekerjakan aktor untuk memerankan dokter palsu, membayar influencer untuk promosi, atau memakai Photoshop untuk mempercantik model?
Ini bukan lagi pertanyaan hipotetis. YouTube sudah mempromosikan penggunaan teknologi AI Google untuk membuat materi iklan, termasuk iklan video di YouTube, guna "menghemat waktu dan sumber daya."
FTC mengatakan apakah perusahaan harus mengungkap penggunaan "aktor AI" tergantung konteks, dan banyak regulasi FTC "netral teknologi." "Secara umum, pengungkapan apa pun yang diperlukan untuk aktor manusia (mis., bahwa mereka hanya aktor dan bukan profesional medis) juga akan diperlukan untuk persona AI dalam situasi serupa," kata perwakilan FTC.
Hal yang sama berlaku untuk "testimoni" AI dalam iklan. "Jika individu AI memberikan testimoni (yang pasti palsu) atau mengaku punya keahlian tertentu (seperti gelar medis atau pengalaman finansial) yang memengaruhi persepsi konsumen, itu bisa dianggap menipu."
UU FTC melarang testimoni palsu. Pada Oktober 2024, aturan FTC tentang "Penggunaan Ulasan dan Testimoni Konsumen" secara khusus melarang testimoni selebritas palsu.
Namun, beberapa ahli deepfake dan AI percaya regulasi baru sangat dibutuhkan untuk melindungi konsumen. "Hukum AS saat ini tentang penggunaan citra orang lain—paling baik—sudah ketinggalan zaman dan tidak dirancang untuk era AI generatif," kata Profesor Farid.
Dengan volume video AI yang besar dan kemudahan pembuatannya, penegakan aturan yang ada akan sangat sulit. "Selain regulasi federal, YouTube, TikTok, Facebook, dan lainnya harus meningkatkan penegakan untuk menghentikan video menipu ini," kata Farid.
Dan tanpa label wajib untuk konten AI, iklan video AI yang menipu bisa segera menjadi kenyataan sehari-hari.
"Dengan hanya 20 detik suara seseorang dan satu foto, sekarang mungkin membuat video mereka mengatakan atau melakukan apa pun."
— Hany Farid, profesor UC Berkeley dan ahli AI.