Kecerdasan buatan (AI) kini mempermudah proses pembuatan konten, sayangnya hal ini turut dimanfaatkan oleh para penipu. Laporan terbaru dari perusahaan keamanan McAfee mengungkapkan bahwa mayoritas warga Amerika (72%) pernah melihat endorsement selebriti atau influencer palsu. Dari semua selebritas yang namanya dieksploitasi dalam penipuan daring, Taylor Swift menjadi yang paling sering disalahgunakan.
Setelah Swift, selebritas lain yang citranya kerap dipakai dalam penipuan daring adalah Scarlett Johansson, Jenna Ortega, dan Sydney Sweeney. Mayoritas dari 10 besar merupakan ikon pop culture atau musisi, termasuk Sabrina Carpenter, Kim Kardashian, dan Zendaya. Perwakilan AS Alexandria Ocasio-Cortez adalah satu-satunya politisi dalam daftar tersebut. Perlu dicatat, hanya dua pria yang masuk: Tom Cruise dan LeBron James.
Jangan lewatkan konten teknologi dan ulasan lab kami yang independen. Jadikan CNET sebagai sumber pilihan di Google.
Studi ini berfokus pada penipuan daring yang berbasis produk dan berorientasi pada konsumen, seperti crypto palsu yang mengklaim didukung oleh AOC. Ini bukan mengukur tingkat semua deepfake yang dibuat, itulah sebabnya figur terkenal lain, seperti Presiden Donald Trump, tidak masuk dalam 10 besar. Jenis penipu internet ini bergantung pada interaksi orang dengan konten mereka, baik dengan mengklik tautan palsu, mendaftar undian palsu, atau membeli produk palsu. Jadi, wajar saja jika mereka mengandalkan nama-nama besar seperti Swift untuk menarik perhatian. Misalnya, ketika Swift mengumumkan pertunangannya dengan Travis Kelce, para penipu membuat iklan merchandise palsu berdasarkan lamaran Kelce. Figur publik memang sudah lama dieksploitasi dengan cara ini, namun AI memberikan dorongan yang memprihatinkan bagi pelaku kejahatan.
Alat AI generatif seperti pembuat gambar, video, dan audio membuka jalan baru bagi pelaku kejahatan. Mereka dapat mengklon citra seorang selebritas untuk membuat endorsemen, undian, atau promosi produk palsu. Yang perlu dilakukan penipu hanyalah membuat postingan media sosial yang cukup meyakinkan. Dan cara ini memang berhasil, McAfee melaporkan bahwa 39% orang pernah mengklik salah satu endorsemen palsu ini dan 10% lainnya telah membahayakan informasi pribadi mereka serta kehilangan ratusan dolar rata-rata ($525).
Perusahaan AI yang menciptakan model ini memiliki sistem untuk mencegah penipu—atau siapapun—dari membuat konten AI selebritas tanpa izin. Namun, kita telah berkali-kali menyaksikan bahwa sistem ini tidak sempurna dan dapat diakali. Pada minggu-minggu pertama setelah peluncuran Sora, pihak estate pemimpin hak sipil Martin Luther King Jr. harus menghubungi OpenAI karena khawatir dengan banjir video AI yang tidak pantas dan rasis tentang King di platform tersebut. Meskipun OpenAI menyatakan rencananya untuk bekerjasama dengan aktor dan selebritas mengenai masalah ini, ini bukanlah masalah yang dapat diselesaikan hanya dengan penyesuaian teknis atau kebijakan saja.
Cara Mengenali Penipuan Selebritas AI
Mengidentifikasi konten yang dihasilkan AI memang sulit, tetapi ada beberapa hal yang bisa diperhatikan. Berikut beberapa di antaranya.
- Periksa video atau gambar secara seksama. Apakah ada objek yang hilang dan muncul kembali? Apakah videonya mengikuti hukum fisika? Apakah wajah orang terlihat aneh, seperti terlalu mengilap atau seperti plastik? Itu semua adalah tanda-tanda AI.
- Cari tanda air (watermark). Banyak generator AI yang secara otomatis menambahkan tanda air yang jelas (atau tersembunyi) yang menandakan bahwa itu adalah AI.
- Pastikan Instagram, TikTok, atau YouTube belum memberi label pada postingan tersebut sebagai hasil AI. Label AI apapun merupakan tanda jelas bahwa yang Anda lihat tidak nyata.
Bahkan di era AI, kiat untuk mendeteksi penipuan tidak jauh berbeda dengan masa sebelum AI. Meskipun penipu mungkin menggunakan AI, mereka masih menggunakan taktik yang sama.
“Tanda-tanda bahayanya tidak berubah: rasa urgensi, tekanan emosional, dan permintaan informasi pribadi atau pembayaran masih menjadi penanda terbesar,” kata Abhishek Karnik, kepala penelitian ancaman di McAfee, melalui email.
Berikut adalah beberapa tanda bahaya penipuan yang perlu diwaspadai.
- Berpikir sebelum mengklik. Penipuan dirancang untuk menciptakan rasa urgensi atau reaksi emosional, kata Karnik.
- Periksa sumbernya. Apakah tautannya salah eja atau tidak biasa? Apakah akun selebritas resmi sudah memposting tentang produk tersebut? Apakah akun tersebut terverifikasi? Semua ini dapat membantu membedakan yang asli dari yang palsu.
- Waspadai situs yang meminta pembayaran melalui crypto, aplikasi pembayaran seperti Venmo, atau sumber lain yang tidak sah.
Scammers akan mencoba memanipulasi kepercayaan Anda, kata Karnik. Bersikap waspada dan berhati-hati dalam membagikan informasi pribadi dapat membantu Anda terhindar dari penipuan. Hanya karena sesuatu dikatakan didukung atau digunakan oleh Swift, bukan berarti itu benar adanya.
Untuk informasi lebih lanjut, lihat cara mengenali penipuan bank dan alasan mengapa email phishing tidak lagi terlihat jelas. (Keterangan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)