Deepfakes, teknologi untuk menukar wajah dalam gambar, telah membawa masuk era baru penipuan. Dalam setahun terakhir, video palsu selebriti seperti Tom Hanks dan Mr. Beast telah digunakan untuk mempromosikan produk-produk yang sebenarnya tidak mereka dukung. Penipuan terbaru ini adalah hadiah palsu dari peralatan masak Le Creuset yang menggunakan deepfake Taylor Swift dan Selena Gomez, dilaporkan oleh New York Times dan media lainnya.
Dalam video yang dihasilkan oleh kecerdasan buatan (AI) yang ditayangkan di Meta (yang memiliki Facebook dan Instagram) dan TikTok, penampilan dan suara Swift ditiru untuk mengekspresikan bahwa dia “sangat senang” memberikan set Le Creuset gratis. Menurut situs keamanan siber MalwareTips, juga terdapat iklan palsu Selena Gomez di mana deepfake Gomez menjanjikan peralatan masak gratis karena kesalahan di gudang.
SEE ALSO:
Pengguna GPT Store melanggar aturan dengan bot ‘pacar’
Iklan-iklan ini mengandung tautan ke situs web yang tampaknya berasal dari Food Network dan media berita resmi lainnya, yang mengatakan bahwa barang-barang Le Creuset “gratis” ini memerlukan biaya pengiriman satu kali sebesar “$9.96.” Pengguna yang mencoba mengklaim set gratis dan memasukkan informasi pribadi mereka tidak menerima Le Creuset apapun, tetapi justru dikenakan biaya langganan bulanan sebesar $89.95 ditambah dengan biaya “pengiriman” sebesar $9.96, demikian yang dinyatakan oleh MalwareTips.
Juru bicara Meta mengatakan kepada Times bahwa iklan-iklan penipuan ini melanggar kebijakan perusahaan, tetapi sering terlewatkan oleh sistem peninjauannya karena pencipta iklan menyembunyikan kontennya. Meta telah mengambil tindakan hukum terhadap beberapa pelaku iklan penipuan ini. Juru bicara TikTok mengatakan kepada Times bahwa para pencipta video diwajibkan untuk mengungkapkan apakah media tersebut sintetik atau dimanipulasi, dan bahwa pengiklan harus memperoleh persetujuan untuk “media sintetik yang mengandung figur publik.”
Kecerdasan buatan (AI) memperdaya kita – dan akan terus melakukannya seiring dengan kemajuan teknologi ini. Berikut adalah sebuah aturan praktis: Jika iklan yang menampilkan selebriti tidak ada di akun media sosial selebriti atau perusahaan tersebut, kemungkinan besar itu adalah palsu.
Topik
Kecerdasan Buatan