Bayangkan kamu bertemu seseorang yang baru. Entah di aplikasi kencan atau media sosial, kalian bertemu secara online dan mulai mengobrol. Mereka terasa tulus dan mudah didekati, jadi kamu cepat-cepat pindah ke platform seperti Telegram atau WhatsApp. Kalian saling bertukar foto dan bahkan melakukan panggilan video. Kamu mulai merasa nyaman. Lalu, tiba-tiba mereka membicarakan uang.
Mungkin mereka memintamu membayar akses Wi-Fi mereka. Atau mereka sedang mencoba cryptocurrency baru ini. Kamu harus ikutan dari awal! Dan baru setelah semuanya terlambat, kamu sadar bahwa orang yang kamu ajak bicara sebenarnya tidak nyata sama sekali.
Itu adalah deepfake berbasis AI yang menyembunyikan wajah seseorang yang menjalankan penipuan.
Situasi ini mungkin terdengar terlalu dystopian atau fiksi ilmiah, tapi sudah terjadi pada banyak orang. Dengan lonjakan kemampuan AI generatif beberapa tahun terakhir, penipu sekarang bisa membuat wajah dan suara palsu yang realistis untuk menyamarkan diri mereka secara real-time. Para ahli memperingatkan bahwa deepfakes bisa memperkuat berbagai modus penipuan online, mulai dari romance scam hingga penipuan pajak.
David Maimon, kepala riset penipuan di SentiLink dan profesor kriminologi di Georgia State University, telah melacak perkembangan romance scam berbasis AI selama enam tahun terakhir. “Kami melihat peningkatan drastis volume deepfake, terutama dibandingkan tahun 2023 dan 2024,” kata Maimon.
“Dulu tidak banyak. Mungkin hanya empat atau lima kasus per bulan,” katanya. “Sekarang, kami melihat ratusan kasus setiap bulan di berbagai sektor, yang sangat mengejutkan.”
Deepfake sudah digunakan dalam berbagai penipuan online. Misalnya, seorang pekerja keuangan di Hong Kong membayar $25 juta ke penipu yang menyamar sebagai CFO perusahaan lewat panggilan video deepfake. Beberapa penipu bahkan mengunggah video tutorial di YouTube dengan klaim “hanya untuk keperluan prank dan edukasi.” Video-video itu biasanya menampilkan panggilan scam romantis dengan pria muda tampan hasil AI yang berbicara pada wanita lebih tua.
Deepfake tradisional—seperti video pra-render selebriti atau politisi—juga semakin marak. Tahun lalu, seorang pensiunan di Selandia Baru kehilangan sekitar $133.000 dalam scam investasi kripto setelah melihat iklan Facebook yang menampilkan deepfake perdana menteri negara itu.
Maimon mengatakan SentiLink mulai menemukan deepfake digunakan untuk membuat rekening bank demi menyewa apartemen atau melakukan penipuan pengembalian pajak. Semakin banyak perusahaan juga menemukan deepfake dalam wawancara kerja virtual.
“Apa pun yang mengharuskan orang online dan memungkinkan wajah ditukar dengan orang lain—itu akan rentan dimanfaatkan untuk penipuan,” ujar Maimon.