Aplikasi kecerdasan buatan berbahasa Mandarin, Haotian, sangat efektif hingga telah meraup jutaan dolar dari penjualan teknologi penukaran wajahnya di Telegram. Layanan ini terintegrasi dengan mudah di platform pesan seperti WhatsApp dan WeChat, serta mengklaim pengguna dapat menyesuaikan hingga 50 setelan—termasuk kemampuan untuk mengubah hal-hal seperti ukuran tulang pipi dan posisi mata—untuk membantu meniru wajah yang sedang dibajak. Namun, di balik platform Haotian yang tangguh dan serbaguna, peneliti dan analisis WIRED menemukan bahwa layanan ini dipasarkan kepada penipu “pig butchering” dan pelaku operasi penipuan daring di Asia Tenggara.
Para penipu menggunakan Haotian dan alat deepfake lain untuk memberi bukti palsu pada tipu daya mereka, dengan mengizinkan korban melakukan “panggilan video” dengan karakter yang mereka percayai selama ini sebagai bagian dari peluang investasi, persahabatan, atau bahkan hubungan asmara. Analisis oleh firma pelacak kripto, Elliptic, terhadap empat dompet kripto terkait Haotian menunjukkan perusahaan ini menerima setidaknya $3,9 juta dalam beberapa tahun terakhir, termasuk dana dari dompet kripto yang dikaitkan dengan aktivitas kriminal seperti penipuan. Selain itu, hampir separuh pembayarannya terkait dengan pasar penipuan yang telah dikenai sanksi oleh pemerintah AS, menurut Elliptic.
Hieu Minh Ngo, mantan peretas kriminal yang kini menjadi penyelidik kejahatan siber di LSM anti-penipuan Vietnam ChongLuaDao, menyatakan bahwa Haotian, yang muncul sekitar tahun 2021, adalah “pelopor dan sangat populer.” Ngo telah melakukan penelitian mendalam terhadap Haotian dan operasinya. “Hasilnya hampir sempurna,” katanya. “Dan mereka semakin baik setiap harinya. Jika anda mengecek dompet kriptonya, uang akan terlihat masuk setiap hari.”
Haotian hanyalah satu bagian dari ekosistem teknologi yang lebih luas yang muncul di sekitar industri kejahatan siber yang berkembang pesat dan kompleks penipuan dengan tenaga kerja paksa di Asia Tenggara. Seiring ketersediaan alat penukar wajah dan deepfake video yang semakin meluas, alat-alat ini semakin banyak diintegrasikan ke dalam skema penipuan dan kejahatan siber lainnya di seluruh dunia. Dalam dua tahun terakhir, pejabat PBB untuk Narkoba dan Kejahatan mengidentifikasi lebih dari 10 alat penukar wajah yang berpotensi digunakan oleh pelaku kejahatan siber di Asia Tenggara, termasuk untuk penipuan kripto dan pemalsuan identitas petugas kepolisian.
Haotian memiliki situs web untuk alat penukar wajahnya, tetapi promosi utama aplikasi desktopnya dilakukan melalui saluran Telegram publik, yang diluncurkan pada Oktober 2023 berdasarkan penelitian Ngo. Melalui saluran yang kini memiliki lebih dari 20.000 pelanggan ini, perusahaan memasarkan versi baru aplikasi, memberikan pembaruan pengembangan, dan menawarkan dukungan teknis. Meski pemasaran perangkat lunak melalui Telegram bukan hal yang jahat secara inheren, peneliti menyatakan bahwa basis pelanggan Haotian semakin bermuara kepada penipu yang memang aktif mencari informasi tentang beragam layanan pasar abu-abu di aplikasi pesan tersebut.
Telegram menolak berkomentar. Namun, setelah WIRED menghubungi perusahaan tersebut, saluran Telegram publik utama Haotian dan beberapa akun terkait menjadi tidak dapat diakses atau tampaknya telah dihapus. Telegram tidak menanggapi permintaan komentar mengenai apakah mereka yang menurunkan akun-akun tersebut.