Seiring dengan maraknya penipuan digital di Asia Tenggara, termasuk skema investasi yang disebut “pemotongan babi”, Kantor PBB tentang Narkoba dan Kejahatan (UNODC) mengeluarkan laporan komprehensif minggu ini dengan peringatan serius tentang pertumbuhan cepat ekosistem kriminal ini. Banyak penipuan digital tradisional biasanya bergantung pada rekayasa sosial, atau menipu korban untuk memberikan uang mereka dengan sukarela, daripada menggunakan malware atau metode teknis lainnya. Namun, peneliti semakin memperingatkan bahwa penipu sedang menggabungkan konten AI generatif dan deepfakes untuk memperluas skala dan efektivitas operasi mereka. Dan laporan UN menawarkan bukti yang paling jelas bahwa alat-alat teknologi tinggi ini mengubah situasi yang sudah mendesak menjadi krisis.
Selain membeli skrip tertulis untuk digunakan dengan korban potensial atau mengandalkan templat untuk situs web berbahaya, penyerang semakin bergantung pada platform AI generatif untuk membuat konten komunikasi dalam beberapa bahasa dan generator deepfake yang dapat membuat foto atau bahkan video dari orang yang tidak ada untuk menunjukkan korban dan meningkatkan verisimilitude. Penipu juga telah memperluas penggunaan alat yang dapat menguras dompet mata uang kripto korban, telah memanipulasi catatan transaksi untuk menipu target agar mengirimkan kripto ke tempat yang salah, dan mengkompromikan kontrak pintar untuk mencuri kripto. Dan dalam beberapa kasus, mereka telah membeli sistem internet satelit Starlink milik Elon Musk untuk membantu menguatkan upaya mereka.
“Jaringan kriminal yang gesit mengintegrasikan teknologi baru ini lebih cepat dari yang diantisipasi, didorong oleh pasar online baru dan penyedia layanan yang telah mempercepat ekonomi layanan ilegal,” kata John Wojcik, seorang analis regional UNODC, kepada WIRED. “Pembangunan ini tidak hanya memperluas cakupan dan efisiensi penipuan dan kejahatan siber yang didukung oleh teknologi, tetapi juga telah menurunkan hambatan masuk bagi jaringan kriminal yang sebelumnya kurang memiliki keterampilan teknis untuk mengeksploitasi metode yang lebih canggih dan menguntungkan.”
Selama bertahun-tahun, kelompok kriminal terkait China telah memperdagangkan orang ke dalam kompleks raksasa di Asia Tenggara, di mana mereka sering dipaksa untuk menjalankan penipuan, ditahan dengan paksa, dan dipukuli jika menolak instruksi. Sekitar 200.000 orang, dari setidaknya 60 negara, telah diperdagangkan ke kompleks sebagian besar di Myanmar, Kamboja, dan Laos selama lima tahun terakhir. Namun, seperti yang ditunjukkan oleh laporan WIRED, operasi ini menyebar secara global—dengan infrastruktur penipuan muncul di Timur Tengah, Eropa Timur, Amerika Latin, dan Afrika Barat.
Terutama, operasi kejahatan terorganisir ini telah menjalankan penipuan pemotongan babi, di mana mereka membangun hubungan intim dengan korban sebelum memperkenalkan “peluang investasi” dan meminta uang. Organisasi kriminal mungkin telah menipu orang sekitar $75 miliar melalui penipuan pemotongan babi. Selain dari pemotongan babi, menurut laporan UN, kriminal di Asia Tenggara juga menjalankan penipuan pekerjaan, penipuan penyamaran penegak hukum, penipuan pemulihan aset, penculikan virtual, sextortion, penipuan pinjaman, penipuan email bisnis, dan skema ilegal lainnya. Jaringan kriminal di wilayah tersebut menghasilkan hingga $37 miliar tahun lalu, perkiraan pejabat PBB. Mungkin tidak mengherankan, semua pendapatan ini memungkinkan penipu untuk memperluas operasi mereka dan melakukan diversifikasi, menggabungkan infrastruktur dan teknologi baru ke dalam sistem mereka dengan harapan membuat mereka lebih efisien dan efektif secara brutal.
Misalnya, penipu sering dibatasi oleh kemampuan bahasa dan kemampuan mereka untuk menjaga percakapan dengan ratusan korban sekaligus dalam beberapa bahasa dan dialek. Namun, perkembangan AI generatif dalam dua tahun terakhir—termasuk peluncuran alat tulis seperti ChatGPT—membuat lebih mudah bagi para penjahat untuk menembus hambatan bahasa dan membuat konten yang diperlukan untuk penipuan.