Tetap terinformasi dengan pembaruan gratis
Cukup daftar ke sektor Teknologi myFT Digest — langsung dikirimkan ke kotak masuk email Anda.
Saya memiliki alter ego atau, seperti yang sekarang dikenal di internet, sebuah avatar. Avatar saya mirip dengan saya dan terdengar setidaknya sedikit seperti saya. Dia terus muncul di Facebook dan Instagram. Rekan kerja yang memahami media sosial jauh lebih baik daripada saya telah mencoba untuk menghilangkan avatar ini. Tetapi setidaknya sampai saat ini mereka gagal.
Mengapa kita begitu bertekad untuk mengakhiri versi diri yang tampak meyakinkan ini? Karena dia adalah penipu — sebuah “deepfake”. Lebih buruk lagi, dia juga benar-benar penipu: dia mencoba membuat orang bergabung dengan grup investasi yang katanya saya pimpin. Seseorang telah merancangnya untuk menipu orang, dengan memanfaatkan teknologi baru, nama dan reputasi saya serta FT. Dia harus mati. Tetapi bisakah kita membunuhnya?
Saya pertama kali diperkenalkan kepada avatar saya pada 11 Maret 2025. Seorang mantan rekan kerja memberitahukan keberadaannya kepada saya dan saya segera membawanya kepada para ahli di FT.
Ternyata dia muncul dalam iklan di Instagram untuk grup WhatsApp yang katanya dijalankan oleh saya. Itu berarti Meta, yang memiliki kedua platform tersebut, secara tidak langsung menghasilkan uang dari penipuan tersebut. Ini merupakan kejutan. Seseorang menjalankan penipuan keuangan atas nama saya. Juga buruk bahwa Meta mengambil untung dari hal tersebut.
Rekan ahli saya menghubungi Meta dan setelah sedikit “berkelit-kelit”, berhasil mendapatkan iklan yang merugikan dihapus. Namun, itu masih jauh dari akhir kisah ini. Dalam beberapa minggu berikutnya, sejumlah orang lain, beberapa di antaranya saya kenal secara pribadi dan yang lainnya mengenal siapa saya, memberitahu kami tentang postingan lainnya. Setiap kali diberitahukan, Meta memberitahu kami bahwa postingan tersebut sudah dihapus. Selain itu, baru-baru ini saya juga terdaftar dalam sistem baru Meta yang menggunakan teknologi pengenalan wajah untuk mengidentifikasi dan menghapus penipuan semacam itu.
Secara keseluruhan, kami merasa bahwa kami telah mulai mengendalikan kejahatan ini. Ya, ini agak seperti “whack-a-mole”, tetapi jumlah bukit tikus yang kami lihat tampak sedikit dan menurun. Namun, ternyata ini salah. Setelah memeriksa data yang relevan, seorang rekan ahli baru-baru ini mengatakan bahwa ada setidaknya tiga video deepfake berbeda dan beberapa gambar yang di-Photoshopped yang tayang lebih dari 1.700 iklan dengan variasi kecil di seluruh Facebook, dan Instagram. Data tersebut, dari Pustaka Iklan Meta, menunjukkan bahwa iklan tersebut mencapai lebih dari 970.000 pengguna di UE saja — di mana regulasi mengharuskan platform teknologi melaporkan angka-angka tersebut.
“Karena iklan semuanya dalam bahasa Inggris, ini kemungkinan hanya mewakili sebagian dari jangkauan keseluruhan mereka,” catatan rekan saya. Kemungkinan banyak akun UK juga melihatnya.
Iklan-iklan ini dibeli oleh sepuluh akun palsu, dengan yang baru muncul setelah beberapa di antaranya dilarang. Ini seperti melawan Hydra!
Beberapa konten tidak dapat dimuat. Periksa koneksi internet atau pengaturan browser Anda.
Itu belum semuanya. Saya merasa ada perbedaan yang menyakitkan, antara mengetahui bahwa platform media sosial digunakan untuk menipu orang dan menjadi bagian tidak sadar dari penipuan semacam itu sendiri. Ini cukup mengejutkan. Jadi bagaimana, saya bertanya-tanya, mungkin sebuah perusahaan seperti Meta dengan sumber dayanya yang besar, termasuk alat kecerdasan buatan, tidak dapat mengidentifikasi dan menghapus penipuan tersebut secara otomatis, terutama ketika diberitahu tentang keberadaannya? Apakah benar-benar begitu sulit atau apakah mereka tidak mencoba, seperti yang disarankan oleh Sarah Wynn-Williams dalam bukunya yang sangat baik, Careless People?
Kami telah berhubungan dengan pejabat di Departemen Kebudayaan, Media, dan Olahraga, yang mengarahkan kami ke kebijakan iklan Meta, yang menyatakan bahwa “iklan tidak boleh mempromosikan produk, layanan, skema, atau tawaran menggunakan praktik menyesatkan atau menipu yang diidentifikasi, termasuk yang dimaksudkan untuk menipu orang agar memberikan uang atau informasi pribadi”. Demikian pula, Undang-Undang Keamanan Online menuntut platform untuk melindungi pengguna dari penipuan.
Juru bicara Meta sendiri mengatakan: “Melakukan pemalsuan tokoh publik bertentangan dengan kebijakan kami dan kami telah menghapus dan menonaktifkan iklan, akun, dan halaman yang dibagikan dengan kami.”
Meta mengatakan sebagai alasan dirinya bahwa “penipu terus-menerus dan terus-menerus mengembangkan taktik mereka untuk mencoba menghindari deteksi, itulah sebabnya kami terus-menerus mengembangkan cara-cara baru untuk membuat lebih sulit bagi penipu untuk menipu orang lain — termasuk menggunakan teknologi pengenalan wajah.” Namun saya sulit percaya bahwa Meta, dengan sumber dayanya yang besar, tidak dapat melakukan yang lebih baik. Mereka seharusnya tidak menyebarkan penipuan semacam itu.
Sementara itu, berhati-hatilah. Saya tidak pernah memberikan saran investasi. Jika Anda melihat iklan semacam itu, itu adalah penipuan. Jika Anda menjadi korban penipuan ini, harap bagikan pengalaman Anda dengan FT di [email protected]. Kami perlu menghapus semua iklan dan mengetahui apakah Meta sedang mengatasi masalah ini.
Pada dasarnya, jenis penipuan ini harus dihentikan. Jika Meta tidak bisa melakukannya, siapa lagi?
Ikuti Martin Wolf dengan myFT dan di X