Dengan banyaknya kemampuan AI baru yang bermunculan, kadang kita cuma memberi perhatian singkat ke semuanya. Tapi ada beberapa yang perlu diperhatikan lebih serius.
Contohnya deepfake AI. Sekarang penipu bisa pakai alat AI buat bikin suara atau video palsu yang mirip orang aslinya—lalu minta transfer uang. Emily Chiu, CEO startup fintech Novo di Miami, bilang ini bahaya besar karena bisa “merusak sistem kepercayaan dan identitas yang jadi dasar ekonomi kita.” Dia ngomong ini di acara Fortune Most Powerful Women di Riyadh minggu lalu.
Penipuan pakai AI
Dia kasih contoh kasus di Hong Kong tahun lalu, di mana seorang karyawan keuangan tertipu transfer lebih dari $25 juta. Meski awalnya ragu dapat email minta uang, dia akhirnya ikut Zoom call di mana semua orang palsu—tapi keliatan dan kedengeran kayak CFO dan eksekutif lain di perusahaan itu.
Polisi yang selidiki kasus ini bilang ke media kalau biasanya penipuan pakai video call satu-satu, “tapi kali ini, di konferensi video banyak orang, semua yang dilihat ternyata palsu.”
Tapi meski teknologinya canggih, alat AI ini sebenarnya mudah diakses dan dipake.
“Akses publik ke layanan ini bikin penipu cyber lebih gampang kerja—mereka gak perlu punya keahlian teknis khusus,” kata David Fairman, CSO di Netskope, ke CNBC.
Perusahaan teknik Arup dari Inggris kemudian konfirmasi kalo mereka korban dalam serangan ini.
“Kayak banyak bisnis lain di dunia, operasi kami sering kena serangan, termasuk penipuan faktur, phishing, spoofing suara WhatsApp, dan deepfake,” kata CIO Arup Rob Greig. “Ini masalah industri, bisnis, dan sosial, dan saya harap pengalaman kami bisa bantu tingkatkan kesadaran soal teknik penipu yang makin canggih.”
Ancaman terus berlanjut
Deloitte’s Center for Financial Services juga bahas ini, bilang, “AI generatif diperkirakan bakal tingkatkan ancaman penipuan, yang bisa ngerugikan bank dan nasabah sampai $40 miliar dolar pada 2027.”
Chiu bilang kasus Hong Kong tunjukin bahwa “kita akan masuk dunia di mana kemampuan kita buat percaya dan validasi apa yang nyata—sistem kepercayaan dasar fintech dan perdagangan—akan jadi tantangan besar.”
Tentu saja ini juga bikin peluang buat perusahaan yang bisa kasih solusi efektif, “tapi ini belum selesai,” kata Chiu. “Jadi, ini sesuatu yang harus diwaspadai… meski kamu gak kerja di fintech.”
Cerita ini awalnya muncul di Fortune.com