Sebuah gelombang penipuan deepfake yang semakin marak telah merampok jutaan dolar dari perusahaan di seluruh dunia, dan para ahli keamanan cyber memperingatkan bahwa hal tersebut bisa semakin buruk seiring dengan penjahat yang memanfaatkan kecerdasan buatan generatif untuk melakukan penipuan.
Sebuah deepfake adalah video, suara, atau gambar dari orang sungguhan yang telah diubah secara digital dan dimanipulasi, seringkali melalui kecerdasan buatan, untuk menyesatkan mereka secara meyakinkan.
Dalam salah satu kasus terbesar yang diketahui tahun ini, seorang pekerja keuangan di Hong Kong tertipu untuk mentransfer lebih dari $25 juta kepada penipu yang menggunakan teknologi deepfake yang menyamar sebagai rekan kerja dalam panggilan video, kata otoritas kepada media lokal pada bulan Februari.
Minggu lalu, perusahaan teknik Inggris Arup mengkonfirmasi kepada CNBC bahwa mereka merupakan perusahaan yang terlibat dalam kasus tersebut, namun mereka tidak dapat memberikan rincian mengenai masalah tersebut karena penyelidikan yang sedang berlangsung.
Ancaman semacam itu telah terus meningkat akibat popularitas Chat GPT dari Open AI — diluncurkan pada tahun 2022 — yang dengan cepat menjadikan teknologi kecerdasan buatan generatif menjadi populer, kata David Fairman, kepala informasi dan keamanan di perusahaan keamanan cyber Netskope.
“Akses publik terhadap layanan-layanan ini telah menurunkan hambatan masuk bagi para penjahat cyber — mereka tidak lagi perlu memiliki keterampilan teknologi khusus,” kata Fairman.
Volume dan kompleksitas penipuan telah berkembang seiring dengan teknologi kecerdasan buatan terus berevolusi, tambahnya.
Berbagai layanan kecerdasan buatan generatif dapat digunakan untuk menghasilkan teks, gambar, dan konten video mirip manusia, dan dengan demikian dapat berfungsi sebagai alat yang kuat bagi pelaku kejahatan yang mencoba memanipulasi dan merekonstruksi individu tertentu secara digital.
Juru bicara dari Arup mengatakan kepada CNBC: “Seperti banyak bisnis lain di seluruh dunia, operasi kami rentan terhadap serangan reguler, termasuk penipuan faktur, scam phishing, spoofing suara WhatsApp, dan deepfakes.”
Pekerja keuangan tersebut dikabarkan menghadiri panggilan video dengan orang-orang yang diyakini sebagai kepala keuangan perusahaan dan anggota staf lainnya, yang meminta dia melakukan transfer uang. Namun, yang lainnya yang hadir dalam pertemuan tersebut pada kenyataannya telah dibuat ulang secara digital menjadi deepfakes.
Arup mengonfirmasi bahwa “suara dan gambar palsu” digunakan dalam insiden tersebut, menambahkan bahwa “jumlah dan kompleksitas serangan-serangan ini telah meningkat tajam dalam beberapa bulan terakhir.”
Media negara China melaporkan kasus serupa di provinsi Shanxi tahun ini yang melibatkan seorang karyawan keuangan perempuan, yang tertipu untuk mentransfer 1,86 juta yuan ($262.000) ke rekening penipu setelah panggilan video dengan deepfake bosnya.
Selain dari serangan langsung, perusahaan semakin khawatir tentang cara-cara lain di mana foto, video, atau pidato deepfake dari para pimpinan mereka bisa digunakan dengan cara yang jahat, kata para ahli keamanan cyber.
Menurut Jason Hogg, ahli keamanan cyber dan eksekutif di Great Hill Partners, deepfakes dari anggota perusahaan tingkat tinggi dapat digunakan untuk menyebarkan berita palsu untuk memanipulasi harga saham, mencemarkan merek dan penjualan perusahaan, dan menyebarkan disinformasi berbahaya lainnya.
“Itu baru permukaan yang tergores,” kata Hogg, yang sebelumnya bertugas sebagai Agen Khusus FBI.
Ia menekankan bahwa kecerdasan buatan generatif mampu membuat deepfakes berdasarkan sejumlah informasi digital seperti konten yang tersedia secara publik di media sosial dan platform media lainnya.
Pada tahun 2022, Patrick Hillmann, kepala komunikasi di Binance, mengklaim dalam sebuah pos blog bahwa penipu membuat deepfake dari dirinya berdasarkan wawancara berita sebelumnya dan penampilan di TV, menggunakan hal itu untuk menipu pelanggan dan kontak untuk bertemu.
Menurut Fairman dari Netskope, risiko-risiko tersebut telah membuat beberapa eksekutif mulai menghapus atau membatasi kehadiran online mereka karena takut hal tersebut bisa digunakan sebagai amunisi oleh penjahat cyber.
Teknologi deepfake telah menjadi luas diluar dunia korporat.
Dari gambar porno palsu hingga video yang dimanipulasi yang mempromosikan peralatan masak, selebriti seperti Taylor Swift telah menjadi korban teknologi deepfake. Deepfakes dari politisi juga telah merajalela.
Sementara itu, beberapa penipu telah membuat deepfakes dari anggota keluarga dan teman individu dalam upaya untuk menipu mereka untuk memberikan uang.
Menurut Hogg, masalah-masalah yang lebih luas akan meningkat dan menjadi lebih buruk untuk periode waktu tertentu karena pencegahan kejahatan cyber memerlukan analisis yang cermat untuk mengembangkan sistem, praktik, dan kontrol untuk mempertahankan diri dari teknologi baru.
Namun, para ahli keamanan cyber mengatakan kepada CNBC bahwa perusahaan dapat memperkuat pertahanan terhadap ancaman yang didukung oleh kecerdasan buatan melalui peningkatan pendidikan staf, pengujian keamanan cyber, dan meminta kata-kata sandi dan beberapa lapisan persetujuan untuk semua transaksi — sesuatu yang bisa mencegah kasus seperti Arup.