Senior superintendent Baron Chan Shun-ching berbicara kepada wartawan
Foto: Dickson Lee (Getty Images)
Seorang pekerja keuangan di Hong Kong mengikuti panggilan video dengan apa yang tampak seperti rekan kerja yang berjumlah banyak dan Chief Financial Officer perusahaannya. Semua orang terlihat dan terdengar nyata, tetapi ternyata semua orang dalam panggilan tersebut adalah deepfake. Pekerja tersebut tertipu dan membayar lebih dari $25 juta kepada penipu yang tidak dikenal, menurut CNN pada hari Minggu.
Mengapa Semua Orang Menggugat Perusahaan AI? | Future Tech
“(Dalam) konferensi video multi-orang, ternyata semua [yang dilihatnya] adalah palsu,” kata pejabat Kepolisian Hong Kong Baron Chan Shun-ching kepada media pada hari Jumat.
Departemen kepolisian Hong Kong tidak mengungkapkan secara publik perusahaan atau pekerja dalam kasus ini, tetapi ini adalah salah satu penipuan keuangan terbesar dengan teknologi deepfake hingga saat ini.
Pekerja tersebut menerima beberapa email dari CFO perusahaannya yang memintanya mentransfer $25,6 juta. Dia khawatir ini adalah serangan phishing, tetapi setelah panggilan video, dia yakin permintaan tersebut sah.
Penegak hukum mengatakan pekerja tersebut mengenali beberapa orang dalam panggilan tersebut, yang semuanya terlihat dan terdengar seperti rekannya. Dia baru mengetahui bahwa ini adalah penipuan ketika dia menghubungi kantor pusat perusahaan pada minggu berikutnya, menurut CNN.
Peserta pertemuan tersebut dibuat ulang secara digital menggunakan rekaman publik individu-individu tersebut, menurut South China Morning Post. Beberapa karyawan diduga menjadi target di perusahaan ini.
Departemen kepolisian Hong Kong mencatat bahwa ini adalah salah satu dari banyak kasus baru-baru ini yang melibatkan penipuan dengan teknologi deepfake. Departemen tersebut mengatakan telah melakukan enam penangkapan terkait dengan penipuan ini. Seorang inspektur senior dari departemen kepolisian Hong Kong merekomendasikan beberapa cara untuk memeriksa apakah seseorang itu nyata. Ini termasuk meminta seseorang untuk menggerakkan kepala mereka atau mengajukan pertanyaan untuk menentukan keaslian mereka. Taktik yang canggung ini, yang terutama tidak nyaman jika harus memintanya kepada atasan Anda, mungkin menjadi hal yang perlu dilakukan di era deepfake.
Teknologi deepfake telah menimbulkan kekacauan dalam beberapa minggu terakhir, karena teknologi AI telah menjadi begitu meyakinkan sehingga sulit untuk membedakan apa yang nyata dan apa yang tidak. Gambar pornografi yang dibuat oleh AI dari Taylor Swift menjadi viral pada bulan Januari, sementara deepfake Presiden Biden memberitahu pemilih New Hampshire untuk tidak memberikan suara.