Untuk memastikan karyawan global Booz Allen Hamilton yang lebih dari 35.000 orang bisa waspada terhadap deepfake dan menghindari penipuan finansial, Chief Technology Officer perusahaan konsultan itu, Bill Vass, menggunakan pendekatan tidak biasa.
Dia membuat video deepfake dirinya sendiri.
Minggu ini, Vass akan mempromosikan video deepfake 30 detik di mana “dia” berbicara singkat ke kamera untuk menunjukkan karyawan Booz Allen dan pekerja lain betapa mudahnya membuat konten audio dan video palsu. Vass berpendapat teknologi AI generatif sudah sangat canggih sehingga ungkapan populer “jangan percaya semua yang kamu dengar dan setengah dari yang kamu lihat” tidak cukup sinis lagi.
“Kita sudah sampai di titik di mana AI dan deepfake membuat kamu tidak bisa percaya video atau audio yang kamu lihat dan dengar,” kata Vass. Video deepfake Vass akan dipromosikan internal di Booz Allen agar karyawan “lebih paham kemampuan deepfake dan sekuat apa itu,” tambahnya.
Booz Allen sebelumnya melatih karyawan untuk mengenali deepfake dengan menampilkan video selebriti, yang sering jadi target mudah karena banyaknya gambar mereka di domain publik. Tapi ada juga berjam-jam video dan audio Vass di YouTube, dan penjahat hanya butuh beberapa menit konten untuk membuat deepfake yang bisa menipu karyawan.
Video deepfake palsu Vass dibuat oleh Booz Allen bekerja sama dengan Reality Defender, perusahaan deteksi deepfake yang menjual alat untuk mengidentifikasi konten buatan AI dalam hitungan detik ke klien seperti IBM, Visa, dan Comcast. Tahun lalu, Reality Defender menambah pendanaan Seri A, mengumpulkan $33 juta (termasuk dari divisi modal ventura Booz Allen) untuk kembangkan teknologi startup itu.
Vendor seperti Reality Defender percaya proses autentikasi interaksi audio dan video akan menjadi sama pentingnya dengan taktik keamanan siber lain seperti autentikasi multi-faktor, verifikasi dua langkah, dan autentikasi zero-trust yang butuh verifikasi identitas terus-menerus.
Alex Lisle, yang baru jadi CTO di Reality Defender minggu lalu, bilang ada banyak risiko yang harus dihadapi CEO dan eksekutif C-suite terkait deepfake. Meski banyak perhatian tertuju pada serangan siber social engineering yang menarget karyawan, penjahat siber juga bisa pakai AI untuk membuat file audio di mana CFO “mengumumkan” hasil laba palsu yang bisa mempengaruhi saham. Video AI bisa dibuat untuk menggambarkan CEO mengeluarkan pernyataan publik palsu yang merusak reputasi merek.
“Tidak seperti ancaman kriminal siber lain yang butuh pengetahuan teknis dan perencanaan luar biasa, ini tidak,” kata Lisle. Deepfake, tambahnya, bisa dibuat dengan “software biasa dan pengetahuan dasar teknologi.”
Eksekutif puncak di WPP, Accenture, dan Ferrari pernah jadi target deepfake, meski di dunia korporat, sektor perbankan adalah favorit. Setengah profesional keuangan di AS dan Inggris melaporkan pernah mengalami percobaan serangan deepfake. Raksasa akuntansi Deloitte memperkirakan kerugian penipuan berbasis AI generatif bisa capai $40 miliar pada 2027, dengan pertumbuhan tahunan 32% dari level 2023.
Kisah peringatan yang sering disebut eksekutif keamanan adalah insiden di Hong Kong di mana seorang pekerja keuangan tertipu untuk membayar $25 juta ke penipu yang pakai panggilan video deepfake untuk menyamar sebagai CFO perusahaan. Untuk hindari penipuan seperti ini, Chief Information Security Officer dan ahli teknologi lain berinvestasi dalam sistem pertahanan dan pelatihan karyawan yang lebih baik.
Vass, yang bergabung dengan Booz Allen tahun 2024 setelah sebelumnya jadi VP teknik di Amazon Web Services, bilang serangan social engineering bahkan bisa menipu karyawan di Pentagon, tempat dia bekerja sebagai eksekutif senior di kantor CIO akhir 1990-an. Departemen Pertahanan akan menyewa pihak luar untuk coba serangan, dan Vass bilang dia selalu terkejut betapa sering tim itu berhasil, meski setelah pelatihan.
Dia ingat insiden lain di startup yang dipimpinnya, di mana mantan karyawan mengirim email deepfake yang seolah-olah dari Vass, sambil pura-pura melibatkan CFO. Pesan itu dikirim ke kantor procurement, dan seorang karyawan akhirnya memproses pembayaran faktur palsu $25.000.
AI generatif, tambah Vass, hanya akan membuat kasus seperti ini lebih umum. “Orang harus belajar mengubah psikologi mereka untuk lebih skeptis.”
John Kell
Kirim pemikiran atau saran ke CIO Intelligence di sini.
**PAKET BERITA**
Samsung dan Tesla sepakat kerjasama chip AI senilai $16,5 miliar. Samsung setuju membuat chip AI untuk produsen mobil listrik Tesla dalam kesepakatan multi-tahun yang disebut sebagai kemenangan besar untuk bisnis foundry AS Samsung. CEO Tesla Elon Musk konfirmasi di platform media sosial X bahwa pabrik semikonduktor baru Samsung di Texas akan didedikasikan untuk membuat chip AI6 generasi berikutnya, yang akan digunakan di robot humanoid, mobil self-driving, dan pusat data AI, lapor WSJ. Ini kemenangan besar untuk Samsung, yang kalah di manufaktur chip, terutama dari Taiwan Semiconductor Manufacturing Co., yang pegang sekitar dua-pertiga pasar foundry global dan katanya masih tidak bisa penuhi semua permintaan. Investor Samsung sambut baik berita ini, menambah miliaran ke nilai pasar perusahaan.
Anthropic sedang negosiasi untuk lebih dari dua kali lipat valuasinya ke lebih dari $170 miliar. Anthropic sedang bicara dengan banyak investor untuk mengumpulkan hingga $5 miliar dalam putaran pendanaan yang akan menilai pengembang AI empat tahun itu sebesar $170 miliar, menurut Financial Times. Fortune, sementara itu, melaporkan gugatan class-action terhadap Anthropic yang bisa membuat perusahaan AI itu menghadapi miliaran denda hak cipta karena dituduh pakai buku bajakan untuk latih modelnya. Anthropic tidak langsung tanggapi permintaan komentar Fortune.
Walmart “all in” pada agen AI. Raksasa ritel Walmart minggu lalu luncurkan visi perusahaan tentang bagaimana agen AI akan ubah cara belanja pelanggan, cara kerja karyawan kantor dan toko, serta bagaimana vendor jual dan lacak kinerja produk di ekosistem Walmart. Empat agen AI ini, ditampilkan di acara media yang dihadiri Fortune, termasuk asisten digital AI generatif bernama Sparky yang bisa jawab pertanyaan produk untuk pelanggan. Ada juga kasus penggunaan agen internal yang bisa selesaikan tugas repetitif, di mana banyak fokus pada agen AI sejak perusahaan mulai serius adopsi teknologi awal tahun ini. Sebagai tanda keseriusan Walmart soal AI, Wall Street Journal laporkan perekrutan kunci, termasuk Daniel Danker, eksekutif di Instacart, yang akan pimpin akselerasi AI global, produk, dan desain.
Pembicaraan kontrak Microsoft-OpenAI maju. Bloomberg laporkan minggu ini bahwa Microsoft dalam “pembicaraan lanjutan” untuk amankan kesepakatan yang beri raksasa teknologi itu akses berkelanjutan ke teknologi OpenAI. Syarat baru, kata orang yang tahu masalah ini, akan beri Microsoft akses ke model terbaru OpenAI, termasuk jika startup itu capai tujuannya membangun kecerdasan umum buatan (AGI) yang lebih kuat, konsep teoretis di mana sistem AI punya kemampuan setara manusia. Media itu laporkan keduanya sudah rapat rutin dan kesepakatan bisa selesai dalam beberapa minggu. Microsoft sudah invest $13,75 miliar ke OpenAI, dan negosiasi ini juga akan hindari kehilangan akses ke teknologi perusahaan itu sebelum akhir syarat kontrak saat ini, yang berakhir 2030.
**KURVA ADOPSI**
Mayoritas pemimpin bisnis percaya agen AI bisa kelola seluruh divisi bisnis. Survei terbaru EY U.S. AI Pulse temukan 73% dari 500 pengambil keputusan di AS bilang mereka percaya agen AI, yang bisa bertindak otonom dan lakukan tugas kompleks dengan sedikit atau tanpa pengawasan manusia, akan “kelola seluruh unit bisnis.” Tapi komunitas bisnis masih jauh dari realitas otomatisasi itu. Perusahaan konsultan itu juga laporkan 34% pemimpin senior bilang perusahaan mereka sudah mulai terapkan teknologi agen AI, meski hanya sepenuhnya diimplementasikan di 14% organisasi itu.
Dan Diasio, pemimpin AI konsultasi global EY, bilang ke Fortune klien firma itu cukup optimis potensi agen AI, tapi kebanyakan masih libatkan manusia untuk pantau tugas. “Bagian mengubah cara bisnis beroperasi dengan teknologi—membuat pekerjaan baru, kontrol baru untuk pastikan teknologi bekerja bertanggung jawab—masih tertinggal implementasi,” kata Diasio.
Kendala besar yang harus diatasi adalah manajemen perubahan manusia. 64% pemimpin senior setuju ketakutan digantikan, bukan diperkuat oleh agen AI, akan hambat adopsi. Tapi hanya 24% bilang penolakan karyawan adalah salah satu hambatan terbesar, karena kekhawatiran keamanan siber dan privasi data masing-masing lebih tinggi, di 35% dan 30%.
**RADAR PEKERJAAN**
Rekrutmen:
– Northwestern Mutual cari VP, Chief Information Security Officer, berbasis di Milwaukee. Rentang gaji: $308K-$572K/tahun.
– Minneapolis Star Tribune Kategori Bisnis