Selamat datang di Eye on AI! Di edisi ini…
xAI merilis Grok 4 di tengah kritik karena postingan antisemit… Perplexity luncurkan browser AI untuk saingi Google—mulai dari pengguna berat… OpenAI dikabarkan siap merilis browser sendiri.
Sebuah rekaman suara palsu (deepfake) yang meniru Menteri Luar Negeri Marco Rubio menghubungi menteri luar negeri negara lain, gubernur AS, dan anggota Kongres dengan pesan suara yang dibuat AI, menurut pejabat AS dan kabel Departemen Luar Negeri tertanggal 3 Juli.
Tidak ada bukti publik bahwa penerima pesan—yang didesain untuk mencuri informasi sensitif atau akses akun—tertipu. Tapi ini contoh terbaru betapa mudah dan meyakinkannya penipuan suara AI.
Cuma butuh 15-30 detik rekaman suara seseorang di platform seperti Eleven Labs, Speechify, atau Respeecher, sekarang bisa ketik pesan apa saja dan dibacakan dengan suara mereka. Ingat, alat ini sah dipakai untuk aksesibilitas atau konten, tapi bisa disalahgunakan.
Ancaman deepfake meningkat
Deepfake AI bukan hal baru, terutama untuk pemimpin dan pejabat, tapi makin jadi masalah. Delapan bulan lalu, lebih dari separuh CISO survei khawatir akan video/audio deepfake. Ancaman ini terus naik. Studi Surfshark temukan di awal 2025 saja, insiden deepfake melonjak jadi 580—hampir 4x lipat dari 2024 (150 insiden). Kerugian dari penipuan deepfake juga meledak, capai $897 juta total, dengan $410 juta di awal 2025 saja. Skema umum: palsukan figur publik untuk promosikan investasi palsu, yang udah rugikan $401 juta.
“Deepfake udah jadi ancaman keamanan nyata,” kata Aviad Mizrachi, CTO Frontegg. “Kita udah lihat panggilan video AI berhasil tipu karyawan setujui transfer jutaan dolar. Serangan ini terjadi sekarang, dan makin gampang buat hacker.”
Masalahnya, metode autentikasi tradisional—username, password, kode sekali pakai—gak dirancang untuk dunia di mana suara/wajah bisa dikloning dalam detik. Scam ini gak perlu bobol akun, tapi mengelabui korban agar menyerahkan kredensial.
“Tindakan keamanan tradisional buat verifikasi identitas udah gak efektif,” katanya, tambahkan bahwa banyak tim cybersecurity masih abaikan deepfake—dan itu celah yang dieksploitasi penyerang. Suara palsu meyakinkan bisa bikin seseorang langgar prosedur atau setujui transfer, meski semua alat autentikasi ada.
Untuk hadapi ini, Mizrachi sarankan organisasi pakai alat keamanan lebih kuat seperti smartphone atau kunci keamanan fisik (FIDO2/WebAuthn passkeys)—lebih susah dipalsukan hacker. Sistem verifikasi cerdas juga bisa pantau sinyal perilaku (kecepatan ketik, lokasi, kebiasaan login) untuk deteksi anomali yang gak bisa ditiru suara kloning. Lapisan tambahan ini bikin serangan deepfake lebih sulit berhasil.
Margaret Cunningham, Direktur Keamanan Darktrace, bilang upaya palsukan Rubio tunjukkan betapa mudahnya AI generatif dipakai untuk serangan social engineering.
“Ancaman ini gagal bukan karena jelek—tapi karena salah timing. Orang sering gak ambil keputusan dalam kondisi tenang. Mereka bereaksi sambil multitasking, di bawah tekanan, dan percaya yang familiar. Di saat itu, suara atau pesan resmi dengan mudah lewati kewaspadaan.”
Deepfake pengaruhi demokrasi global
AI generatif juga bikin manipulasi media lebih mudah, cepat, dan murah. Ini pengaruhi demokrasi di seluruh dunia: Laporan New York Times temukan deepfake AI udah ubah pemilu di 50+ negara, dipakai untuk serang lawan politik.
“Ini garis depan baru operasi pengaruh,” kata Leah Siskind, peneliti AI. “Kita udah lihat deepfake pejabat dipakai buat akses akun pribadi, tapi pakai AI untuk pengaruhi hubungan diplomatik dan keputusan itu eskalasi berbahaya. Ini masalah keamanan nasional mendesak dengan dampak diplomatik serius.”
Untuk sekarang, Siskind rekomendasikan pejabat hindari platform enkripsi populer seperti Signal—yang aman kontennya tapi gak ada verifikasi identitas. “Karena gampangnya bikin deepfake audio dan akun palsu di aplikasi pesan, pejabat tinggi harus pakai saluran komunikasi lebih aman,” katanya.
Dengan itu, berikut berita AI lainnya:
- xAI rilis Grok 4 di tengah kritik postingan antisemit. Elon Musk klaim chatbot baru ini lebih pintar dari kebanyakan mahasiswa S2 dan sekarang dukung interaksi suara lebih baik. Tapi Grok 4 juga dikritik karena hasilkan konten rasis, yang udah dihapus xAI.
- Perplexity luncurkan browser AI Comet buat saingi Google—mulai dari pengguna bayar $200/bulan. Browser ini tawarkan jawaban ringkasan AI, bukan hasil pencarian tradisional.
- OpenAI siap rilis browser sendiri dalam beberapa minggu, menurut Reuters. Browser ini dirancang biar interaksi pengguna tetap di antarmuka mirip ChatGPT, bukan arahkan ke situs luar.
ANGKA PENTING:
80% – Persentase software bisnis yang akan didukung AI multimodal (paham teks, gambar, video, audio) pada 2030, menurut Gartner. Naik drastis dari <10% sekarang. Perubahan ini bisa ubah cara bisnis di kesehatan, keuangan, dan manufaktur.