Sam Altman baru-baru ini memperingatkan bahwa penipuan berbasis AI akan datang “sangat cepat,” dan itu akan merusak sistem yang kita andalkan untuk verifikasi identitas.
Ini sudah terjadi dan tidak hanya untuk bank; itu menyerang semua bagian pemerintahan kita sekarang.
Setiap minggu, penipuan buatan AI mengambil jutaan dari sistem bantuan publik, dana bantuan bencana, dan program pengangguran. Jaringan kriminal sudah pakai deepfake, identitas sintetis, dan model bahasa besar untuk mengalahkan pertahanan penipuan yang ketinggalan zaman, termasuk alat sederhana seperti pengenalan wajah, dan mereka menang.
Kita lihat sedikit saat pandemi, ketika grup penipuan manfaatkan celah di sistem negara untuk mencuri ratusan miliar tunjangan pengangguran. Bukan cuma orang pakai masker untuk lewati pengenalan wajah. Tapi identitas palsu, kloning suara, dan dokumen palsu yang dibuat AI membanjiri sistem yang tidak siap mendeteksinya. Sekarang, taktik itu lebih canggih dan sepenuhnya otomatis.
Saya bekerja dengan lebih dari 9.000 agensi di seluruh negeri. Seperti yang saya sampaikan di depan DPR AS dua kali tahun ini, apa yang kita lihat di lapangan jelas. Penipuan lebih cepat, murah, dan bisa skala besar dibanding sebelumnya. Grup kejahatan terorganisir, lokal maupun internasional, pakai AI generatif untuk tiru identitas, buat dokumen sintetis, dan banjiri sistem kita dengan klaim palsu. Mereka tidak hanya mencuri dari pemerintah, tapi juga dari rakyat Amerika.
Inspektur Jenderal SBA sekarang perkirakan hampir $200 miliar dicuri dari program asuransi pengangguran era pandemi, menjadikannya salah satu kerugian penipuan terbesar dalam sejarah AS. Medicaid, IRS, TANF, CHIP, dan program bantuan bencana juga rentan. Kami lihat ini langsung saat bekerja dengan U.S. Secret Service melindungi program USDA SNAP, yang jadi sasaran empuk penipu dengan miliaran dicuri tiap bulan. Bahkan, dalam satu hari pakai AI, satu grup penipuan bisa ajukan puluhan ribu klaim palsu di banyak negara bagian, yang kebanyakan akan diproses otomatis kecuali ketahuan.
Kita berada di titik balik. Saat AI terus berkembang, skala dan kecanggihan serangan ini akan meningkat cepat. Seperti Hukum Moore yang prediksi kekuatan komputasi akan berlipat ganda setiap dua tahun, kita sekarang alami pertumbuhan eksponensial baru. Gordon Moore, pendiri Intel, pertama kali jelaskan tren ini tahun 1965, dan itu memandu inovasi selama puluhan tahun. Saya percaya kita mungkin segera kenali prinsip serupa untuk AI yang saya sebut “Hukum Altman”: setiap 180 hari, kemampuan AI berlipat ganda.
Jika kita tidak modernisasi pertahanan secepat kemajuan teknologi, kita akan selalu kalah.
Apa yang sangat kita butuhkan adalah alat dan infrastruktur yang lebih pintar, bukan birokrasi lebih banyak.
Artinya lapisan verifikasi identitas yang canggih, bukan cuma scan wajah atau password. Artinya pakai data real-time, analisis perilaku, dan alat lintas yurisdiksi yang bisa tandai anomali sebelum uang keluar. Juga berarti menghidupkan kembali apa yang sudah berhasil: alat seperti National Accuracy Clearinghouse, yang pernah tandai miliaran dolar klaim ganda antar negara bagian sebelum ditutup.
AI adalah pengganda kekuatan, tapi bisa lebih mudah dipakai untuk kejahatan daripada perlindungan. Sekarang, penjahat lebih pintar memakainya daripada kita. Sampai itu berubah, sistem paling rentan dan orang yang bergantung padanya akan tetap terbuka.
Pendapat di artikel komentar Fortune.com adalah pandangan penulis saja dan tidak selalu mencerminkan pendapat dan keyakinan Fortune.