Menteri Keuangan Scott Bessent dan Ketua Fed Jerome Powell dilaporkan mengadakan pertemuan darurat dengan pemimpin Wall Street pada hari Selasa. Mereka khawatir tentang model AI terbaru Anthropic, bernama Mythos, karena bisa meningkatkan risiko keamanan siber.
Menurut Bloomberg dan Financial Times, Bessent dan Powell mengumpulkan para eksekutif penting di markas besar Treasury. Tujuannya agar bank-bank mengetahui risiko siber dari model Mythos dan model masa depan yang serupa. Yang hadir termasuk CEO Citigroup Jane Fraser, CEO Morgan Stanley Ted Pick, CEO Bank of America Brian Moynihan, CEO Wells Fargo Charlie Scharf, dan CEO Goldman Sachs David Solomon. CEO JPMorgan Jamie Dimon diundang tapi tidak bisa datang.
Federal Reserve dan Treasury tidak memberikan komentar kepada Fortune.
Pertemuan ini terjadi beberapa minggu setelah Fortune melaporkan bahwa Anthropic sedang mengembangkan model AI yang sangat kuat. Model itu tidak sengaja dibocorkan ke publik bulan lalu. Perusahaan kemudian mengakui model itu adalah Claude Mythos.
Pada hari Selasa, Anthropic merilis laporan tentang kemampuan keamanan siber model Mythos. Model ini bisa menemukan banyak kerentanan lama, bahkan yang berusia 27 tahun di sistem operasi OpenBSD yang terkenal aman.
Anthropic sudah memberi penjelasan kepada pejabat pemerintah AS dan pemangku kepentingan industri tentang kemampuan Mythos. Mereka menyatakan siap bekerja dengan semua tingkat pemerintah untuk menjaga keamanan nasional dan memastikan AS tetap memimpin dalam teknologi AI.
Anthropic mengatakan bahwa bekerja sama dengan pemerintah adalah rencana mereka dari awal. Saat ini, perusahaan sedang berkonflik dengan Pentagon karena membatasi penggunaan teknologi AI-nya.
Model AI Baru Anthropic Bisa ‘Mengubah Keamanan Siber’, Mereka Luncurkan Proyek Glasswing
Bersama Amazon Web Services, Amazon, Google, JPMorgan Chase, dan perusahaan teknologi kunci lain, Anthropic meluncurkan Proyek Glasswing pekan ini. Proyek ini bertujuan mengamankan perangkat lunak penting seiring kemajuan AI. Anthropic akan berbagi pengetahuan mereka dengan seluruh industri.
Selain mitra teknologi dan keuangan, perusahaan memberi akses ke 40 organisasi lain yang membangun infrastruktur perangkat lunak penting. Mereka juga menyediakan kredit penggunaan Mythos Preview senilai $100 juta. Proyek ini diluncurkan karena kemampuan model Mythos yang diyakini bisa "mengubah keamanan siber."
"Kemajuan AI sangat cepat. Tidak lama lagi, kemampuan seperti ini akan menyebar, mungkin ke pihak-pihak yang tidak berkomitmen untuk menggunakannya dengan aman," tulis peringatan mereka. "Dampaknya bagi ekonomi, keselamatan publik, dan keamanan nasional bisa sangat serius."
Anthropic mengatakan akan merilis model baru ini awalnya hanya kepada sekelompok mitra industri terbatas. Tujuannya agar para pembela sistem bisa mulai mengamankan sistem terpenting sebelum model dengan kemampuan serupa tersedia luas.
Pemimpin bisnis lain juga sudah memperingatkan risiko keamanan siber dari model AI yang kuat. Dalam surat tahunannya kepada pemegang saham, Jamie Dimon menyebut keamanan siber sebagai salah satu risiko terbesar. "AI hampir pasti akan memperburuk risiko ini," tambahnya.
Sebagai bagian dari Proyek Glasswing, JPMorgan bertujuan mengurangi risiko siber dari kemampuan AI yang berkembang cepat. Pejabat keamanan informasi JPMorgan mengatakan, proyek ini memberikan kesempatan unik untuk mengevaluasi alat AI generasi berikutnya untuk pertahanan siber.