Pengembang AI Anthropic menyatakan bahwa model kecerdasan buatan Claude terbarunya begitu mahir dalam menemukan kerentanan keamanan siber sehingga tidak dapat dirilis untuk publik. Sebagai gantinya, perusahaan menyediakan alat ini kepada penyedia infrastruktur teknologi besar agar mereka dapat memperbaiki celah keamanan yang ditemukan.
Pada akhir Maret, mulai beredar kabar bahwa model AI terbaru Anthropic, yang dijuluki Claude Mythos (PDF), akan menjadi lompatan besar bagi teknologi AI perusahaan. Kini, perusahaan telah memamerkan kemampuannya dan memperingatkan bahwa Mythos merupakan ancaman keamanan siber yang serius, karena kemampuannya memang jauh lebih unggul dalam menemukan dan mengeksploitasi kerentanan keamanan daring.
“Model AI telah mencapai tingkat kemampuan coding yang dapat melampaui semua manusia kecuali yang paling ahli dalam menemukan dan mengeksploitasi kerentanan perangkat lunak,” tulis perusahaan dalam postingan blog hari Selasa. Anthropic menyatakan bahwa Mythos Preview, yang belum dirilis untuk publik, telah menemukan apa yang mereka sebut sebagai ribuan kerentanan keamanan parah “di setiap sistem operasi dan peramban web utama.” Saat dimintai komentar, seorang perwakilan Anthropic mengarahkan CNET ke postingan blog perusahaan.
Untuk mengatasi risiko keamanan siber ini, Anthropic mengumumkan peluncuran sebuah konsorsium bernama Proyek Glasswing yang mencakup Apple, Amazon Web Services, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia, dan Palo Alto Networks. Anthropic menyebut organisasi-organisasi tersebut beserta lebih dari 40 lainnya akan mendapatkan akses ke Mythos untuk memulai pekerjaan memperkuat pertahanan terhadap serangan dan eksploitasi berbasis AI. Perusahaan berkomitmen menyediakan kredit penggunaan senilai $100 juta untuk Mythos serta donasi $4 juta kepada organisasi keamanan sumber terbuka.
“Bahaya jika ini gagal sudah jelas, tetapi jika kita berhasil, ada peluang nyata untuk menciptakan internet dan dunia yang secara fundamental lebih aman daripada sebelum kemunculan kemampuan siber bertenaga AI,” tulis CEO Anthropic Dario Amodei di X.
Dalam sebuah video yang diunggah ke YouTube mengenai Proyek Glasswing, para pemimpin dari perusahaan termasuk Microsoft, Linux Foundation, dan Anthropic membahas kerusakan yang dapat ditimbulkan oleh kerentanan perangkat lunak.
Perusahaan komputasi awan besar telah mulai bekerja dengan model baru ini untuk menemukan kerentanan. “Temuan kami sangat mencerahkan,” tulis Anthony Grieco, Chief Security and Trust Officer di Cisco, dalam sebuah postingan blog. “Kini pekerjaan sesungguhnya dimulai. Analisis berbasis AI mengungkap data dalam skala dan kedalaman yang tidak dirancang untuk diakomodasi oleh kerangka kerja lama.”
Amazon Web Services menyatakan model ini telah menemukan cara untuk memperkuat kode bahkan dalam sistem mereka yang paling teruji. Amy Herzog, Wakil Presiden dan Chief Information Security Officer di AWS, menyebut Claude Mythos Preview sebagai “perubahan langkah dalam penalaran dan kemampuan AI untuk keamanan siber.”
Sen. Mark Warner memuji inisiatif ini dalam sebuah pernyataan. “Saya mengapresiasi perusahaan-perusahaan terkemuka ini karena mengakui ancaman ini dan secara proaktif berbagi informasi, kemampuan, serta kapasitas komputasi untuk lebih melindungi infrastruktur kritis kita,” ujar politisi Demokrat dari Virginia itu. “Seiring AI secara dramatis mempercepat penemuan kerentanan baru, saya berharap industri akan secara bersamaan mempercepat dan memprioritaskan ulang perbaikan.”
Warner, yang negaranya merupakan pusat pertumbuhan pusat data AI, baru-baru ini menyebut usulan moratorium pembangunan pusat data sebagai “kebodohan,” tetapi juga telah memperingatkan tentang risiko bagi masyarakat yang ditimbulkan oleh perkembangan AI yang cepat yang mengakibatkan hilangnya pekerjaan secara besar-besaran.