Menyusul kabar bocor pada akhir Maret bahwa Anthropic telah mengembangkan model Claude baru yang sangat kuat, perusahaan tersebut secara resmi mengumumkan Mythos Preview pada hari Selasa. Bersamaan dengan itu, diumumkan pula sebuah konsorsium industri bernama Project Glasswing yang dibentuk untuk mengatasi implikasi keamanan siber dari model baru ini serta kemajuan kemampuan AI secara lebih luas.
Kelompok ini mencakup Microsoft, Apple, dan Google, serta Amazon Web Services, Linux Foundation, Cisco, Nvidia, Broadcom, dan lebih dari 40 organisasi lain di bidang teknologi, keamanan siber, infrastruktur kritis, dan keuangan. Mereka akan mendapatkan akses privat ke model yang belum dirilis secara umum ini. Tujuannya, sebagian, adalah memberi waktu bagi pengembang platform teknologi dasar dunia untuk menguji Mythos Preview pada sistem mereka sendiri. Hal ini agar mereka dapat memitigasi kerentanan dan rangkaian eksploitasi yang mungkin dikembangkan model tersebut dalam serangan simulasi. Secara lebih luas, Anthropic menekankan bahwa tujuan pembentukan inisiatif ini adalah untuk memulai eksplorasi mendesak mengenai bagaimana kemampuan AI di seluruh industri berada di ambang—menurut perusahaan—mengguncang praktik keamanan perangkat lunak dan pertahanan digital yang ada di dunia.
“Pesan sesungguhnya adalah bahwa ini bukan tentang model atau Anthropic,” kata Logan Graham, pemimpin tim red team frontier perusahaan tersebut, kepada WIRED. “Kita perlu mempersiapkan diri dari sekarang untuk dunia di mana kemampuan ini tersedia secara luas dalam 6, 12, 24 bulan ke depan. Banyak hal akan berubah dalam keamanan. Banyak asumsi yang menjadi dasar paradigma keamanan modern saat ini mungkin akan runtuh.”
Model yang dikembangkan dan dilatih oleh berbagai perusahaan semakin mampu menemukan kerentanan dalam kode dan mengusulkan mitigasi—atau strategi eksploitasi. Ini menciptakan generasi berikutnya dari permainan kucing-tikus klasik di dunia keamanan, di mana sebuah alat dapat membantu pihak bertahan namun juga menguatkan pelaku jahat dan mempermudah serangan yang sebelumnya terlalu mahal atau rumit untuk dilakukan.
“Pratinjau Claude Mythos adalah lompatan yang sangat signifikan,” ujar CEO Anthropic Dario Amodei pada hari Selasa dalam video peluncuran Project Glasswing. “Kami tidak melatihnya secara khusus untuk mahir di bidang siber. Kami melatihnya untuk mahir dalam kode, tetapi sebagai efek samping dari kemahirannya dalam kode, ia juga menjadi mahir dalam siber.” Dia menambahkan dalam video itu bahwa “model-model yang lebih kuat akan datang dari kami dan dari pihak lain. Jadi, kita memang memerlukan rencana untuk menanggapi hal ini.”
Graham dari Anthropic mencatat bahwa selain penemuan kerentanan—termasuk menghasilkan rangkaian serangan potensial dan konsep pembuktian—Mythos Preview mampu melakukan pengembangan eksploitasi yang lebih maju, pengujian penetrasi, penilaian keamanan endpoint, pencarian kesalahan konfigurasi sistem, dan evaluasi biner perangkat lunak tanpa akses ke kode sumbernya.
Dalam melaksanakan rilis bertahap Mythos Preview, yang dimulai dengan fase kolaborasi industri, Graham mengatakan bahwa Anthropic berusaha menarik prinsip-prinsip dari coordinated vulnerability disclosure, yaitu proses memberi waktu bagi pengembang untuk memperbaiki celah sebelum dibahas secara publik.
“Kami telah melihat Mythos Preview menyelesaikan hal-hal yang mampu diselesaikan oleh seorang peneliti keamanan senior,” kata Graham. “Ini memiliki implikasi yang sangat besar bagi cara kemampuan seperti ini seharusnya dirilis. Jika tidak dilakukan dengan hati-hati, ini bisa menjadi akselerator yang signifikan bagi para penyerang.”
Para mitra Project Glasswing, termasuk beberapa pesaing Anthropic, menyuarakan nada kolaboratif dalam pernyataan mereka sebagai bagian dari peluncuran ini.
“Google senang melihat inisiatif keamanan siber lintas industri ini terwujud,” kata Heather Adkins, Wakil Presiden Teknik Keamanan Google, dalam sebuah pernyataan. “Kami sejak lama percaya bahwa AI menimbulkan tantangan baru dan membuka peluang baru dalam pertahanan siber.”