Elyse Betters Picaro / ZDNET
Intisari ZDNET
- AI menemukan ribuan bug tersembunyi dalam sistem-sistem kritis.
- Rival teknologi bersatu untuk mengamankan risiko infrastruktur bersama.
- Linimasa serangan siber menyusut dari bulanan menjadi hitungan menit.
Hari ini, sekelompok perusahaan teknologi terbesar di dunia mengumumkan apa yang pada dasarnya merupakan Proyek Manhattan keamanan siber berbasis AI. Sebagai Penasihat Perang Siber untuk Asosiasi Internasional Profesional Kontraterorisme & Keamanan dan bagian dari Dewan Sektor Silang Ancaman dan Mitigasi AI InfraGard FBI, saya telah menghabiskan dekade untuk memprofilkan ancaman global, dari mengajar di Universitas Pertahanan Nasional hingga memimpin simulasi serangan siber nasional. Namun, kedatangan frontier AI baru dari Anthropic merepresentasikan pergeseran paradigma yang bahkan para spesialis infrastruktur paling siap pun sedang berjuang untuk navigasi.
Banyak hal yang perlu diuraikan dari pengumuman ini, tetapi sebelum menyelami detail yang dipublikasikan, saya akan mencoba membaca yang tersirat. Itu karena keberadaan pengumuman ini saja berarti ada banyak hal yang tidak terungkap.
Fakta bahwa semua perusahaan ini bekerja sama pasti mengindikasikan besarnya ancaman dan skala proyek yang diperlukan untuk meresponsnya.
Yang akan saya gambarkan adalah berita yang menakutkan sekaligus, di sisi lain, agak menggembirakan. Ini mengkhawatirkan karena jelas seluruh infrastruktur keamanan siber kita berada dalam risiko besar karena kemajuan AI kelas senjata. Jika tidak, para kompetitor sengit ini tidak akan bekerja sama seperti yang diumumkan hari ini.
Ini agak menggembirakan karena para pesaing ketat ini memilih untuk bekerja sama guna mengurangi kerentanan infrastruktur tersebut. Ini adalah berita yang luar biasa.
Memperkenalkan Proyek Glasswing
Proyek Glasswing digambarkan dalam pengumuman sebagai: "Sebuah inisiatif yang menyatukan Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia, dan Palo Alto Networks dalam upaya mengamankan perangkat lunak paling kritis di dunia."
Nama "glasswing" mungkin tidak berarti apa-apa, atau memberikan sedikit gambaran tentang maksud keseluruhan proyek. Kupu-kupu glasswing, asli Amerika Tengah dan Selatan, dinamai demikian karena sayap transparannya yang memungkinkannya menyamar di lingkungannya. Kupu-kupu ini juga luar biasa tangguh, mampu membawa beban hingga 40 kali berat tubuhnya.
Pada intinya, "koalisi sukarela" ini berencana untuk mengerahkan dua senjata pertahanan: sebuah model AI baru yang belum dirilis bernama Claude Mythos Preview dan segunung uang ($4 juta dalam donasi langsung dan $100 juta dalam kredit penggunaan Claude).
Pada pandangan pertama, pengumuman ini terlihat seperti strategi PR yang sangat terkoordinasi, semacam security theater. Interpretasi skeptis lainnya mungkin bahwa perusahaan-perusahaan ini menciptakan kartel keamanan untuk mengunci startup dan pemain lain.
Tetapi saya kira bukan itu masalahnya. Berdasarkan pernyataan dari para pemain kunci dan kerentanan keamanan yang disebutkan, saya pikir ini adalah sesuatu yang jauh lebih serius daripada sekadar sesi foto PR korporat raksasa untuk membuat semua terlihat bertanggung jawab dengan AI.
Setelah menghabiskan waktu sebagai eksekutif di Symantec dan team lead di Apple, saya telah melihat langsung betapa gigihnya perusahaan-perusahaan ini menjaga kekayaan intelektual mereka. Melihat mereka menyerahkan $100 juta dalam kredit dan membuka model yang belum dirilis satu sama lain memberi tahu saya tingkat ancaman telah bergeser dari kompetitif menjadi eksistensial.
Faktanya, Anda tidak melihat perusahaan-perusahaan spesifik ini bekerja sama seperti ini kecuali alternatifnya adalah kehancuran bersama atas infrastruktur yang mereka bagi.
Dan tidak, saya kira itu bukan hiperbola.
Beginilah Elia Zaitsev, CTO di perusahaan keamanan siber CrowdStrike, menggambarkan situasinya: "Jendela antara kerentanan ditemukan dan dieksploitasi oleh musuh telah runtuh. Yang dulu membutuhkan bulanan sekarang terjadi dalam hitungan menit dengan AI."
Jika nama CrowdStrike terdengar familiar, mungkin karena pada tahun 2024, perusahaan itu mendorong pembaruan yang secara tidak sengaja melewati pengaman dan merusak jutaan sistem Windows di seluruh planet. Jika ada satu perusahaan yang tahu bagaimana rasanya mengalami hari yang buruk, itu adalah CrowdStrike.
Menurut pengumuman tersebut, "Kami membentuk Proyek Glasswing karena kemampuan yang kami amati dalam Mythos Preview dapat membentuk ulang keamanan siber."
Ini jelas lebih buruk dari yang kita kira
Anthropic menggambarkan model Mythos Preview sebagai "model frontier tujuan umum yang belum dirilis" dengan keterampilan pengkodean dan penalaran agen yang kuat. Perusahaan mengatakan, "Anthropic tidak melatihnya secara khusus untuk keamanan siber."
Perusahaan juga mengatakan tidak berencana membuat Mythos Preview tersedia secara umum, mungkin karena dapat dijadikan senjata oleh aktor-aktor musuh.
Menurut Anthropic, "Dalam beberapa minggu terakhir, Mythos Preview telah mengidentifikasi ribuan kerentanan zero-day, banyak di antaranya kritis. Kerentanan yang ditemukannya sering kali halus atau sulit dideteksi."
Ribuan. Ternyata banyak dari kerentanan itu hadir dalam perangkat lunak inti yang misi-kritis dan telah ada dalam perangkat lunak yang diterapkan aktif selama 10 atau 20 tahun terakhir. Salah satu kerentanan seperti itu adalah bug berusia 27 tahun yang baru ditemukan di OpenBSD. Sebagai catatan, OpenBSD dikenal dengan keamanannya, dan namun ada kerentanan misi-kritis yang tidak diketahui siapa pun (setidaknya tidak satu pun dari pihak baik).
Contoh lain adalah "kerentanan berusia 16 tahun dalam perangkat lunak video yang digunakan luas." Inilah scary gotcha-nya. Rupanya, bug itu ada dalam baris kode yang sebelumnya dianggap sebagai standar emas untuk pemeriksaan keamanan oleh alat pengujian otomatis. Alat pengujian menganalisis baris kode itu lima juta kali selama bertahun-tahun, dan tidak sekali pun mereka menangkap masalahnya.
Pikirkan pernyataan ini dari Anthony Grieco, SVP dan kepala petugas keamanan dan kepercayaan di Cisco, perusahaan jaringan dan infrastruktur global yang menggerakkan sebagian besar internet dan konektivitas perusahaan.
Grieco berkata, "Kemampuan AI telah melampaui ambang batas yang secara fundamental mengubah urgensi yang diperlukan untuk melindungi infrastruktur kritis dari ancaman siber, dan tidak ada jalan kembali."
Tidak ada jalan kembali. Dia berkata, "Cara lama mengeraskan sistem tidak lagi cukup. Penyedia teknologi harus secara agresif mengadopsi pendekatan baru sekarang." Fakta ini sebabnya dia mengatakan Cisco bergabung dengan Proyek Glasswing: "Pekerjaan ini terlalu penting dan terlalu mendesak untuk dilakukan sendirian."
Itu adalah pernyataan yang mengejutkan, terutama mengingat dari siapa asalnya.
Ini semua tentang infrastruktur
Peradaban modern kita dibangun di atas infrastruktur teknologi yang terhubung jaringan. Mulai dari stasiun pembangkit listrik raksasa hingga smart ring kita, hampir semuanya berbasis komputer dan jejaring.
Tetapi fondasi infrastruktur digital ini tidak semuanya dari satu perusahaan atau produk. Bahkan, sebagian besar berbasis pada perangkat lunak sumber terbuka, sering kali ditulis oleh pengembang independen yang tidak terafiliasi. Bahkan produk komersial miliaran dolar menggunakan pustaka perangkat lunak yang dibangun oleh koder individu.
Secara historis, programmer dan tim telah menguji kode mereka secara manual dan kemudian menulis rangkaian uji untuk menguji kode mereka. Saya melakukan ini dengan produk keamanan sumber terbuka saya. Sebelum saya mengerahkan pembaruan, saya mengujinya secara ekstensif. Setelahnya, saya sering membagikannya dengan subset pengguna untuk periode uji beta. Secara umum, produk saya cukup solid.
Tetapi musim gugur lalu, saya memutuskan untuk memberi kode sumber lengkap kepada Claude Code dan Codex OpenAI. Saya meminta masing-masing dari mereka untuk evaluasi keamanan. Keduanya mengidentifikasi kerentanan yang terlewatkan oleh proses pengujian saya. Bahkan, sementara keduanya menemukan beberapa kerentanan yang sama, setiap AI menemukan beberapa yang tidak ditemukan oleh AI lainnya.
Saya dengan cepat memperbaiki bug yang diidentifikasi AI. Tapi yang benar-benar menarik minat saya adalah jenis bug yang diidentifikasi. Ini bukan bug dalam kode itu sendiri. Saya tidak membuat kesalahan pengkodean klasik yang biasanya mengarah pada kerentanan.
Yang diidentifikasi AI adalah keanehan perilaku yang hanya akan terwujud ketika dikombinasikan dengan perangkat lunak dan konfigurasi lain — kode yang tidak saya tulis. Tetapi karena AI dapat melihat melampaui kode yang diminta untuk diselidiki dan malah mempertimbangkan seluruh lingkungan infrastruktur tempat kode berjalan, mereka dapat mengidentifikasi masalah situasional yang bisa berubah menjadi eksploit.
Masalah ini, dalam skala yang jauh lebih besar, adalah yang ingin ditangani Proyek Glasswing. Pengumuman Proyek Glasswing mengatakan: "Tidak ada satu organisasi pun yang dapat menyelesaikan masalah keamanan siber ini sendirian: pengembang frontier AI, perusahaan perangkat lunak lain, peneliti keamanan, pengelola sumber terbuka, dan pemerintah di seluruh dunia semuanya memiliki peran penting untuk dimainkan."
Ada ratusan ribu komponen ini berjalan di miliaran perangkat dan dalam jutaan program perangkat lunak. Hanya dibutuhkan satu kerentanan dalam satu potong kode, dan infrastruktur kritis bisa gagal.
Menurut Igor Tsyganskiy, EVP keamanan siber dan Microsoft Research di Microsoft, "Saat kita memasuki fase di mana keamanan siber tidak lagi terikat oleh kapasitas manusia murni, peluang untuk menggunakan AI secara bertanggung jawab untuk meningkatkan keamanan dan mengurangi risiko dalam skala besar adalah hal yang belum pernah terjadi sebelumnya."
Sebuah implikasi adalah bahwa aktor jahat dapat menggunakan AI secara agresif dan destruktif, melakukan serangan dengan kecepatan mesin dan menemukan kerentanan dengan tingkat yang belum pernah kita temui sebelumnya.
Kekhawatiran keamanan nasional
Inisiatif ini tidak boleh diambil di luar konteks. Untuk memahami relevansinya, kita juga harus mempertimbangkan situasi geopolitik saat ini. Tim keamanan TI telah berurusan dengan ancaman siber selama bertahun-tahun. Baik itu penjahat yang mencari uang, hacktivis berniat mengganggu, atau negara bangsa yang melakukan campuran eksfiltrasi data, pemerasan moneter, pencurian identitas, dan gangguan infrastruktur, ancaman siber bukanlah hal baru.
Saya menghabiskan tahun untuk menyelidiki kontroversi email Gedung Putih utama untuk buku saya, Where Have All The Emails Gone?, dan bahkan saat itu, kerentanan kantor tertinggi kita terhadap kegagalan infrastruktur dasar sangat mengejutkan. Tetapi itu adalah kesalahan skala manusia. Apa yang diperangi Proyek Glasswing adalah keruntuhan kecepatan mesin dari seluruh perimeter pertahanan.
Ada dua faktor sangat baru yang sedang berperan saat ini. Pertama adalah pertumbuhan kemampuan AI. Sementara Mythos Preview dimaksudkan sebagai alat pertahanan, jangan ragukan bahwa musuh sedang membangun model frontier mereka sendiri sebagai senjata gangguan digital massal.
Faktor kedua adalah perang di Iran. Kembali pada 2012, saya menulis profil perang siber Iran, mengeksplorasi kemampuan internalnya untuk melakukan perang siber. Saat itu, saya mencatat bahwa Iran memprioritaskan pendidikan tinggi dalam sains dan matematika. Sementara pemerintah Iran menyensor internet, hampir seperempat warga Iran daring. Hari ini, hampir 80% daring.
Kesimpulan saya pada 2012 bahkan lebih valid hari ini. Saya berkata, "Inti dari semua ini adalah untuk menunjukkan bahwa Iran memiliki konektivitas, sumber daya, dan warga negara terdidik yang substansial, lebih dari cukup untuk memicu perjalanan ke kejahatan siber, terorisme siber, dan perang siber itu sendiri."
Gabungkan itu dengan akses ke teknologi AI tingkat frontier, dan adil untuk mengharapkan tingkat serangan siber yang intens dengan tingkat dan keganasan yang belum pernah terlihat sebelumnya, memanfaatkan eksploitasi yang sebelumnya tersembunyi dalam kompleksitas infrastruktur keseluruhan.
Penting untuk mengakui masalah yang sedang berlangsung yang baru-baru ini dialami Anthropic dengan Pemerintah AS.
Pengumuman Proyek Glasswing secara samar mencerminkan situasi ini: "Anthropic juga telah dalam diskusi berkelanjutan dengan pejabat pemerintah AS tentang Claude Mythos Preview dan kemampuan siber ofensif dan defensifnya."
Ini adalah satu-satunya kali dalam pengumuman bahwa Mythos digambarkan mampu mendukung kemampuan "ofensif". Saya mengundang pembaca untuk menarik kesimpulan mereka sendiri tentang detail itu. Pandangan saya adalah bahwa Mythos bisa berpotensi sangat merusak jika tindakan semacam itu menjadi perlu. Kemampuan ofensif itu mungkin juga alasan Anthropic membatasi rilis ke sejumlah peserta tertentu dan tidak membuatnya tersedia untuk dunia luas.
Pengumuman itu juga mengatakan: "Mengamankan infrastruktur kritis adalah prioritas keamanan nasional tertinggi bagi negara-negara demokratis. Munculnya kemampuan siber ini adalah alasan lain mengapa AS dan sekutunya harus mempertahankan keunggulan yang menentukan dalam teknologi AI."
Awal tahun ini, pemerintah AS menetapkan Anthropic sebagai risiko rantai pasokan. Efek samping dari penetapan ini adalah bahwa kontraktor pertahanan diperintahkan untuk berhenti menggunakan produk Anthropic dalam apa pun yang bisa dianggap terkait dengan pekerjaan pertahanan pemerintah.
Penetapan itu akan mempengaruhi kontrak pemerintah dari sejumlah peserta Proyek Glasswing jika mereka memilih untuk terus menggunakan Claude. Namun, pada 26 Maret, Hakim Distrik AS Rita Lin memblokir pembatasan itu, secara sementara mengizinkan kontraktor pertahanan untuk terus menggunakan produk AI Claude.
Saya melihat dua kemungkinan bacaan tersirat di sini:
- Pengumuman ini diatur waktu jatuhnya setelah penetapan risiko rantai pasokan diblokir, dan sebelum dilanjutkan.
- Kemampuan Mythos Preview dan hasil yang terlihat dalam tahap awal penggunaannya begitu mendalam sehingga para pesaing ketat ini akan memutuskan untuk menggunakannya pula, terlepas dari pembatasan kontrak.
Beginilah rilis Proyek Glasswing menjelaskan situasinya: "Pekerjaan mempertahankan infrastruktur siber dunia mungkin membutuhkan tahunan; kemampuan frontier AI kemungkinan akan berkembang pesat hanya dalam beberapa bulan ke depan. Agar pembela siber unggul, kita perlu bertindak sekarang."
Ikuti uangnya
Jika Anda akan benar-benar memperhatikan risiko infrastruktur yang ditimbulkan oleh ribuan kerentanan tersembunyi, Anda harus memperhitungkan para pengembang sumber terbuka individu yang beroperasi secara independen.
Ada ekosistem besar yang didasarkan pada semua individu itu, masing-masing memodifikasi dan check-in kode mereka sendiri, ke repositori terpusat. Sementara sifat sumber terbuka berarti siapa pun (dan perusahaan mana pun) dapat membaca kodenya, check-in modifikasi terbatas pada pengembang dengan akses commit ke proyek.
Tentu mungkin bagi pihak lain untuk fork proyek (membuat salinan mereka sendiri yang juga didistribusikan). Tetapi melakukan itu tidak akan segera menyelesaikan risiko ketergantungan perangkat lunak apa pun. Masalah itu karena ada sistem otomatis di seluruh internet yang dibangun untuk memasukkan paket yang dikenal ke dalam distribusi mereka. Forking sebuah proyek akan mengharuskan semua sistem otomatis itu mengubah sumber pembaruan kode mereka.
Jadi, ketika Mythos Preview menemukan kerentanan, bagaimana caranya mencapai pengembang yang tepat untuk diperbaiki? Proyek Glasswing mengambil dua pendekatan. Pertama adalah menyumbangkan langganan Claude Max untuk Claude Opus dan Sonnet kepada pengembang sumber terbuka terverifikasi mana pun yang meminta. Itu bukan akses ke Mythos Preview, tetapi bahkan Claude Opus 4.6 dapat membantu mengidentifikasi bug. Untuk mengajukan permohonan hibah Claude Max, pengelola yang tertarik akses dapat mendaftar melalui program Claude for Open Source.
Ketika saya bertanya tentang itu, Anthropic memberi tahu saya, "Kami telah menyumbang $2,5 juta kepada Alpha-Omega dan OpenSSF melalui Linux Foundation, dan $1,5 juta kepada Apache Software Foundation untuk memungkinkan pengelola perangkat lunak sumber terbuka merespons lanskap yang berubah ini."
OpenSSF adalah Open Source Security Foundation. Misi mereka adalah "Mempermudah untuk mengamankan secara berkelanjutan pengembangan, pemeliharaan, rilis