Elyse Betters Picaro / ZDNET
Intisari ZDNET
AI menemukan ribuan bug tersembunyi dalam sistem kritis.
Pesaing teknologi bersatu untuk mengamankan risiko infrastruktur bersama.
Linimasa serangan siber menyusut dari bulan menjadi menit.
Hari ini, sekelompok perusahaan teknologi terbesar dunia mengumumkan apa yang pada dasarnya merupakan **Proyek Manhattan keamanan siber yang digerakkan oleh AI**.
Sebagai Penasihat Perang Siber untuk Asosiasi Internasional Profesional Kontraterorisme & Keamanan serta anggota Dewan Lintas Sektor Ancaman dan Mitigasi AI InfraGard FBI, saya telah menghabiskan beberapa dekade memprofilkan ancaman global—dari mengajar di Universitas Pertahanan Nasional hingga memimpin simulasi serangan siber skala nasional. Namun, hadirnya AI *frontier* baru dari Anthropic merepresentasikan pergeseran paradigma yang bahkan para spesialis infrastruktur paling siap pun sedang berusaha keras untuk navigasi.
Banyak hal yang perlu diurai dari pengumuman ini, namun sebelum menyelami detail yang dipublikasikan, saya akan mencoba membaca yang tersirat. Pasalnya, keberadaan pengumuman ini sendiri menandakan masih banyak hal yang tak terungkap.
Fakta bahwa semua perusahaan ini bekerja sama pasti mengindikasikan besarnya ancaman dan skala proyek yang diperlukan untuk menanggapinya.
Apa yang akan saya gambarkan merupakan berita yang menakutkan sekaligus, di sisi lain, agak menggembirakan. Ini mengkhawatirkan karena jelas **seluruh infrastruktur keamanan siber kita dalam risiko besar** akibat kemajuan AI tingkat senjata. Jika tidak, para kompetitor sengit ini tidak akan bekerja sama seperti yang diumumkan hari ini.
Ini agak menggembirakan karena para kompetitor tersebut memilih untuk bersatu mengurangi kerentanan infrastruktur itu. Ini berita yang luar biasa, kawan.
Memperkenalkan Proyek Glasswing
Proyek Glasswing digambarkan dalam pengumuman sebagai: “Sebuah inisiatif yang menyatukan Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia, dan Palo Alto Networks dalam upaya mengamankan perangkat lunak paling kritis di dunia.”
Nama “glasswing” mungkin tidak berarti apa-apa, atau memberikan sedikit gambaran tentang maksud keseluruhan proyek. Kupu-kupu glasswing, asli Amerika Tengah dan Selatan, dinamai demikian karena sayap transparannya yang memungkinkannya berkamuflase dengan lingkungan. Kupu-kupu ini juga luar biasa tangguh, mampu membawa beban hingga 40 kali berat tubuhnya.
**Juga:** Mengapa agen AI perusahaan bisa menjadi ancaman internal utama
Intinya, **”koalisi yang bersedia“** ini berencana mengerahkan dua senjata pertahanan: model AI baru yang belum dirilis bernama Claude Mythos Preview dan setumpuk uang ($4 juta dalam donasi langsung dan $100 juta dalam kredit penggunaan Claude).
Sepintas, pengumuman ini terlihat seperti strategi PR yang sangat terkoordinasi, semacam *security theater*. Interpretasi skeptis lain mungkin bahwa perusahaan-perusahaan ini menciptakan kartel keamanan untuk mengunci startup dan pemain lain.
Tapi saya rasa bukan itu masalahnya. Berdasarkan pernyataan pemain kunci dan kerentanan keamanan yang disebutkan, saya rasa ini adalah sesuatu yang jauh lebih serius daripada sekadar sesi foto PR korporat raksasa untuk membuat semua terlihat bertanggung jawab dalam penggunaan AI.
Setelah menghabiskan waktu sebagai eksekutif di Symantec dan pimpinan tim di Apple, saya telah menyaksikan langsung betapa gigihnya perusahaan-perusahaan ini menjaga properti intelektual mereka. Melihat mereka menyerahkan $100 juta kredit dan membuka model yang belum dirilis satu sama lain memberi tahu saya level ancaman telah bergeser dari kompetitif menjadi eksistensial.
**Juga:** Berhenti katakan AI berhalusinasi—itu tidak benar. Dan kesalahpahaman itu berbahaya
Faktanya, Anda tidak melihat perusahaan-perusahaan spesifik ini bekerja sama seperti ini kecuali alternatifnya adalah kehancuran bersama infrastruktur yang mereka bagi.
Dan tidak, saya rasa ini bukan hiperbola.
Beginilah Elia Zaitsev, CTO di perusahaan keamanan siber CrowdStrike, menggambarkan situasinya: “Jendela antara kerentanan ditemukan dan dieksploitasi oleh musuh telah runtuh. Apa yang dulu butuh bulanan sekarang terjadi dalam hitungan menit dengan AI.”
Jika nama CrowdStrike terdengar familiar, mungkin karena pada 2024, perusahaan mendorong pembaruan yang tak sengaja melewati pengaman dan meruntuhkan jutaan sistem Windows di seluruh dunia. Jika ada satu perusahaan yang tahu bagaimana rasanya hari yang buruk, itu adalah CrowdStrike.
Menurut pengumuman, “Kami membentuk Proyek Glasswing karena kemampuan yang kami amati dalam Mythos Preview dapat membentuk ulang keamanan siber.”
Jelas lebih buruk dari yang kita kira
Anthropic mendeskripsikan model Mythos Preview sebagai “model *frontier* serbaguna yang belum dirilis” dengan keterampilan pengkodean dan penalaran agensi yang kuat. Perusahaan berkata, “Anthropic tidak melatihnya secara khusus untuk keamanan siber.”
Perusahaan juga mengatakan tidak berencana membuat Mythos Preview tersedia secara umum, mungkin karena dapat dijadikan senjata oleh aktor musuh.
**Juga:** Agen AI cepat, liar, dan tak terkendali, temuan studi MIT
Menurut Anthropic, “Dalam beberapa minggu terakhir, Mythos Preview mengidentifikasi ribuan kerentanan *zero-day*, banyak yang kritis. Kerentanan yang ditemukannya sering kali halus atau sulit dideteksi.”
Ribuan. Ternyata banyak kerentanan hadir dalam perangkat lunak inti yang sangat kritis dan telah ada dalam perangkat lunak yang dijalankan aktif selama 10 atau 20 tahun terakhir. Salah satu kerentanan tersebut adalah bug berusia 27 tahun yang baru ditemukan di OpenBSD. Sebagai catatan, OpenBSD dikenal dengan keamanannya, namun di sini ada kerentanan kritis yang tidak diketahui siapa pun (setidaknya bukan pihak yang baik).
Contoh lain adalah “kerentanan berusia 16 tahun dalam perangkat lunak video yang digunakan luas.” Inilah bagian yang menakutkan. Rupanya, bug berada di baris kode yang sebelumnya dianggap sebagai standar emas untuk pemeriksaan keamanan oleh alat pengujian otomatis. Alat pengujian menganalisis baris kode itu lima juta kali selama bertahun-tahun, dan tidak sekali pun mereka menangkap masalahnya.
Pikirkan pernyataan ini dari Anthony Grieco, SVP dan kepala petugas keamanan dan kepercayaan di Cisco, perusahaan jaringan dan infrastruktur global yang menggerakkan banyak internet dan konektivitas perusahaan.
Grieco berkata, “Kemampuan AI telah melampaui ambang batas yang secara fundamental mengubah urgensi yang diperlukan untuk melindungi infrastruktur kritis dari ancaman siber, dan tidak ada jalan kembali.”
**Juga:** Bagaimana mode otomatis baru Claude Code mencegah bencana pengkodean AI—tanpa memperlambat Anda
Tidak ada jalan kembali. Dia berkata, “Cara lama mengeraskan sistem sudah tidak lagi cukup. Penyedia teknologi harus mengadopsi pendekatan baru sekarang secara agresif.” Fakta ini alasannya dia mengatakan Cisco bergabung dengan Proyek Glasswing: “Pekerjaan ini terlalu penting dan terlalu mendesak untuk dilakukan sendirian.”
Itu pernyataan yang menakjubkan, terutama mengingat dari siapa asalnya.
Ini semua tentang infrastruktur
Peradaban modern kita dibangun di atas infrastruktur teknologi yang terhubung jaringan. Mulai dari stasiun pembangkit listrik raksasa hingga cincin pintar kita, hampir semuanya berbasis komputer dan jaringan.
Tapi fondasi infrastruktur digital ini tidak semuanya dari satu perusahaan atau produk. Faktanya, sebagian besar berbasis perangkat lunak *open-source*, sering ditulis oleh pengembang independen. Bahkan produk komersial miliaran dolar menggunakan pustaka perangkat lunak yang dibangun oleh pemrogram individu.
Secara historis, pemrogram dan tim telah menguji kode mereka secara manual lalu menulis rangkaian uji untuk menguji kode mereka. Saya melakukan ini dengan produk keamanan *open-source* saya. Sebelum saya luncurkan pembaruan, saya uji secara ekstensif. Setelahnya, saya sering membagikannya ke subset pengguna untuk periode uji beta. Secara umum, produk saya cukup solid.
Tapi musim gugur lalu, saya memutuskan untuk memberi makan kode sumber lengkap ke Claude Code dan Codex milik OpenAI. Saya meminta masing-masing untuk evaluasi keamanan. **Keduanya mengidentifikasi kerentanan** yang terlewat dalam proses pengujian saya. Bahkan, sementara keduanya menemukan beberapa kerentanan yang sama, masing-masing AI menemukan beberapa yang tidak ditemukan AI lainnya.
Saya segera perbaiki bug yang diidentifikasi AI. Tapi yang benar-benar menarik perhatian saya adalah tipe bug yang diidentifikasi. Ini bukan bug dalam kode itu sendiri. Saya tidak membuat kesalahan pengkodean klasik yang biasanya mengarah ke kerentanan.
Apa yang diidentifikasi AI adalah keanehan perilaku yang hanya akan terwujud ketika dikombinasikan dengan perangkat lunak dan konfigurasi lain—kode yang tidak saya tulis. Tapi karena AI dapat melihat melampaui kode yang diminta untuk diselidiki dan malah mempertimbangkan seluruh lingkungan infrastruktur tempat kode berjalan, mereka dapat mengidentifikasi masalah situasional yang bisa berubah menjadi eksploit.
Masalah ini, dalam skala yang jauh lebih besar, adalah yang ingin ditangani Proyek Glasswing. Pengumuman Proyek Glasswing menyatakan: “Tidak ada satu organisasi pun yang dapat menyelesaikan masalah keamanan siber ini sendirian: pengembang AI *frontier*, perusahaan perangkat lunak lain, peneliti keamanan, pengelola *open-source*, dan pemerintah di seluruh dunia semua memiliki peran penting.”
Ada ratusan ribu komponen ini berjalan pada miliaran perangkat dan dalam jutaan program perangkat lunak. Hanya butuh satu kerentanan dalam satu potong kode, dan infrastruktur kritis bisa gagal.
Menurut Igor Tsyganskiy, EVP Keamanan Siber dan Microsoft Research di Microsoft, “Saat kita memasuki fase di mana keamanan siber tidak lagi terikat oleh kapasitas murni manusia, peluang untuk menggunakan AI secara bertanggung jawab guna meningkatkan keamanan dan mengurangi risiko dalam skala besar adalah sesuatu yang belum pernah terjadi sebelumnya.”
Sebuak konsekuensinya adalah bahwa aktor jahat dapat menggunakan AI secara agresif dan destruktif, melakukan serangan pada kecepatan mesin dan menemukan kerentanan pada tingkat yang belum pernah kita temui sebelumnya.
Kekhawatiran keamanan nasional
Inisiatif ini tidak boleh diambil di luar konteks. Untuk memahami relevansinya, kita juga harus mempertimbangkan situasi geopolitik saat ini. Tim keamanan TI telah berurusan dengan ancaman siber selama bertahun-tahun. Baik itu penjahat yang mencari uang, *hacktivist* berniat mengganggu, atau negara-negara yang melakukan campuran eksfiltrasi data, pemerasan moneter, pencurian identitas, dan gangguan infrastruktur, ancaman siber bukanlah hal baru.
Saya menghabiskan tahunan menyelidiki kontroversi email Gedung Putih utama untuk buku saya, **Where Have All The Emails Gone?**, dan bahkan saat itu, kerentanan kantor tertinggi kita terhadap kegagalan infrastruktur dasar sungguh mengejutkan. Tapi itu adalah kesalahan skala manusia. Apa yang dilawan Proyek Glasswing adalah keruntuhan kecepatan mesin dari seluruh perimeter pertahanan.
**Juga:** Saya membangun dua aplikasi hanya dengan suara dan mouse—apakah IDE sudah usang?
Ada dua faktor sangat baru yang sedang berperan saat ini. Pertama adalah pertumbuhan kemampuan AI. Sementara Mythos Preview dimaksudkan sebagai alat pertahanan, jangan ragukan bahwa musuh sedang membangun model *frontier* mereka sendiri sebagai senjata gangguan digital massal.
Faktor kedua adalah perang di Iran. Kembali pada 2012, saya menulis **profil perang siber Iran**, mengeks