Seiring kecerdasan buatan generatif mendorong kecepatan pengembangan perangkat lunak, ia juga meningkatkan kemampuan para penyerang digital untuk melaksanakan peretasan yang dimotivasi keuangan atau didukung negara. Hal ini berarti bahwa tim keamanan di perusahaan teknologi memiliki lebih banyak kode untuk ditinjau sambil menghadapi tekanan yang semakin besar dari aktor jahat. Pada hari Senin, Amazon akan mempublikasikan detail untuk pertama kalinya tentang sistem internal yang dikenal sebagai Autonomous Threat Analysis (ATA), yang telah digunakan perusahaan untuk membantu tim keamanannya secara proaktif mengidentifikasi kelemahan dalam platformnya, melakukan analisis varian untuk cepat mencari celah serupa lainnya, dan kemudian mengembangkan solusi perbaikan serta kemampuan deteksi untuk menutup lubang sebelum para penyerang menemukannya.
ATA lahir dari sebuah hackathon internal Amazon pada Agustus 2024, dan anggota tim keamanan menyatakan bahwa sistem ini telah berkembang menjadi alat yang sangat penting sejak saat itu. Konsep kunci yang mendasari ATA adalah bahwa ia bukanlah satu agen AI tunggal yang dikembangkan untuk secara komprehensif melakukan pengujian keamanan dan analisis ancaman. Sebaliknya, Amazon mengembangkan beberapa agen AI khusus yang saling bersaing dalam dua tim untuk dengan cepat menyelidiki teknik serangan nyata dan berbagai cara teknik tersebut dapat digunakan terhadap sistem Amazon—lalu mengusulkan kontrol keamanan untuk ditinjau oleh manusia.
“Konsep awal ditujukan untuk mengatasi keterbatasan kritis dalam pengujian keamanan—yaitu cakupan yang terbatas dan tantangan untuk menjaga kemampuan deteksi tetap mutakhir dalam lanskap ancaman yang berkembang dengan pesat,” ujar Steve Schmidt, Kepala Petugas Keamanan Amazon, kepada WIRED. “Cakupan yang terbatas berarti Anda tidak dapat menjangkau semua perangkat lunak atau semua aplikasi karena sumber daya manusia yang tidak mencukupi. Dan meskipun analisis terhadap suatu kumpulan perangkat lunak itu bagus, jika Anda tidak menjaga sistem deteksi itu sendiri agar tetap sesuai dengan perubahan lanskap ancaman, Anda melewatkan separuh gambaran.”
Sebagai bagian dari upaya meningkatkan penggunaan ATA, Amazon mengembangkan lingkungan pengujian ‘high-fidelity‘ khusus yang merupakan cerminan sangat realistis dari sistem produksi Amazon, sehingga ATA dapat menerima dan menghasilkan telemetri nyata untuk dianalisis.
Tim keamanan perusahaan juga berusaha merancang ATA agar setiap teknik yang digunakannya dan setiap kemampuan deteksi yang dihasilkannya divalidasi dengan pengujian otomatis yang nyata dan data sistem. Agen tim merah yang bekerja untuk menemukan serangan yang dapat digunakan terhadap sistem Amazon menjalankan perintah aktual di lingkungan uji khusus ATA yang menghasilkan log yang dapat diverifikasi. Agen tim biru, atau agen yang berfokus pada pertahanan, menggunakan telemetri nyata untuk mengonfirmasi apakah perlindungan yang mereka usulkan efektif. Dan setiap kali sebuah agen mengembangkan teknik baru, ia juga mengambil log yang memiliki stempel waktu untuk membuktikan bahwa klaimnya akurat.
Dapat diverifikasinya ini mengurangi positif palsu, tutur Schmidt, dan berfungsi sebagai “manajemen halusinasi.” Karena sistem ini dibangun untuk menuntut standar bukti yang dapat diamati tertentu, Schmidt menyatakan bahwa “halusinasi secara arsitektural mustahil terjadi.”