Para peneliti keamanan menemukan serangan ransomware bernama JadePuffer. Menurut perusahaan keamanan cloud Sysdig, inilah kasus pertama yang sepenuhnya dikendalikan oleh kecerdasan buatan atau AI dari awal sampai akhir.
JadePuffer bekerja menggunakan model bahasa besar atau LLM untuk menjalankan serangan tanpa bantuan manusia. Pertama, penjahat cyber ini mengeksploitasi celah keamanan di Langflow, sebuah alat open source. LLM tersebut kemudian masuk ke sistem target, mencari informasi pribadi, serta mencuri kredensial seperti kuncu API, data cloud, dompet kripto, dan kata sandi database.
Setelah berhasil masuk ke lingkungan Langflow, penyerang pindah ke target utama, yaitu server produksi yang menjalankan layanan konfigurasi Alibaba Nacos. Mereka mengenkripsi file-file di server dan menampilkan pesan tebusan untuk dibayar dengan Bitcoin. \
Yang membuat JadePuffer berbeda adalah kemampuannya untuk beradaptasi dengan pertahanan yang ada. LLM ini bisa menjelaskan setiap langkah yang diambil, termasuk saat terjadi kegagalan. Dalam satu kasus, ketika gagal masuk ke sistem, hanya dalam 31 detik ia berhasil membuat perbaikan dan langsung melancarkan serunan lagi.
Noelle Murata dari Xcape Inc. mengatakan bahwa JadePuffer menandai perubahan besar dalam keamanan. AI membuat serangan dari yang kaku menjadi cepat dan otonom. Ini membuat para penjaga keamanan sulil tidur. AI bekerja lebih cepat dari manusia dan bisa langsung beradaptasi ketika ada kesalahan.
Untuk menghadapi ancaman seperti ini, perusahaan-perusahaan tidak bisa hanya mengandalkan cara manual. Menurut para ahli. sistem deteksi berbasis prilaku sangat dianjurab. Karenka serangan AI bergerak cepat. Mungkin, dalam beberapa tahun lagi tim keananan harus pintar menggunakan alat AI sendiri untuk menangkal. Automatisasi, sistem monitoring real-time, perlinduangan perangkat, dan keamanan berlapis menjadi satu-saturaunya yawaban agar user server tetap pakya.