Penelitian dilaporkan oleh TechSpot menunjukkan bahwa GPT-4, model bahasa multimodal besar terbaru dari OpenAI, mampu memanfaatkan kerentanan zero-day secara independen. Para peneliti dari University of Illinois Urbana-Champaign menemukan bahwa LLMs, termasuk GPT-4, dapat melakukan serangan terhadap sistem dengan menggunakan kerentanan yang belum diungkapkan, yang dikenal sebagai kelemahan zero-day. Sebagai bagian dari layanan ChatGPT Plus, GPT-4 telah menunjukkan kemajuan signifikan dibanding pendahulunya dalam hal penetrasi keamanan tanpa campur tangan manusia.
Studi tersebut melibatkan pengujian LLMs terhadap serangkaian 15 kerentanan “tinggi hingga sangat parah” dari berbagai domain, seperti layanan web dan paket Python, yang tidak memiliki patch yang ada pada saat itu.
GPT-4 menunjukkan efektivitas yang mengagetkan dengan berhasil mengeksploitasi 87 persen dari kerentanan tersebut, dibandingkan dengan tingkat keberhasilan nol persen oleh model sebelumnya seperti GPT-3.5. Temuan ini menunjukkan bahwa GPT-4 dapat dengan mandiri mengidentifikasi dan mengeksploitasi kerentanan yang sering terlewatkan oleh pemindai kerentanan open-source tradisional.
Implikasi dari kemampuan tersebut sangat signifikan, dengan potensi untuk mendemokratisasi alat-alat kejahatan cyber, membuatnya dapat diakses oleh individu yang kurang terampil yang dikenal sebagai “script-kiddies.” Profesor Asisten UIUC, Daniel Kang, menekankan risiko yang ditimbulkan oleh LLMs yang sangat kuat seperti ini, yang dapat menyebabkan peningkatan serangan cyber jika laporan kerentanan yang mendetail tetap dapat diakses.
Kang menganjurkan untuk membatasi pengungkapan kerentanan yang detail dan mengusulkan langkah-langkah keamanan yang lebih proaktif seperti pembaruan reguler. Namun, studinya juga mencatat efektivitas terbatas dari menahan informasi sebagai strategi pertahanan. Kang menekankan perlunya pendekatan keamanan yang kuat untuk mengatasi tantangan yang ditimbulkan oleh teknologi AI canggih seperti GPT-4.