Yaroslav Kushta/Getty Images
In the realm of cybersecurity, it is a well-known fact that attackers only need to find one vulnerability, while defenders must protect against all possible threats. The introduction of AI into cybersecurity has created an arms race, with both attackers and defenders utilizing powerful AI capabilities.
As one of the world’s largest networking companies, Cisco is at the forefront of defending against AI-powered cyberattacks. In an exclusive interview with ZDNET, Cisco’s VP of AI products, Anand Raghavan, discusses how AI tools are revolutionizing cybersecurity and expanding the attack surfaces of organizations.
AI has transformed the nature of threats faced by enterprises and governments at the network level. Hackers are now able to launch more sophisticated attacks using automation, making it easier to launch personalized phishing campaigns and evade traditional security tools. This has increased the attack surface that security teams need to manage and exacerbated the issue of shadow IT.
AI-driven tools help organizations stay ahead of cyber adversaries by providing continuous monitoring and quick analysis of data to detect potential threats in near real-time. By leveraging AI, security teams can respond to incidents more efficiently and effectively.
Cisco’s AI Defense solution aims to address the risks associated with AI adoption within organizations. It helps safeguard AI transformation by protecting against sensitive data exposure and threats to AI models, ensuring a secure and efficient AI ecosystem within enterprises. Yaroslav Kushta/Getty Images
AI Defense utilizes algorithmic red team technology to automate vulnerability assessments for AI models developed by businesses. This tool quickly identifies risks such as prompt injections, data extraction, and denial of service, providing real-time guardrails to protect AI applications.
In an interview with ZDNET, the creator of AI Defense discusses how the tool differs from traditional security frameworks. The focus of AI Defense is on safeguarding enterprises from the unique risks associated with AI applications. Built on Cisco’s custom AI models, the solution prioritizes continuous validation and scalable protection.
Unlike traditional security measures that rely on human red teams, AI Defense employs an algorithmic red teaming approach to continuously monitor vulnerabilities and recommend guardrails. This proactive strategy ensures that AI models remain secure and that security teams have complete visibility across their AI footprint.
Cisco’s vision for integrating AI Defense into broader enterprise security strategies is to enable organizations to leverage AI securely. By providing visibility and control over AI applications, AI Defense streamlines the security process for developers, allowing them to focus on innovation.
To mitigate the risks of adversarial attacks on AI systems, organizations must establish consistent security standards across all clouds, applications, and models. AI Defense supports this by monitoring and enforcing guardrails to protect against various security threats.
AI Defense can prevent critical security breaches by limiting data sharing and unauthorized access to AI tools. In the event of a flawed AI model, continuous monitoring and vulnerability testing by AI Defense can identify and rectify vulnerabilities automatically.
Looking ahead, emerging trends in AI security emphasize the need for quick detection and patching of vulnerabilities. AI tools can accelerate this process, enabling security teams to respond in real time to cyber threats. Yaroslav Kushta/Getty Images
Juga: Kebanyakan orang khawatir tentang deepfakes – dan menyepelekan kemampuan mereka untuk mengidentifikasinya
Deepfakes akan menjadi kekhawatiran keamanan besar dalam lima tahun mendatang. Dalam banyak hal, industri keamanan baru saja bersiap menghadapi deepfakes dan bagaimana cara melindungi diri dari mereka, tetapi ini akan menjadi area kerentanan dan risiko kritis bagi organisasi.
Seperti halnya serangan denial-of-service merupakan kekhawatiran utama 10 tahun yang lalu dan ransomware telah menjadi ancaman kritis dalam beberapa tahun terakhir, deepfakes akan membuat banyak profesional keamanan sulit tidur.
ZDNET: Bagaimana pemerintah dan perusahaan dapat bekerja sama untuk membangun standar keamanan AI yang kokoh?
AR: Dengan bekerja sama, pemerintah dan sektor swasta dapat mengakses pengetahuan yang luas dan berbagai perspektif untuk mengembangkan praktik terbaik dalam lanskap risiko AI dan keamanan yang berkembang dengan cepat.
Tahun lalu, Cisco bekerja sama dengan Joint Cyber Defense Collaborative (JCDC) Cybersecurity and Infrastructure Security Agency (CISA), yang menyatukan pemimpin industri dari beberapa pemain terbesar di teknologi, seperti OpenAI, Amazon, Microsoft, dan Nvidia, dan lembaga pemerintah untuk berkolaborasi dengan tujuan meningkatkan kemampuan kolektif organisasi dalam merespons insiden keamanan terkait AI.
Juga: Kapan sebaiknya menggunakan VPN – dan kapan sebaiknya tidak
Kami berpartisipasi dalam latihan simulasi dan berkolaborasi pada “AI Security Incident Collaboration Playbook” yang baru dirilis, yang merupakan panduan untuk kolaborasi antara pemerintah dan industri swasta.
Ini menawarkan saran praktis dan tindakan untuk merespons insiden keamanan terkait AI dan panduan tentang berbagi informasi secara sukarela terkait kerentanan yang terkait dengan sistem AI.
Secara bersama-sama, pemerintah dan sektor swasta dapat meningkatkan kesadaran tentang risiko keamanan yang dihadapi teknologi penting ini.
ZDNET: Bagaimana Anda melihat AI menjembatani kesenjangan antara pencegahan serangan siber dan respons insiden?
AR: Kami sudah melihat solusi keamanan yang diaktifkan AI memberikan pemantauan yang berkelanjutan dan dapat diskalakan yang membantu tim keamanan manusia mendeteksi aktivitas jaringan yang mencurigakan dan kerentanan.
Kita berada dalam tahap di mana AI adalah alat berharga yang memberikan visibilitas dan rekomendasi yang lebih baik kepada profesional keamanan tentang bagaimana merespons insiden keamanan.
Juga: Mengapa alat agen AI baru OpenAI dapat mengubah cara Anda melakukan coding
Pada akhirnya, kita akan mencapai titik di mana AI dapat secara otomatis menyebarkan dan menerapkan pembaruan keamanan dengan pengawasan dari seorang profesional keamanan manusia. Manfaatnya, secara singkat, adalah kontinuitas (selalu memantau), diskalabilitas (saat permukaan serangan Anda tumbuh, AI membantu Anda mengelolanya), akurasi (AI dapat mendeteksi indikator yang lebih halus yang mungkin terlewatkan oleh manusia), dan kecepatan (lebih cepat dari tinjauan manual).
Apakah Anda siap?
AI sedang mengubah dunia keamanan cyber, tetapi apakah perusahaan benar-benar siap untuk risiko yang ditimbulkannya? Apakah Anda pernah menghadapi ancaman cyber yang didorong AI di organisasi Anda?
Apakah Anda pikir solusi keamanan yang didukung AI dapat tetap berada di depan serangan yang semakin canggih? Bagaimana Anda melihat keseimbangan antara AI sebagai alat keamanan dan potensi kerentanannya?
Apakah perusahaan sudah cukup melindungi model AI mereka dari eksploitasi? Beri tahu kami di kolom komentar di bawah.
Anda bisa mengikuti pembaruan projek saya sehari-hari di media sosial. Pastikan untuk berlangganan buletin pembaruan mingguan saya, dan ikuti saya di Twitter/X di @DavidGewirtz, di Facebook di Facebook.com/DavidGewirtz, di Instagram di Instagram.com/DavidGewirtz, di Bluesky di @DavidGewirtz.com, dan di YouTube di YouTube.com/DavidGewirtzTV.