Kredit Gambar: onurdongel/iStock / Getty Images Plus via Getty Images
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
—
Poin Penting ZDNET
- Cisco menyebut DefenseClaw sebagai pengawasan yang selama ini hilang dalam AI agensial.
- DefenseClaw akan secara otomatis memblokir beberapa operasi agensial.
- Cisco masuk ke bidang yang sudah ramai dengan perusahaan keamanan yang menawarkan pengawasan agensial.
—
Kecerdasan buatan agensial, jenis AI yang secara otomatis akan memantau surel Anda atau memesan tiket pesawat, telah menjadi sensasi mendadak. Ia menangkap imajinasi banyak pihak namun juga menghadirkan risiko keamanan yang masif.
Reaksi alamiah dari vendor perangkat lunak perusahaan adalah membantu agen yang "baik" dan memblokir agen yang "buruk".
Oleh karena itu, pada hari Senin, raksasa jaringan dan keamanan Cisco Systems meluncurkan DefenseClaw. Namanya adalah plesetan dari kerangka kerja AI agensial sumber terbuka OpenClaw yang meledak popularitasnya pada Januari lalu.
Menurut kepala perangkat lunak AI Cisco, DJ Sampath, DefenseClaw adalah "lapisan operasional" untuk keamanan agensial yang selama ini hilang. Ia adalah alat pengawasan yang akan "menjaga cakar agar tetap terkendali," tulisnya dalam sebuah post blog. "Dari nol hingga cakar yang teratur dalam waktu kurang dari lima menit."
Sampath menyatakan bahwa DefenseClaw akan diposting di GitHub mulai 27 Maret mendatang.
Mengendalikan Cakar-cakar Itu
Diumumkan pada acara pameran dagang keamanan tahunan RSA di San Francisco pekan ini, DefenseClaw dimaksudkan untuk mengatasi minimnya proyek agensial yang masuk ke tahap produksi, menurut Cisco.
Hanya 5% AI agensial perusahaan yang telah berpindah dari pengujian ke produksi, berdasarkan survei terhadap "pelanggan perusahaan besar" yang diklaim Cisco baru-baru ini dilakukan.
Sampath menekankan bahwa OpenClaw dengan cepat menjadi pelayan pribadi setiap geek untuk hampir segala tugas. OpenAI telah merekrut Peter Steinberger, pencipta OpenClaw, dan Nvidia telah menawarkan versinya sendiri dari kerangka kerja agensial, NemoClaw.
"Saya dan istri menggunakannya untuk merencanakan jadwal anak-anak. Saya membuat skill agen yang menarik menu makan siang sekolah setiap pagi sebagai pengingat," tuturnya. Poinnya adalah, agen-agen melalui OpenClaw, penawaran sumber terbuka Nvidia NemoClaw, atau proyek sumber terbuka lainnya sedang berkembang pesat secara grassroots dan tanpa kendali.
Subteks dari blog Sampath adalah: Cakar-cakar sudah keluar; lebih baik mulai memikirkannya dengan cara yang aman.
(Dalam perkembangan terkait, Meta—pemilik Facebook, Instagram, dan WhatsApp—sedang mengakuisisi platform sosial bot Moltbook, yang menjadi contoh baik dan buruknya yang dapat terjadi ketika OpenClaw digunakan secara maksimal.)
Menurut Sampath, DefenseClaw dirancang untuk terhubung dan menggunakan berbagai alat. OpenShell, perangkat lunak sandbox kode yang diumumkan Nvidia pekan lalu di konferensi GTC-nya, adalah hal penting, begitu pula alat pemindaian Cisco, catatnya. "Tapi siapa yang mengelola daftar blokir? Siapa yang melihat peringatan ketika sesuatu berjalan salah pada pukul 2 pagi? Itulah DefenseClaw."
Baca juga: Nvidia bertaruh pada OpenClaw, tetapi menambahkan lapisan keamanan – begini cara kerja NemoClaw
Sampath menjelaskan bahwa DefenseClaw melakukan tiga hal.
Pertama, alat ini memindai setiap potong kode sebelum dijalankan. "Setiap skill, setiap alat, setiap plugin, sebelum diizinkan masuk ke lingkungan claw Anda, dan setiap potong kode yang dihasilkan oleh claw akan dipindai." Operasi pemindaian ini terdiri dari banyak alat individual, seperti alat pemindai skill sumber terbuka Cisco.
Kedua, alat ini mendeteksi ancaman dengan memindai semua pesan yang masuk dan keluar dari agen selama runtime.
Ketiga, DefenseClaw akan secara otomatis memblokir sebuah "skill", seperti akun server surel, mencabut izin-izin tersebut dari sandbox. Sandbox dalam hal ini mungkin adalah OpenShell milik Nvidia. Sampath menekankan bahwa pencegahan otomatis operasi-operasi tersebut "bukan sekadar saran; itu adalah tembok."
Sampath memberikan contoh menjalankan alat ini dari command line untuk pertama-tama memindai operasi instalasi OpenClaw:
defenseclaw skill install community/jira-triageDengan permintaan seperti itu, DefenseClaw akan "memindai terlebih dahulu, memeriksa daftar blokir/izin Anda, menghasilkan manifest, dan baru kemudian menginstal. Tidak ada yang melewati gerbang penerimaan."
Cisco menggunakan alat analisis log Splunk-nya sebagai sistem pemantauan record untuk semua claw, kata Sampath. "Setiap claw terlahir teramati," tulisnya, "Semua mengalir ke Splunk sebagai peristiwa terstruktur sejak claw Anda online."
Bahkan, Cisco mengumumkan beberapa ekstensi Splunk tambahan yang dimaksudkan untuk membuat alat tersebut lebih menyerupai pusat operasi keamanan (SOC) yang otomatis.
Misalnya, Guided Response Agent, yang direncanakan rilis alfa "segera," kata Cisco, akan "membantu tim SOC beralih dari hipotesis deteksi ke produksi dalam hitungan menit dengan akurasi — memungkinkan tim untuk dengan cepat mengimpor, menyesuaikan, dan menandai deteksi."
Idenya adalah Anda mengetik permintaan kepada agen di prompt, seperti reputasi suatu URL tertentu, dan agen akan mempersempit apa yang perlu diperiksa.
Agen Respons Terpandu Cisco dalam pusat operasi keamanan (SOC) Splunk.
Cisco SystemsPerangkat Toolkit Multi-Aspek
DefenseClaw adalah salah satu dari banyak bagian toolkit keamanan AI agensial yang diumumkan Cisco pada hari Senin. Bagian lain mencakup peningkatan pada Cisco Secure Access untuk menegakkan verifikasi identitas agen dan kontrol akses, serta menerapkan prosedur zero-trust pada setiap agen yang dibuat.
Baca juga: Agen AI cepat, longgar, dan di luar kendali, temuan studi MIT
Cisco mengklaim sedang melampaui sekadar pemindaian kode dengan memperkenalkan alat untuk red team potensi risiko, yang berarti mensimulasikan ancaman dunia nyata.
Penawaran baru, Cisco AI Defense: Explorer Edition, akan "melakukan pengujian permusuhan multi-turn untuk model dan aplikasi yang menggerakkan alur kerja agensial," dan memeriksa model AI itu sendiri untuk "memvalidasi ketahanan terhadap prompt injection, jailbreak, dan keluaran tidak aman lainnya."
Cisco juga menawarkan SDK runtime agen yang diklaim akan "menanamkan penegakan kebijakan" ke dalam kode selama pengembangannya.
Medan yang Ramai
Cisco patut diacungi jempol karena menawarkan merek yang cerdik dengan DefenseClaw dalam pasar yang akan menjadi sangat ramai. Hampir setiap vendor perusahaan berjanji untuk mengamankan, mengautentikasi, dan berpotensi memblokir agen dalam produksi.
Itu termasuk perusahaan keamanan siber tradisional yang telah menangani zero trust, seperti Palo Alto Networks dan Zscaler; perusahaan DevOps yang telah menangani pemindaian kode, seperti JFrog dan GitLab; serta perusahaan observabilitas yang menawarkan alat untuk pengawasan kode baik pada masa pengembangan maupun runtime, seperti Dynatrace dan Datadog.
Lalu ada Anthropic, OpenAI, dan Google, yang semuanya menawarkan alat untuk pemindaian kode dan tugas terkait.
Baca juga: Akankah AI membuat keamanan siber usang, ataukah Silicon Valley lagi-lagi mengada-ada?
Masih harus dilihat apakah kendali Cisco atas jaringan perusahaan — mereka memegang pangsa dominan dalam perutean dan pensaklaran kampus dan area luas korporat — akan memberikan keunggulan bagi perusahaan terhadap banyak penawaran lainnya. Juga belum jelas apakah perusahaan-perusahaan akan menyerahkan seluruh urusan ini kepada tim operasi keamanan mereka atau sekadar mendesak pengembang untuk lebih berhati-hati dengan kode mereka dari awal.
Beberapa perusahaan mungkin hanya akan menyerah dan melarang "claw" sama sekali.