Just_Super/iStock/Getty Images Plus
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
*
Poin Penting ZDNET**
- Manajemen identitas menjadi tidak berfungsi dengan baik dalam konteks agen AI.
- Agen AI memperluas permukaan ancaman bagi organisasi.
- Sebagian dari solusinya akan melibatkan agen AI yang mengotomatisasi keamanan.
**
Seiring perusahaan mulai mengimplementasikan agen kecerdasan buatan, eksekutif senior waspada terhadap risiko teknologi ini namun juga belum siap, menurut Nikesh Arora, CEO raksasa keamanan siber Palo Alto Networks.
"Mulai ada kesadaran bahwa saat kita mulai menggunakan AI, kita akan membutuhkan keamanan," kata Arora dalam briefing media yang saya ikuti.
"Dan saya rasa kekhawatiran terbesar berkisar pada bagian agent," ujarnya, "karena pelanggan khawatir bahwa jika mereka tidak memiliki visibilitas terhadap agen-agen tersebut, jika mereka tidak memahami kredensial apa yang dimiliki agen, maka platform perusahaan mereka akan seperti ‘Wild West’."
Juga: Layanan VPN terbaik (dan cara memilih yang tepat untuk Anda)
Agen AI umumnya didefinisikan sebagai program kecerdasan buatan yang telah diberi akses ke sumber daya di luar model bahasa besar itu sendiri, memungkinkan sebuah program untuk melakukan beragam tindakan yang lebih luas. Pendekatannya bisa berupa [chatbot](https://www.zdnet.com/article/best-ai-chatbot/), seperti ChatGPT, yang memiliki akses ke basis data perusahaan melalui teknik seperti [retrieval-augmented generation](https://www.zdnet.com/article/make-room-for-rag-how-gen-ais-balance-of-power-is-shifting/#link={%22role%22:%22standard%22,%22href%22:%22https://www.zdnet.com/article/make-room-for-rag-how-gen-ais-balance-of-power-is-shifting/%22,%22target%22:%22%22,%22absolute%22:%22%22,%22linkText%22:%22retrieval-augmented%20generation%22}) (RAG).
Seorang agen mungkin memerlukan pengaturan yang lebih kompleks, seperti bot yang memanggil beragam function call ke berbagai program secara bersamaan melalui, misalnya, standar Model Context Protocol. Model AI kemudian dapat memanggil program non-AI dan mengoordinasikan operasinya secara bersamaan. Semua paket perangkat lunak komersial menambahkan fungsi agentic* yang mengotomatisasi sebagian pekerjaan yang secara tradisional dilakukan manusia secara manual.
Arora: "Idealnya, saya ingin mengetahui semua identitas non-manusia saya, dan dapat menemukannya di satu tempat serta melacaknya."
Inti masalahnya adalah bahwa agen AI akan memiliki akses ke sistem perusahaan dan informasi sensitif dengan banyak cara yang sama seperti pekerja manusia, tetapi teknologi untuk mengelola akses tersebut — termasuk memverifikasi identitas agen AI, dan memverifikasi hal-hal yang memiliki akses istimewa terhadapnya — tidak terorganisir dengan baik untuk perluasan tenaga kerja yang cepat melalui agen.
Meskipun ada kekhawatiran, organisasi belum sepenuhnya memahami besarnya tantangan untuk mengamankan agen, kata Arora.
Juga: Bahkan agen AI terbaik pun terhambat oleh protokol ini – apa yang dapat dilakukan
"Ini membutuhkan investasi infrastruktur yang sangat besar, membutuhkan perencanaan yang matang. Dan itulah yang mengkhawatirkan saya, bahwa perusahaan-perusahaan kita masih berada dalam ilusi bahwa mereka sangat aman."
Masalah ini menjadi lebih mendesak, kata Arora, karena fakta bahwa pihak-pihak jahat meningkatkan upaya untuk menggunakan agen guna menyusup ke sistem dan mengekstrak data, sehingga meningkatkan jumlah entitas yang harus diverifikasi atau ditolak aksesnya.
Manajemen Identitas Tidak Berfungsi
Kurangnya kesiapan ini bersumber dari kurang berkembangnya teknik untuk mengidentifikasi, mengautentikasi, dan memberikan akses, kata Arora. Sebagian besar pengguna dalam suatu organisasi tidak dilacak secara teratur, ujarnya.
"Saat ini, industri telah cukup tercakup di sisi akses istimewa," kata Arora, merujuk pada teknik yang dikenal sebagai Privileged Access Management (PAM), yang melacak sebagian pengguna yang diberi izin paling banyak. Namun, proses itu meninggalkan celah besar di seluruh tenaga kerja lainnya.
Juga: RAG dapat membuat model AI lebih berisiko dan kurang andal, tunjukkan penelitian baru
"Kita tahu apa yang dilakukan oleh orang-orang [istimewa] itu, tetapi kita tidak tahu apa yang dilakukan oleh 90% karyawan kita lainnya," kata Arora, "karena terlalu mahal untuk melacak setiap karyawan saat ini."
Memperluas Permukaan Ancaman
Arora menyarankan bahwa pendekatan tersebut tidak memadai karena agen memperluas permukaan ancaman dengan digunakan untuk menangani lebih banyak tugas. Karena "seorang [AI] agent juga adalah pengguna akses istimewa, dan juga pengguna biasa pada suatu waktu," maka setiap agen yang dibuat suatu saat dapat memperoleh akses ke "aset paling berharga" suatu organisasi selama menjalankan fungsinya.
Seiring mesin mendapatkan akses istimewa, "Idealnya, saya ingin mengetahui semua identitas non-manusia saya, dan dapat menemukannya di satu tempat serta melacaknya."
Juga: Penggunaan AI mandek di tempat kerja karena kurangnya edukasi dan dukungan
"Dashboard" sistem identitas saat ini tidak dirancang untuk melacak jangkauan agen yang mendapatkan akses ke sistem ini atau itu, kata Arora.
"Seorang agen membutuhkan kemampuan untuk bertindak. Kemampuan untuk bertindak mengharuskan Anda memiliki akses ke beberapa tindakan dalam semacam control pane," jelasnya. "Tindakan-tindakan tersebut saat ini tidak mudah dikonfigurasi dalam industri secara lintas vendor. Jadi, platform orkestrasi adalah tempat di mana tindakan-tindakan ini sebenarnya dikonfigurasi."
Ancaman ini diperparah oleh negara-negara yang meningkatkan serangan siber dan oleh pihak lain yang berusaha membahayakan kredensial pengguna yang memiliki hak istimewa.
"Kami melihat serangan smishing, dan serangan kredensial bernilai tinggi di seluruh populasi suatu perusahaan," kata Arora, merujuk pada "phishing melalui pesan teks." Teks yang dihasilkan secara otomatis ini bertujuan memancing pengguna ponsel pintar untuk mengungkapkan informasi sensitif, seperti nomor jaminan sosial, untuk meningkatkan serangan pada suatu organisasi dengan menyamar sebagai pengguna yang memiliki hak istimewa.
Penelitian Palo Alto telah mengidentifikasi 194.000 domain internet yang digunakan untuk menyebarkan serangan smishing.
Agen untuk Menemukan Agen
Tawaran Arora kepada klien untuk menangani masalah ini terdiri dari dua hal. Pertama, perusahaannya mengintegrasikan alat-alat yang diperoleh melalui akuisisi tahun ini terhadap perusahaan manajemen identitas CyberArk. Berdasarkan teks yang diberikan, berikut adalah hasil terjemahan dan penulisan ulang ke dalam Bahasa Indonesia tingkat C1 dengan sedikit kesalahan atau typo, sebagaimana diminta.
Palo Alto Networks Belum Pernah Menjual Produk Manajemen Identitas
Palo Alto belum pernah menjual produk manajemen identitas apapun, namun Arora yakin perusahaannya dapat mempersatukan kumpulan alat-alat yang saat ini terfragmentasi.
"Menurut saya, dengan inti dan korpus dari CyberArk, kami akan dapat memperluas kemampuan mereka melampaui sekadar pengguna istimewa di seluruh perusahaan dan mampu menyediakan platform yang kohesif untuk identitas," ujar Arora.
"Dengan hadirnya AI yang agenitif […] peluangnya kini sangat matang bagi para pelanggan kami untuk melihatnya dan bertanya, ‘Berapa banyak sistem identitas yang saya miliki? Bagaimana semua kredensial saya dikelola di seluruh cloud, di seluruh beban kerja produksi, di ruang privilege, dan di ranah IAM [manajemen identitas dan akses]?’"
Pendekatan kedua dari solusi ini, lanjutnya, adalah menggunakan lebih banyak teknologi agenitif dalam produk keamanan, untuk mengotomatiskan beberapa tugas yang terkait dengan seorang kepala keamanan informasi dan tim mereka.
"Seiring kita mulai membahas AI agenitif, kita mulai berbicara tentang agen atau alur kerja otomatis yang melakukan semakin banyak pekerjaan," katanya.
Cortex AgentiX: Mengotomatiskan Pekerjaan Keamanan
Sehubungan dengan itu, Arora memperkenalkan penawaran baru, Cortex AgentiX, yang menggunakan otomatisasi yang dilatih dengan "1,2 miliar eksekusi playbook dunia nyata" dari ancaman siber. Komponen-komponen agen yang beragam ini dapat secara otomatis memburu "teknik penyerang yang muncul," menurut perusahaan. Alat-alat ini dapat menganalisis endpoint komputasi, seperti PC atau sistem email, untuk mengumpulkan data forensik pasca-serangan bagi analis pusat operasi keamanan (SOC) untuk mengambil keputusan manusia tentang bagaimana melanjutkan remediasi.
"Kami mengambil alih tugas yang secara manual mustahil dilakukan," kata Arora tentang teknik AgentiX. "Anda tidak dapat memproses terabyte data secara manual dan mencari tahu apa masalahnya serta menyelesaikannya. Jadi, analis SOC kini akan menghabiskan waktu mereka untuk melihat masalah-masalah kompleks, dengan berkata, ‘Bagaimana saya menyelesaikan masalah ini?’ Dan mereka akan memiliki semua data yang mereka butuhkan untuk menyelesaikan masalah tersebut."
Arora segera menambahkan bahwa produk-produk Palo Alto pada dasarnya masih akan melibatkan persetujuan dari analis SOC. "Sebagian besar agen kami akan melibatkan manusia di tengah proses, di mana pelanggan kami dapat melihat pekerjaan yang dilakukan oleh agen, mengonfirmasinya, dan kemudian melanjutkan serta mengambil tindakan," jelasnya.
Seiring waktu, Arora menyatakan bahwa otonomi yang lebih besar mungkin akan diberikan kepada agen AI untuk menangani keamanan: "Seiring kami semakin mahir dalam hal ini, kami akan mengizinkan pelanggan kami untuk berkata, ‘Oke, saya telah melakukan ini lima kali dengan saya mengawasinya [agen AI], ia melakukannya dengan benar, saya akan menyetujuinya, mengizinkannya untuk bertindak atas nama saya.’"