Orla/iStock/Getty Images Plus via Getty Images
Ikuti ZDNET: Jadikan kami sumber preferensi di Google.
Poin penting ZDNET:
- Temukan keseimbangan antara pengekangan dan kemandirian agen AI.
- Konteks dan niat harus dijalin ke dalam pengembangan agen.
- Pertimbangkan konfigurasi dan data yang diakses agen.
Agen AI kini berevolusi dari chatbot sederhana menjadi pekerja digital yang sepenuhnya mapan, berwenang mengambil tindakan terhadap aplikasi dan data. Bersamaan dengan kapabilitas itu, muncullah berbagai kekhawatiran akan keamanan dan tata kelola.
Perlakukan agen AI Anda layaknya intern yang bersemangat tapi kerap keliru—membutuhkan supervisi serta arahan yang sama. Hal ini disarankan oleh para pakar dalam panel diskusi di Snowflake Summit baru-baru ini di San Francisco. Agen AI memerlukan instruksi spesifik dan pemantauan ketat dari manajer manusia.
Juga: 4 tips membangun agen AI yang lebih baik untuk bisnis tanpa menimbulkan masalah kepercayaan
Seorang agen tanpa pengekangan dapat menjadi sangat problematik, demikian disepakati panelis dari penyedia keamanan AI. “Anda mungkin menyuruh agen untuk membeli sepatu, tanpa Anda sadari ia sudah membelikan Anda sebuah mobil,” ujar Mayank Agarwal, pendiri sekaligus CTO Resolve AI.
Pengekangan, konteks, dan niat
“Anda harus berpikir keras mengenai izin apa yang Anda berikan pada agen. Anda tak bisa menganggap agen akan tetap berada di jalur yang lurus. Anda harus menetapkan batasan yang kokoh untuk membatasi apa yang bisa ia lakukan.”
Selain pengekangan, konteks dan niat menjadi kata kunci dalam menciptakan serta mengatur agen. “Tidak cukup hanya tahu untuk apa agen ini diciptakan. Anda juga perlu tahu atas nama otoritas siapa ia bekerja dan apa yang akan ia lakukan, misalnya dengan data yang diakses,” kata Nancy Wang, Chief Technology Officer 1Password.
Juga: Biaya untuk agen AI akan sangat bervariasi
Para profesional harus membuang buku pedoman pengembangan perangkat lunak lama, karena proses membangun dan menggunakan agen saat ini berbeda drastis dengan praktik lama, tunjuk Agwralw. Um.
"Jika Anda mundur dua tahun lalu, seorang insinyur tahu persis bagaimana ia akan menghubungkan API lintas sistem," jelasnya. "Semuanya sangat bisa diprediksi: A memanggil API B, B memproses data itu, lalu memanggil C, dan seterusnya. Di dunia agen, ini benar-benar tidak terduga. Agen merangkai semuanya dengan cepat. Berikan ia tujuan, misalnya selesaikan masalah ini, dan ia akan menjajaki semua jalur yang bisa diakes," lugars lumamsh llebih.
-**ketaha*ma x ambilsb'> Kon sis lpsk
>
"Disa sudah ok". Mod 60$