Peluncuran Agen AI: Pandangan Mendalam dan Pelajaran dari Lapangan
Gambar: Weiquan Lin/Moment via Getty Images
Eksitasi seputar agen AI mungkin terkesan berlebihan, namun ingat: diperlukan kerja dan perencanaan yang matang di lapangan untuk membuat alat-alat ini produktif. Tindakan tingkat tinggi termasuk memberi kebebasan pada agen, namun bukan kebebasan tanpa batas, sambil juga memikirkan ulang ukuran return-on-investment tradisional.
Menurut Kristin Burnham dalam MIT Sloan Management Review, pengembangan dan manajemen AI yang efektif memerlukan pilihan-pilihan terinformasi dalam hal kontrol, investasi, tata kelola, dan desain. Merujuk penelitian terkini dari Sloan dan Boston Consulting Group, ia menyebutkan "ketegangan" yang perlu disadari oleh pengembang dan pendukung agen AI:
- Membatasi sistem agen secara berlebihan membatasi efektivitasnya, sementara memberi terlalu banyak kebebasan dapat menimbulkan ketidakpastian.
- Agen AI memaksa organisasi untuk memikirkan ulang cara menilai biaya, waktu, dan return on investment.
- Organisasi harus memutuskan apakah akan dengan cepat memasukkan agen AI ke dalam alur kerja yang ada atau meluangkan waktu untuk membayangkan ulang alur kerja tersebut sepenuhnya.
Di seluruh industri, ada kesepakatan bahwa agen memerlukan pertimbangan baru di luar yang biasa dalam pengembangan perangkat lunak tradisional. Dalam prosesnya, pelajaran baru sedang dipetik. Para pemimpin industri berbagi beberapa pelajaran mereka dengan ZDNET saat mereka bergerak menuju masa depan agen AI.
1. Tata Kelola Sangat Penting
"Kepercayaan diri bukanlah akurasi," kata Nik Kale, Principal Engineer di Cisco. Versi awal agen "dapat merespons dengan percaya diri namun salah, yang mengharuskan kami berinvestasi besar dalam membumikan respons melalui retrieval dan pengetahuan terstruktur."
Pelajaran penting adalah "tata kelola tidak bisa ditambahkan belakangan," tambah Kale. "Ketika pengawasan dan kontrol kebijakan ditambahkan terlambat, sistem seringkali tidak memiliki architectural hooks untuk mendukungnya, memaksa jeda atau desain ulang yang menyakitkan."
Dalam jangka panjang, kepercayaan mempercepat, ujar Kale. "Begitu sistem berkinerja baik, pengawasan manusia menurun. Saat itulah scope creep dan otonomi tak terduga dapat muncul jika batasan tidak eksplisit."
Kale mendesak pendukung agen AI untuk "memberi otonomi sebanding dengan reversibilitas, bukan kepercayaan diri model. Tindakan yang tidak dapat dibalikkan di berbagai domain harus selalu memiliki pengawasan manusia, terlepas dari seberapa percaya diri sistem terlihat." Observabilitas juga kunci, kata Kale. "Mampu melihat bagaimana keputusan dicapai sama pentingnya dengan keputusan itu sendiri."2. Mulai dari Cakupan Sempit
Dengan agen, "kami sengaja memulai dari cakupan sempit," ujar Tolga Tarhan, CEO Atomic Gravity. "Sebagian besar agen yang kami terapkan dibatasi pada satu domain dengan guardrails jelas dan hasil terukur."3. Pastikan Kualitas Data
"AI bekerja baik ketika didukung data berkualitas," kata Oleg Danyliuk, CEO Duanex. "Kualitas data adalah masalah nomor satu," setuju Tarhan. "Model hanya berkinerja sebaik informasi yang diberikan kepada mereka."4. Mulai dari Masalah — Bukan Teknologi
"Definisikan kesuksesan di awal," kata Tarhan. "Instrumentasikan segalanya. Pertahankan manusia dalam loop lebih lama dari yang dirasa perlu. Dan investasi lebih awal pada observabilitas dan tata kelola. Jika dilakukan benar, agen AI bisa transformasional. Jika terburu-buru, mereka menjadi demo yang mahal. Perbedaannya adalah disiplin."
Tim Tarhan berusaha memperlakukan agen dengan roadmap, feedback loop, dan iterasi berkelanjutan — "bukan sebagai eksperimen sains."5. Pertimbangkan Metodologi ‘AgentOps’
"Agen AI tidak sukses hanya pada kemampuan model," kata Martin Bufi, Principal Research Director di Info-Tech Research Group. Yang membantu proyek-proyek ini sukses adalah penerapan "AgentOps", yang berfokus pada mengelola seluruh siklus hidup agen.6. Jaga Agen Tetap Fokus
Alih-alih membangun agen monolitik yang melakukan segalanya, Bufi menasihati "menggunakan beberapa agen khusus untuk fungsi seperti analisis, validasi, routing, atau komunikasi." Selain itu, tim Bufi berusaha agar tim agen ini mencerminkan cara tim manusia beroperasi.7. Kelola Konteks dan Tetap Adaptabel
Bahkan untuk agen pengguna tunggal yang relatif terbatas, "manajemen konteks adalah hambatan signifikan dan dapat menyebabkan masalah besar jika tidak ditangani dengan benar," ujar Sean Falconer, Head of AI di Confluent.
Untuk menjaga keluaran yang berkualitas dan konsisten, pengembang "menghabiskan waktu yang tidak proporsional untuk mengoptimalkan cara mereka memangkas, meringkas, dan menyuntikkan konteks agar agen tidak kehilangan jejak tujuan awal," jelas Falconer. "Engineer untuk adaptabilitas sejak hari pertama. Pastikan investasi AI Anda fleksibel dan diabstraksi dengan benar. Hindari lock-in vendor atau model agar Anda dapat berputar dengan cepat ketika gelombang inovasi berikutnya tiba."