AI agen sekarang jadi topik utama di dunia AI, teknologi, dan bisnis. Ini membuat perusahaan harus cepat menggunakan teknologi ini atau akan ketinggalan dari pesaing. Para Chief AI Officer (CAIO) lah yang bertugas untuk memahami janji dan kenyataan dari kata populer AI terbaru ini.
Sambil mereka mengawasi percobaan dan penggunaan AI agen serta memandu pemimpin lain, CAIO juga harus menghadapi banyak pembicaraan berlebihan, kekhawatiran tentang keamanan dan kepercayaan, dan bagaimana sistem-sistem ini terhubung (atau tidak terhubung). Belum lagi harus menjawab pertanyaan: Sebenarnya apa itu AI agen?
Mengejar hype bikin perusahaan kehilangan fokus
Tampaknya tidak ada yang setuju apa arti pasti dari istilah “AI agen”. Perusahaan mendefinisikan istilah ini dengan cara berbeda dan sering menggunakannya untuk menjelaskan fitur dan kemampuan yang bermacam-macam, termasuk hal-hal yang sebelumnya disebut dengan istilah lain seperti “asisten AI”. Bagi Chief AI Officer Accenture, Lan Guan, ini membuatnya menghabiskan banyak waktu hanya untuk membantu klien memahami kontradiksi ini.
“Setahun lalu, semua orang bilang, ‘Saya perlu lakukan gen AI.’ Sekarang semua orang bilang, ‘Saya perlu lakukan agentic AI atau AI agen.’ Padahal, pada akhirnya, banyak dari hal ini tetap hal yang sama. Hanya disebut dengan nama berbeda tergantung siapa yang diajak bicara,” katanya. “Jadi ada banyak kebingungan di pasar di kalangan klien kami tentang, ‘Apa itu AI agen? Apa yang saya terapkan?’ Jadi kami banyak menghabiskan waktu untuk edukasi.”
Efek lanjutannya adalah perusahaan dengan cepat membuat apa yang disebut AI agen “hanya untuk siaran pers,” kata Michelle Bonat, chief AI officer of AI Squared. Tekanan untuk memiliki jawaban di masa agentic AI menyebabkan beberapa perusahaan mengganti nama fitur atau mengejar AI agen agar tetap tren, seringkali hanya membuat lapisan tipis agen di atas model dasar.
“Saya benar-benar melihat itu. Saya melihatnya setiap hari,” kata Bonat. “Itu sebabnya ruang ini penuh dengan kebisingan.”
Keamanan, kesalahan, dan kepercayaan mendominasi analisis risiko
Meskipun ada hype dan istilah yang membingungkan, ide inti dari AI agen—sistem yang dirancang untuk mengambil tindakan secara mandiri guna melakukan tugas tertentu—masih menghasilkan banyak kegembiraan yang wajar. Ini juga kunci untuk menciptakan jenis sistem yang selalu diimpikan oleh teknolog dan pecinta fiksi ilmiah. Tetapi ada hambatan nyata.
Uri Yerushalmi, co-founder dan chief AI officer di Fetcherr, percaya peluang di sekitar AI agen “sangat besar” tetapi membuka nilai itu tergantung pada mengatasi tantangan nyata seputar kepercayaan dan integrasi. Misalnya, agen harus dapat terintegrasi dengan sistem lama dan selaras dengan kendala dunia nyata tanpa mengganggu alur kerja yang ada.
“Bisnis perlu mempercayai keputusan agen,” tambahnya. “Itu membutuhkan transparansi, konsistensi, dan ROI yang dapat ditunjukkan.”
Salah satu titik kegagalan yang paling mengkhawatirkan adalah kesalahan yang bertumpuk. CEO Google DeepMind Demis Hassabis telah membandingkan masalah ini dengan bunga majemuk di keuangan. Bonat menunjuk masalah kesalahan bertumpuk ini sebagai tantangan serius dalam hal mempercayai AI agen, mengatakan potensi untuk memperbesar satu kesalahan tanpa sepengetahuan manusia bisa “menciptakan kekacauan.”
Ini terutama benar untuk jenis sistem multi-agen yang dipertimbangkan banyak bisnis, yang kata Guan dapat menyebabkan titik buta dan membawa kamu ke dalam masalah dengan sangat cepat.
“Itu mungkin tidak bekerja untuk kamu, dan mungkin justru membawa banyak risiko,” katanya. “Bayangkan—banyak alur kerja bisnis dan transaksi atau interaksi memiliki taruhan tinggi. Kamu tidak ingin agen hanya mengeluarkan pengembalian dana untuk setiap pelanggan, kan?” Katanya, sambil menambahkan bahwa meskipun kliennya sangat ingin melihat dampak dari AI agen, mereka juga waspada terhadap tagihan cloud yang tinggi secara tiba-tiba dan risiko keamanan.
Kekhawatiran keamanan pasti menjadi prioritas utama dalam lanskap AI agen. Pada 2028, Gartner memprediksi, 25% pelanggaran perusahaan akan dirunut kembali ke AI agen. Faktor dominan yang berkontribusi terhadap risiko keamanan adalah kombinasi otonomi dan interoperabilitas yang dimaksudkan dari sistem agen.
Mimpi interoperabilitas sulit lepas dari taman berdinding
Seperti semua CAIO, Ali Alkhafaji, chief AI and technology officer di Omnicom Precision Marketing Group, khawatir tentang kebocoran data dan risiko keamanan lainnya. Dia juga khawatir bahwa banyak perusahaan yang mengkomersilkan sistem agen menggunakan keamanan sebagai alasan yang mudah untuk lebih mengunci pelanggan mereka di dalam ekosistem mereka.
“Setiap vendor membangun ‘kerangka kerja agen’ mereka sendiri, tetapi tidak ada yang menyelesaikan untuk interoperabilitas tingkat perusahaan. Tanpa kerangka kerja terbuka dan standar semantik, kita hanya membangun silo yang lebih pintar,” katanya.
Kepala AI Deloitte AS Jim Rowan melihat ini terjadi di antara kliennya, mencatat bahwa mereka sebagian besar tetap menggunakan penyedia mereka saat ini dan menggunakan kemampuan agen mereka saat dirilis. Ini adalah iterasi lain dari keunggulan platform yang mendorong pertumbuhan untuk penyedia seperti OpenAI, Google, dan Microsoft.
“Ada ketegangan pasti di pasar antara siapa yang ingin memiliki sistem agen catatan. Seperti, siapa yang akan memiliki registri, siapa yang akan mengatur semua orchestration yang terjadi di sekitar agen,” kata Rowan. “Saya pikir juri masih belum memutuskan siapa yang memiliki itu.”
Koreksi, 3 Sept. 2025: Versi sebelumnya dari cerita ini keliru menyebut nama solusi AI agen Accenture.
Fortune Global Forum kembali pada 26–27 Okt. 2025 di Riyadh. CEO dan pemimpin global akan berkumpul untuk acara undangan yang dinamis yang membentuk masa depan bisnis. Ajukan permohonan undangan.