Ringkasan ZDNET

Tidak semua alat "agentic AI" benar-benar merupakan sistem agen yang sesungguhnya.
Prompt yang buruk dan agen yang salah arah dapat mengakibatkan kegagalan beruntun.
Fokuslah pada hasil yang terukur, bukan sekadar hype atau ambisi belaka.

**

Bayangkan Anda seorang CEO. Tim gugus tugas strategi AI Anda baru saja mempresentasikan dua opsi strategis.

Opsi pertama aman. Anda bisa menggunakan agentic AI untuk mengurangi biaya operasional dan menghemat 10% dari total biaya modal manusia.

Opsi kedua berani. Anda bisa meningkatkan pertumbuhan sepuluh kali lipat dengan menggunakan agentic AI untuk mentransformasi operasi perusahaan Anda.

Opsi pertama hampir tidak akan memberikan dampak signifikan, tetapi akan membantu inisiatif AI membiayai dirinya sendiri. Opsi kedua bisa meledakkan angka-angka Anda dan menjadikan Anda legenda di mata dewan direksi. Atau, bisa juga membuat Anda dipecat.

Ketahuilah bahwa semua ucapan superlatif ini sudah di luar kendali. KPMG memperkirakan agentic AI akan membuka produktivitas senilai $3 triliun per tahun. Accenture berpendapat bahwa agentic AI adalah "tidak kurang dari jenis modal baru," dan "menandai pergeseran dalam sejarah ekonomi." Musim gugur lalu, Gartner mengatakan, "organisasi memiliki jendela waktu tiga hingga enam bulan yang krusial untuk mendefinisikan strategi produk agentic AI* mereka, karena industri berada pada titik infleksi."

Jadi, apa yang harus Anda lakukan?

Faktor Risiko

Gartner mungkin menyarankan Anda untuk bertindak sekarang juga. Accenture menyarankan Anda untuk mengejar kemenangan pertumbuhan 10x daripada kemenangan penghematan biaya 10%. Saran saya: tenanglah. Meskipun tidak diragukan lagi ada banyak potensi keuntungan dari inisiatif agentic AI, melompat masuk tanpa strategi yang solid dapat mengakibatkan kegagalan.

Ternyata, Gartner juga punya statistik untuk itu. Riset mereka mengatakan, "Lebih dari 40% proyek agentic AI akan dibatalkan pada akhir tahun 2027 karena biaya yang terus meningkat, nilai bisnis yang tidak jelas, atau kontrol risiko yang tidak memadai."

Ada alasan lain untuk kegagalan ini. Gartner mengatakan bahwa sebagian besar proyek tahap awal adalah eksperimen atau proof-of-concept, yang memang seharusnya begitu. Tetapi pengujian semacam itu hanyalah pengujian. Tidak ada jaminan bahwa pengujian akan berhasil. Itulah intinya.

1. AI Washing

Di sisi lain, organisasi sering kali disesatkan oleh vendor mereka. Banyak vendor, yang ikut serta dalam bandwagon hype AI, melakukan apa yang disebut Gartner sebagai "agent washing." Bukan, ini bukan James Bond di kamar mandi. Ini adalah istilah yang berasal dari greenwashing, praktik menggambarkan produk secara palsu sebagai produk ramah lingkungan.

Dalam kasus agent washing, Gartner memperkirakan bahwa kurang dari 13% dari ribuan vendor agentic AI yang benar-benar mengirimkan produk agen. Sebagian besar perusahaan mengganti nama produk yang sudah ada – mulai dari asisten AI, otomatisasi proses robotik, layanan berbasis skrip, dan chatbot – menjadi "agentic." Asumsi bahwa alat-alat ini dapat melakukan tugas otonom adalah cacat, yang menyebabkan proyek percontohan berdasarkan produk-produk ini pasti akan gagal.

2. Biaya yang Melonjak

Jebakan lainnya adalah biaya. Sebagian besar implementasi AI bergantung pada model bahasa besar eksternal untuk layanan pemrosesan kognitif yang disediakan oleh perusahaan seperti OpenAI, Google, dan Anthropic. Layanan-layanan ini terhubung ke aplikasi Anda melalui API.

Anggap API seperti stopkontak di dinding Anda. Anda mencolokkan pembuat kopi ke stopkontak itu, dan Anda mendapatkan daya untuk menghasilkan minuman kopi yang nikmat. Stopkontak dan steker adalah antarmuka standar (seperti API). Pembuat kopi Anda adalah aplikasi Anda. Layanan cloud adalah perusahaan listrik, yang kepadanya Anda membayar biaya berdasarkan pemakaian.

Perusahaan AI mengukur penggunaan berdasarkan metrik yang disebut "token." AI generatif menggunakan token dengan cukup hemat. Token dikonsumsi saat sebuah pertanyaan diajukan, dan hanya itu. Seperti pembuat kopi yang membuat secangkir kopi, penggunaan daya/token sangat minim.

Sekarang, bandingkan kebutuhan daya pembuat kopi dengan rak server. Server mengonsumsi lebih banyak daya dan menggunakannya secara konstan, 24/7. Tagihan listrik untuk rak server akan jauh lebih tinggi daripada tagihan pembuat kopi (bahkan pembuat kopi saya yang terlalu sering digunakan).

Sama halnya dengan agentic AI, yang berjalan hampir terus-menerus, dengan banyak agen sekaligus, mengonsumsi banayk token dengan lahap. Saat perusahaan meningkatkan skala penggunaan agentic AI mereka, mereka mendapati tagihan cloud mereka membengkak. Ada alasan mengapa pendapatan OpenAI melonjak dari nol pada akhir 2022 menjadi lebih dari $20 miliar di tahun 2025.

3. Hasil yang Tidak Terduga

Jebakan lainnya adalah proyek AI bersifat "non-deterministik," yang berarti input yang sama dapat menghasilkan output yang berbeda di setiap proses, karena AI menggabungkan probabilitas, keacakan, dan kepekaan konteks, alih-alih mengikuti jalur eksekusi yang tetap dan dapat diulang.

Kurangnya prediktabilitas ini bisa sangat brutal saat membangun dan menguji solusi, menemukan kegagalan saat debugging, memvalidasi output, memastikan kepatuhan, dan mempertahankan perilaku yang konsisten di berbagai pembaruan dan penerapan.

Madhav Thattai, EVP & GM Agentforce di Salesforce, mengatakan kepada saya melalui email: "Perangkat lunak dulu sepenuhnya deterministik: input yang sama, output yang sama, mudah dipercaya. Agen AI mematahkan model itu, dengan input yang sama menghasilkan output yang berbeda. Itu membutuhkan pendekatan hibrida. Konteks, kontrol, dan tata kelola tidak bisa ditambahkan setelah penempatan. Perusahaan yang sukses mendesain elemen-elemen itu dari hari pertama."

4. Agen yang Kebablasnan

Pikirkan tentang apa yang bisa terjadi ketika seorang karyawan tepercaya berbuat curang. Hal yang sama bisa terjadi dengan agen, kecuali agen jauh lebih cepat daripada karyawan mana pun. Tindakan yang tidak diinginkan, yang dilakukan dalam skala besar, dapat merambat ke seluruh organisasi Anda dengan kecepatan cahaya.

Ibu saya dulu punya pepatah yang membuat saya frustrasi sepanjang masa kecil saya. Dia berkata, "Lakukan apa yang saya maksud, bukan apa yang saya katakan." Harapannya adalah dia membesarkan saya dengan benar, jadi saya seharusnya benar-benar tahu apa yang dia inginkan, terlepas dari apakah dia mengartikulasikannya dengan benar atau tidak.

Misalignment tujuan bisa menjadi masalah nyata jika seorang karyawan memberikan perintah (prompt) yang salah kepada agen. Meskipun Anda mungkin dapat membuat sistem pengawasan agen yang saling memeriksa, kenyataan yang lebih mungkin terjadi adalah jika Anda salah me-prompt agen, ia tidak akan memahami maksud Anda. Agen itu hanya akan meledak melalui jaringan Anda, meninggalkan kehancuran di belakangnya.

Jika Anda memiliki agen yang salah diinstruksikan dalam rantai logika Anda, kegagalan itu akan bertumpuk menjadi kegagalan lainnya, menciptakan efek domino yang dapat membuat Anda berharap bisa bersembunyi di hutan di sebuah tenda selama dua tahun ke depan.

lainnya.

Kunci penting dari posting* di TikTok tidak hanya cara jualannya.

Untuk iklan, pemilihan format iklan, hingga penggunaan narasi dan rekamanan belaka.

Total.

Perkara tidak khawatir: saking manteng tokonya.