Banyak orang bicara dengan heboh tentang agen otonom yang mengubah setiap sudut perusahaan di Amerika, dari menangani panggilan penjualan, menulis kode, sampai mengelola rantai pasok. Tapi laporan dari kemitraan antara Accenture dan Wharton menambah bukti tentang pola yang mulai muncul: semakin pintar AI, semakin banyak tuntutannya pada manusia di belakangnya.
“Kecerdasan mungkin bisa ditingkatkan, tapi tanggung jawab tidak bisa,” kata laporan itu. Kalimat ini terdengar sederhana sampai kamu pikirkan artinya bagi perusahaan yang menggunakan ratusan agen AI. “Ketidakseimbangan ini sangat penting,” lanjut laporan itu. Meski AI bisa berpikir dan menganalisis tanpa batas, manusia tetap harus memutuskan hal yang penting, menetapkan strategi, dan yang paling penting, bertanggung jawab atas hasilnya.
Temuan utamanya bukan bahwa AI akan mengambil pekerjaan manusia—tapi bahwa AI menjadi tantangan langsung bagi semua pemimpin yang harus mengelola dunia dengan bot otonom di ekonomi pekerja kerah putih. “Di perusahaan yang menggunakan AI, peran kepemimpinan tidak berkurang saat AI semakin baik,” tulis laporan itu. “Justru menjadi lebih penting.”
Laporan ini menggambarkan manfaat hipotetis dan tidak banyak bahas risiko jika agen AI jadi kacau. Bayangkan satu kesalahan yang menyebar ke seluruh sistem: satu agen memberikan angka persediaan yang salah, menyebabkan agen lain memesan stok berlebihan; atau agen layanan pelanggan memberi tahu pelanggan bahwa masalahnya sudah selesai, padahal tidak ada manusia yang memimpin penanganannya. James Crowley dari Accenture berkata: “Kami biasa bilang, manusia harus memimpin, bukan hanya ada di dalam proses.” Jika manusia tidak secara sadar memimpin, kesalahan bisa berlipat ganda dalam skala besar.
Angka di balik klaim ini sangat menakjubkan. Dengan menganalisis data tugas di 18 industri, peneliti Accenture menemukan bahwa lebih dari 50% jam kerja di ekonomi Amerika sekarang bisa diubah oleh sekitar 60 agen AI digital dan fisik yang diteliti. Ini data yang sangat besar, terkait dengan lebih dari 120 juta pekerja. Di industri perbankan dan pasar modal, diperkirakan lebih dari 45% jam kerja terdampak oleh agen digital saja.
Penempatan kembali tenaga kerja secara besar-besaran
Untuk perusahaan senilai $60 miliar, peneliti memperkirakan pertumbuhan pendapatan tahunan potensial sekitar $6 miliar dari penggunaan agen AI yang matang, serta peningkatan produktivitas $1,7 miliar per tahun. Tapi masalahnya: Pada tahun 2028, sekitar sepertiga dari peningkatan produktivitas itu bukan berupa penghematan biaya langsung, tapi berupa “kapasitas yang dibebaskan”—jam kerja yang harus dialihkan dengan sengaja ke pekerjaan bernilai lebih tinggi, atau akan hilang begitu saja.
“Produktivitas menjadi pertumbuhan hanya melalui penempatan kembali,” peringat laporan itu. “Kecuali para pemimpin dengan sengaja mengalihkan kapasitas itu ke pekerjaan bernilai tinggi, peningkatan produktivitas hanya berhenti di efisiensi dan tidak jadi pertumbuhan.”
Crowley berkata bahwa kesalahannya bukan menggunakan terlalu banyak agen—tapi gagal memikirkan mereka sebagai tenaga kerja yang koheren, bukan sekumpulan percobaan. “Semua orang membuat satu agen di sini, satu agen di sana, kadang ribuan,” kata Crowley. “Yang kami coba lakukan adalah mundur selangkah dan lihat bagaimana lanskap agen AI akan terlihat di tingkat perusahaan.”
Di tingkat perusahaan inilah masalah tanggung jawab terasa paling berat. Agen AI sudah menyebar “dengan cepat di seluruh rantai nilai perusahaan, seringkali mendahului strategi dan tata kelola formal,” catat laporan itu. Hampir tiga perempat pekerja pengetahuan sekarang menggunakan AI—sering melalui alat yang tidak disetujui resmi, atau disebut “shadow AI.” Pada tahun 2028, sekitar sepertiga aplikasi perusahaan diperkirakan akan menyematkan kemampuan agen. Tapi arsitektur tata kelolanya belum mengikuti.
Dari perspektif CEO teknologi, laporan ini terasa benar. Andrey Khusid, CEO Miro, perusahaan produktivitas senilai $17,5 miliar, baru-baru ini berbicara dengan Fortune. Aplikasi utama Miro, perangkat lunak produktivitas yang sudah ada lebih dari sepuluh tahun, sekarang mulai menyematkan AI. “Selama hampir 15 tahun, yang terjadi adalah kolaborasi manusia-ke-manusia [di Miro],” katanya. “Tapi kemudian muncul agen-ke-AI. Dan sekarang banyak kolaborasi terjadi antara manusia dan agen bersama-sama.”
Dengan membawa agen ke platformnya, Khusid berkata perusahaannya memungkinkan pengguna untuk “menyelesaikan pekerjaan dengan cara agenik.” Ini lebih kompleks daripada kerja manusia-ke-manusia, katanya. “Jauh lebih kuat dan waktu untuk mendapatkan hasil lebih cepat. Sebelumnya kamu perlu punya manusia dengan keahlian tertentu… Dengan agen, kamu bisa punya seluruh tim dengan berbagai keahlian bekerja di sampingmu.”
Tapi, sangat penting untuk diakui bahwa agen bisa juga berbuat salah, sama seperti manusia, dan “banyak dari hasil kerja agenik ini sekarang seperti kotak hitam,” katanya. Miro berusaha membuka kotak hitam itu agar bisa memperbaiki agen ketika mereka salah. Mengakui bahwa ini terlihat seperti “revolusi agenik,” dia menambahkan: “Kita masih di tahap paling awal.”
Bradlow dan Crowley mengakui bahwa agen bisa berbuat salah, bahkan berhalusinasi, dan dalam skala besar, ini bisa menyebabkan kesalahan yang meluas. “Begini,” kata Bradlow—mengacu pada pengalamannya sebagai ahli matematika dan ilmu data—agen dibangun berdasarkan prinsip pembelajaran penguatan, yang berarti hasil baik sesuai yang diprogram oleh manusia yang menentukan fungsi tujuannya. “Ketika agen dapat hasil buruk, mereka mengubah tugasnya. Mereka mengubah apa yang dilakukan. Tidak semua manusia belajar dengan cara yang sama.” Ketika agen membuat kesalahan, kamu bisa beri tahu apa yang harus diperkuat, dan dia seharusnya tidak mengulangi kesalahan itu lagi.
Yang membuat poin Khusid tentang membuka kotak hitam jadi semakin penting.
**Zaman Modern dan Mata Rantai Terlemah**
Bradlow, yang mengepalai departemen pemasaran Wharton, bilang ke Fortune bahwa AI agenik mengingatkannya pada beberapa gambar dari TV dan film. “Ini akan mengekspos mata rantai terlemah dalam organisasi,” katanya, sambil teringat acara permainan Inggris yang sangat sukses di sejarah BBC, di mana pembawa acara menghilangkan pemain dengan berkata dingin: “Kamu adalah mata rantai terlemah. Selamat tinggal.”
Dia bilang itu juga mengingatkannya pada gambar terkenal Charlie Chaplin dan Lucille Ball, di mana legenda komedi itu berjuang mengikuti jalur perakitan yang makin cepat. Di episode klasik “Job Switching,” Ball akhirnya menyumpal mulutnya dengan coklat saat coklat-coklat itu melaju melewatinya dengan kecepatan tak terbendung.
Adegan terkenal Chaplin di *Modern Times* agak lebih seram, berakhir dengan dia tersedot ke dalam sabuk konveyor itu sendiri. Itu juga gambaran ikonik yang menangkap masa-masa awal kapitalisme abad ke-20. Jika satu pekerja dalam proses 20 langkah mengadopsi AI dan melipatgandakan hasil kerjanya sementara pekerja berikutnya masih pakai Excel, hambatannya tidak hilang, kata Bradlow—itu cuma berpindah. “Keuntungan efisiensi terjadi di sini tapi tidak di sini,” katanya, “akan jadi lebih parah, dan kamu akan melihatnya dengan cepat.”
Temuan laporan menyatakan taruhan tata kelola paling tinggi, dalam satu studi kasus, justru di mana peluang pendapatannya terbesar: penjualan. Fungsi yang menggabungkan volume keputusan besar, kesesuaian agen digital tinggi, dan risiko komersial yang meningkat—interaksi pelanggan, penetapan harga, pertimbangan komersial—penjualan sekaligus adalah kandidat utama untuk penerapan agen dini dan, seperti disebut laporan, “domain kritis tata kelola di mana kepercayaan, akuntabilitas, dan pengawasan manusia harus dirancang dengan sengaja.”
Kata itu—*deliberately* (dengan sengaja)—muncul berulang dalam laporan 40 halaman seperti ketukan drum. Para pemimpin tidak bisa hanya mengaktifkan agen dan menunggu nilai muncul. Mereka harus menetapkan target P&L yang jelas, membangun model operasi yang dipimpin manusia, dan menetapkan hak keputusan yang jelas sebelum agen dijalankan. Laporan itu bahkan menyarankan organisasi mungkin perlu peran eksekutif baru: seorang kepala petugas sumber daya agenik.
“Kita menghabiskan banyak waktu pada aspek produktivitas cerita ini,” kata Crowley. “Keuntungan dari sisi pendapatan pada akhirnya akan jauh lebih besar daripada keuntungan dari sisi efisiensi dan produktivitas.” Kebanyakan perusahaan sangat fokus pada peluang efisiensi dan produktivitas dengan AI canggih, katanya, dan menambahkan bahwa dia pikir sekarang adalah waktu yang tepat untuk menjadikan ini cerita “dan” karena potensi pendapatannya ada dan bisa jauh lebih besar.
Bradlow setuju itu juga poin penting baginya, mengutip pernyataan yang dia dengar di meja bundar sarapan eksekutif yang dihos bersama Wharton dan Accenture di konferensi GTC Nvidia awal Maret. “Ini tentang perusahaan, entitas, orang melakukan hal-hal yang sebelumnya tidak bisa mereka lakukan. Dan perusahaan meluncurkan jenis produk baru yang sebelumnya tidak bisa mereka bayangkan.”
Tapi hadiah pertumbuhan itu datang dengan harga manusiawi. Semakin banyak kecerdasan yang kamu skalakan, semakin bertanggung jawab—dan tak tergantikan—para pemimpin manusia kamu jadinya. Agen-agen bisa bernalar, mengeksekusi, dan mengoordinasi. Yang tidak bisa mereka lakukan adalah memiliki hasilnya. Dalam perusahaan agenik yang dirancang buruk, satu manusia tiba-tiba bisa bertanggung jawab atas kaskade hasil eksponensial yang tidak pernah mereka lihat datang. Ini menunjukkan bahwa frasa “zaman modern” berarti persis seperti di zaman Chaplin: Kamu harus menguasai mesinnya, atau kamu bisa hancur di dalam girnya.