Setiap CEO Fortune 500 yang investasi di AI saat ini menghadapi masalah matematika yang sama sulitnya. Mereka mengeluarkan biaya $590-$1.400 per pegawai setiap tahun untuk alat-alat AI, sementara 95% dari inisiatif AI perusahaan mereka gagal mencapai tahap produksi.
Di sisi lain, karyawan yang pakai alat AI pribadi berhasil dengan tingkat 40%.
Masalahnya bukan teknologi—tapi operasional. Perusahaan-perusahaan sedang berjuang dengan krisis dalam pengukuran AI.
Ada tiga pertanyaan yang saya ajukan ke setiap tim pemimpin ketika mereka tanya tentang ROI dari pilot AI:
1. Berapa banyak kamu menghabiskan uang untuk alat AI di seluruh perusahaan?
2. Masalah bisnis apa yang kamu selesaikan dengan AI?
3. Siapa yang akan dipecat jika strategi AI kamu gagal memberikan hasil?
Pertanyaan terakhir itu biasanya bikin suasana jadi hening dan tidak nyaman.
Sebagai CEO Lanai, sebuah platform deteksi AI berbasis edge, saya sudah menyebarkan Agen Pengamatan AI kami di perusahaan-perusahaan Fortune 500 untuk CISOs dan CIOs yang ingin mengamati dan memahami apa yang AI lakukan di perusahaan mereka.
Yang kami temukan adalah banyak yang terkejut dan tidak sadar tentang segala hal, dari produktivitas karyawan sampai risiko serius. Sebagai contoh, di satu perusahaan asuransi besar, tim pimpinan yakin mereka sudah “mengunci semuanya” dengan daftar vendor yang disetujui dan tinjauan keamanan. Tapi, hanya dalam empat hari, kami menemukan 27 alat AI yang tidak sah berjalan di organisasi mereka.
Penemuan yang lebih mengejutkan: Salah satu alat “tidak sah” ternyata adalah alur kerja Salesforce Einstein. Itu memungkinkan tim penjualan melampaui target mereka — tetapi juga melanggar peraturan asuransi negara bagian. Tim tersebut membuat model tiruan dengan kode pos pelanggan, yang mendorong produktivitas dan risiko secara bersamaan.
Inilah paradoks untuk perusahaan yang ingin memanfaatkan potensi AI sepenuhnya: Kamu tidak bisa mengukur apa yang tidak bisa kamu lihat. Dan kamu tidak bisa memandu strategi (atau beroperasi tanpa risiko) ketika kamu tidak tahu apa yang karyawan kamu lakukan.
## ‘Teater Tata Kelola’
Cara kita mengukur AI justru menahan perusahaan.
Saat ini, kebanyakan perusahaan mengukur adopsi AI dengan cara yang sama seperti penyebaran perangkat lunak. Mereka melacak lisensi yang dibeli, pelatihan yang diselesaikan, dan aplikasi yang diakses.
Itu cara berpikir yang salah. AI adalah augmentasi alur kerja. Dampak kinerjanya ada dalam pola interaksi antara manusia dan AI, bukan hanya pada pemilihan alat.
Cara kita melakukannya sekarang bisa menciptakan kegagalan sistematis. Perusahaan membuat daftar vendor yang disetujui yang menjadi usang sebelum karyawan menyelesaikan pelatihan kepatuhan. Pemantauan jaringan tradisional melewatkan AI yang tertanam dalam aplikasi yang disetujui seperti Microsoft Copilot, Adobe Firefly, Slack AI, dan Salesforce Einstein yang disebut tadi. Tim keamanan menerapkan kebijakan yang tidak bisa mereka tegakkan, karena 78% perusahaan menggunakan AI, sementara hanya 27% yang mengelolanya.
Ini menciptakan yang saya sebut masalah “teater tata kelola”: Inisiatif AI yang terlihat sukses di dashboard eksekutif seringkali memberikan nilai bisnis nol. Sementara itu, penggunaan AI yang mendorong peningkatan produktivitas nyata tetap sama sekali tidak terlihat oleh kepemimpinan (dan menciptakan risiko).
## AI Bayangan sebagai Inovasi Sistematis
Risiko tidak sama dengan pemberontakan. Karyawan hanya mencoba menyelesaikan masalah.
Menganalisis jutaan interaksi AI melalui model deteksi berbasis edge kami membuktikan apa yang sebagian besar pemimpin operasi secara naluriah tahu, tapi tidak bisa buktikan. Apa yang terlihat seperti pelanggaran aturan seringkali adalah karyawan yang sedang melakukan pekerjaan mereka dengan cara yang tidak bisa terdeteksi oleh sistem pengukuran tradisional.
Karyawan menggunakan alat AI yang tidak sah karena mereka ingin sukses dan karena alat perusahaan yang disahkan hanya berhasil dalam produksi 5% dari waktu, sementara alat konsumen seperti ChatGPT mencapai produksi 40% dari waktu. Ekonomi “bayangan” lebih efisien daripada yang resmi. Dalam beberapa kasus, karyawan mungkin tidak sadar mereka melanggar aturan.
Sebuah perusahaan teknologi yang bersiap untuk IPO menunjukkan “ChatGPT – Disetujui” di dashboard keamanan, tetapi melewatkan seorang analis yang menggunakan ChatGPT Plus pribadi untuk menganalisis proyeksi pendapatan rahasia di bawah tekanan tenggat waktu. Visibilitas tingkat prompt kami mengungkapkan risiko pelanggaran SEC yang sama sekali terlewat oleh pemantauan jaringan.
Sebuah sistem perawatan kesehatan mengenali dokter yang menggunakan dukungan keputusan klinis Epic, tetapi melewatkan dokter darurat yang memasukkan gejala pasien ke dalam AI yang tertanam untuk mempercepat diagnosis. Meskipun meningkatkan throughput pasien, ini melanggar HIPAA karena menggunakan model AI yang tidak tercakup dalam perjanjian asosiasi bisnis.
## Transformasi Pengukuran
Perusahaan yang melintasi “kesenjangan GenAI” yang diidentifikasi MIT, yang Proyek Nanda-nya mengidentifikasi kesulitan luar biasa dengan adopsi AI, bukanlah mereka dengan anggaran AI terbesar; mereka adalah yang dapat melihat, mengamankan, dan menskalakan apa yang benar-benar berhasil. Daripada bertanya, “Apakah karyawan mengikuti kebijakan AI kita?” mereka bertanya, “Alur kerja AI mana yang mendorong hasil, dan bagaimana kita membuatnya patuh?”
Metrik tradisional berfokus pada penyebaran: alat yang dibeli, pengguna yang dilatih, kebijakan yang dibuat. Pengukuran yang efektif berfokus pada hasil alur kerja: Interaksi mana yang mendorong produktivitas? Yang mana yang menciptakan risiko genuin? Pola mana yang harus kita standarisasi di seluruh organisasi?
Perusahaan asuransi yang menemukan 27 alat tidak sah menyadari hal ini.
Daripada mematikan alur kerja kode pos yang mendorong kinerja penjualan, mereka membangun jalur data yang patuh yang mempertahankan peningkatan produktivitas. Kinerja penjualan tetap tinggi, risiko regulasi hilang, dan mereka menskalakan alur kerja yang diamankan ke seluruh perusahaan—mengubah pelanggaran kepatuhan menjadi keunggulan kompetitif yang bernilai jutaan.
## Intinya
Perusahaan yang menghabiskan ratusan juta untuk transformasi AI sementara tetap buta terhadap 89% penggunaan aktual menghadapi kerugian strategis yang bertambah. Mereka mendanai pilot yang gagal sementara inovasi terbaik mereka terjadi secara tidak terlihat, tidak terukur, dan tidak terkelola.
Organisasi terkemuka sekarang memperlakukan AI seperti keputusan tenaga kerja terbesar yang akan mereka buat. Mereka memerlukan kasus bisnis yang jelas, proyeksi ROI, dan metrik keberhasilan untuk setiap investasi AI. Mereka menetapkan kepemilikan yang jelas di mana metrik kinerja termasuk hasil AI yang terkait dengan kompensasi eksekutif.
Pasar AI perusahaan senilai $8,1 miliar tidak akan memberikan peningkatan produktivitas melalui peluncuran perangkat lunak tradisional. Ini memerlukan visibilitas tingkat alur kerja yang membedakan inovasi dari pelanggaran.
Perusahaan yang membangun pengukuran kinerja berbasis alur kerja akan menangkap peningkatan produktivitas yang sudah dihasilkan karyawan mereka. Mereka yang bertahan dengan metrik berbasis aplikasi akan terus mendanai pilot yang gagal sementara pesaing mengeksploitasi titik buta mereka.
Pertanyaannya bukanlah apakah harus mengukur AI bayangan—tetapi apakah sistem pengukuran cukup canggih untuk mengubah produktivitas tenaga kerja yang tidak terlihat menjadi keunggulan kompetitif yang berkelanjutan. Untuk kebanyakan perusahaan, jawabannya mengungkap kesenjangan strategis yang mendesak.
Pendapat yang diungkapkan dalam tulisan komentar Fortune.com adalah pandangan penulisnya dan tidak necessarily mencerminkan pendapat dan keyakinan Fortune.
Fortune Global Forum kembali pada 26–27 Okt 2025 di Riyadh. CEO dan pemimpin global akan berkumpul untuk acara dinamis yang hanya undangan, membentuk masa depan bisnis. Ajukan permohonan undangan.