Ketika Salesforce baru-baru ini meluncurkan agen AI di situs webnya, agennya mulai berkhayal dan tidak memberikan hasil yang konsisten.
Salesforce akhirnya mematikan sementara agen itu, kata Shibani Ahuja, wakil presiden senior strategi TI perusahaan, selama diskusi meja bundar di konferensi Fortune’s Brainstorm Tech di Park City, Utah.
Tapi ternyata, agennya bukan masalahnya. “Yang kami perhatikan adalah ada masalah mendasar dengan data kami,” kata Ahuja. Ketika timnya menyelidiki apa yang terjadi, mereka menemukan bahwa Salesforce telah menerbitkan “artikel pengetahuan” yang bertentangan di situs webnya.
“Sebenarnya bukan agennya. Justru agen itulah yang membantu kami mengidentifikasi masalah yang selalu ada,” kata Ahuja. “Kami mengubahnya menjadi agen auditor yang memeriksa konten kami di situs publik untuk mencari anomali. Setelah kami membersihkan data dasarnya, kami mengaktifkannya kembali, dan sejak itu berfungsi dengan baik.”
Produk AI baru hanya akan sebaik data dasarnya, menurut Ahuja dan pembicara lain yang ikut serta dalam diskusi. Ashok Srivastava, wakil presiden senior dan Kepala AI Officer di Intuit, mengatakan dia tidak terkejut dengan hasil studi MIT baru-baru ini yang menemukan bahwa 95% pilot AI di perusahaan besar gagal, karena sistem yang kuno di perusahaan-perusahaan besar.
“Faktanya adalah fondasi AI—yaitu data—orang tidak berinvestasi di dalamnya,” kata Srivastava. “Jadi Anda punya data tahun 1990-an yang disimpan di database mahal tanpa nama di sini, Anda punya AI di sini, CEO menyuruh Anda melakukan sesuatu, dan itu tidak akan berhasil.”
Sean Bruich, wakil presiden senior kecerdasan buatan dan data di Amgen, menambahkan bahwa bagi perusahaan besar juga sulit untuk beralih dari pilot ke adopsi skala perusahaan.
“Pilot di perusahaan besar tidak pernah memberikan ROI,” katanya. “Mereka mungkin memberikan pembelajaran, mereka mungkin memberikan bukti, mereka mungkin memberikan inspirasi. Tapi jalan untuk skalanya—di situlah Anda mendapatkan return on investment dalam program teknologi besar mana pun.”
Agar perusahaan dapat melihat return on investment dari alat AI baru, mereka harus menyortir masalah data dan penskalaan.
Fortune Global Forum kembali pada 26–27 Oktober 2025 di Riyadh. CEO dan pemimpin global akan berkumpul untuk acara dinamis yang hanya dengan undangan, membentuk masa depan bisnis. Ajukan permohonan undangan.