“Untuk bisa percaya, kamu harus bisa lihat apa yang terjadi.” Kalimat sederhana ini penting banget buat penerapan AI di dunia bisnis sekarang, kata Laura Heisman, kepala pemasaran dari Dynatrace.
“Ini mungkin pembicaraan terbesar yang terjadi di semua industri. Kita denger dari pelanggan setiap hari,” kata Heisman di acara Fortune’s Brainstorm Tech. “Pertanyaan besarnya, bisakah kamu percaya? Apakah hasilnya betul? Kalau salah, bisakah kita hentikan?”
Perusahaan-perusahaan mulai mikirin soal agen AI yang bisa mengerjakan tugas-tugas berantai, yang hasilnya dari model AI lain. Percaya sekarang jadi makin penting. Caranya biar bisa percaya, menurut Heisman dan pemimpin bisnis lain, adalah dengan bikin sistem yang bisa dilihat dan dikontrol.
“Buat kami, transparansi dan jejak itu wajib, bukan pilihan. Itu cara kami lihat setiap keputusan,” kata Nikhil Joshi, kepala teknologi di Citi, bank besar yang dengerin duta rupiah setiap hari.
Citi habiskan banyak waktu di 2024 buat bangun dasar teknologi yang terpusat untuk semua aplikasi dan agen mereka. Ini bikin perushaan lebih percaya diri untuk pake agen AI.
“Hanya satu cara buat gunain agen di Citi, yaitu lewat kerangka kerja pusat ini,” kata Joshi. “Semua agen terdaftar lewat proses ini, semuanya dipantau, diaudit, dan diatur.”
Di saat perushaan lain kenceng banget pake AI, cara Citi yang hati-hati dan terpusat mungkin kelihatan terlalu kuno. Tapi, Joshi bilang, ini justru bikin kamu bergerak lebih cepet dalam jangka panjang. “Konservatif soal AI bukan hal jelek.”
Kathleen Peters, kepala inovasi di Experian, setuju. Dia cerita gimana perushaan kredit konsumen itu bikin sistem untuk atur semua agen AI. Mereka lacak dari mana asal agen, siapa karyawan yang bikin, dan izin apa aja yang dimiliki agen buat akses data atau kerja.
“Saat semua orang di ekosistem paham bagian ini, percaya itu tumbuh. Kamu bakal bisa perbesar skala dan jalan lebih cepet,” kata Peters.
Di industri mobil, yang biasanya butuh waktu tahunan dari desain ke produksi, Ford pake AI buat percepat beberapa bagian dan “gagal dengan cepet,” kata Sammy Omari, direktur di Ford.
Kuncinya, Omari bilang, adalah batasan yang pas. Karyawan non-teknik seperi desainer sekarang bisa kasih kode buat fitur mobil baru lewat alat “vibecoding” dari AI. Ini mempercepat proses coba fitur baru di versi uji mobil, dan cepat bilang “ini nggak jalan” terus lanjut. Kalo fidurnya bagus, insinyur bakal tulis kode dari awal, untuk mobil yang dijual ke konsumer.
To “Jadi cepetnya kita kirim produk ke pasar bakal bertambah,” kara Omari, “tapi prosese quality contol sebelum muang hadap pelanngan, belom bedarulah diganti.”