Para eksekutif bisa becanda tentang tantangan dalam menggunakan AI, karena saat ini perusahaan cari dimana-mana untuk menang dalam bisnis dengan alat terbaru. Jadi ketika Brian Vecci, CTO lapangan Varonis, bilang “setiap pilot copilot terjebak di fase percobaan” di panel Fortune Brainstorm Tech bulan ini, banyak penonton yang tertawa. Tapi lelucon itu juga menunjukkan masalah serius: perusahaan yang ingin pakai alat AI generatif sering mentok di hal yang sama—takut soal keamanan data.
“Susahlah berinovasi kalau data yang dipakai tidak terlindungi dengan benar,” kata Vecci. “Kita ingin membuat orang lebih produktif, kita ingin pakai AI dan teknologi baru lainnya, tapi untuk dapatkan manfaatnya, itu harus dilakukan dengan aman.”
Scott Holcomb dari Deloitte setuju bahwa baik secara internal maupun untuk kliennya, “kami pasti harus pasang pengaman” tentang apa yang bisa dan tidak bisa dilakukan dengan alat AI. Misalnya, jumlah data yang dimiliki Microsoft Copilot tentang individu dan organisasi itu “sangat besar,” jelasnya. “Kami tidak nyaman dengan itu, jadi kami harus urus itu dengan Microsoft, tapi kami juga pasti harus banyak melatih staf tentang apa yang bisa dan tidak boleh dilakukan dengan data klien.”
Tapi pemimpin seperti Keith Na dari Cargill mengingatkan bahwa kalau terlalu berhati-hati—sama sekali menghentikan eksperimen—bisa sama berbahayanya. Yang dibutuhkan organisasi, katanya, adalah budaya ingin tahu: kesediaan untuk membiarkan insinyur mencoba, menguji, dan belajar di tempat yang aman.
“Saya pikir banyak teknolog masuk ke profesi kita untuk menyelesaikan masalah yang sulit bersama-sama,” katanya. “Dan saya pikir lama-kelamaan kita justru mengisolasi tim kita.”
Dia menjelaskan, selama 18 bulan terakhir, perusahaannya berusaha menghilangkan hambatan itu dan menyuruh insinyur bergabung dengan tim produk. “Ini tidak hanya menyelesaikan masalah sulit dengan cara yang lebih sederhana, tapi juga menciptakan budaya dan lingkungan di mana orang senang datang kerja, mereka menyelesaikan masalah yang belum bisa kita selesaikan dan moral kerja jadi naik drastis,” ujarnya. Lama-kelamaan, “ini menciptakan lingkungan inovasi yang proaktif sambil tetap memasang pengaman.”
Fortune Global Forum kembali pada 26–27 Oktober 2025 di Riyadh. CEO dan pemimpin global akan berkumpul untuk acara dinamis yang hanya dengan undangan, membentuk masa depan bisnis. Ajukan permohonan undangan.