Dulu, saya bekerja sebagai insinyur aerospace di Program Pesawat Ulang-Alik NASA. Di situ, kepercayaan itu sangat penting sekali. Setiap baut, setiap kode komputer, dan setiap sistem harus diuji dengan hati-hati. Kalau tidak, pesawat ulang-alik tidak akan bisa terbang. Setelah misi selesai, para astronot selalu datang ke kantor dan berterima kasih kepada ribuan insinyur karena telah membawa mereka pulang dengan selamat ke keluarga. Ini menunjukkan betapa pentingnya kepercayaan dan keselamatan dalam sistem kami.
Di dunia teknologi, seharusnya juga sama. Teknologi baru perlu membangun kepercayaan dulu sebelum bisa mendukung pertumbuhan.
Pada tahun 2027, diperkirakan sekitar 50% perusahaan akan menggunakan agen AI. Sebuah laporan dari McKinsey juga memperkirakan bahwa pada tahun 2030, hampir 30% pekerjaan bisa dilakukan oleh agen AI. Banyak pemimpin keamanan siber yang saya ajak bicara ingin menggunakan AI secepat mungkin untuk bisnis. Tapi, mereka juga sadar bahwa integrasi ini harus dilakukan dengan aman dan ada pengamanannya.
Agar AI bisa berhasil, para pemimpin bisnis harus percaya pada AI. Itu tidak akan terjadi dengan sendirinya. Pemimpin keamanan harus belajar dari teknik aerospace dan membangun kepercayaan dari awal. Kalau tidak, mereka bisa ketinggalan peluang pertumbuhan bisnis.
Hubungan antara kepercayaan dan pertumbuhan bukan cuma teori. Saya sudah mengalaminya sendiri.
Mendirikan bisnis berdasarkan kepercayaan
Setelah program Pesawat Ulang-Alik NASA berakhir, saya mendirikan perusahaan pertama saya. Platform itu untuk profesional dan mahasiswa menunjukan bukti kemampuan mereka. Ide ini sederhana, tapi mengharuskan pelanggan percaya pada kami. Kami cepat sadar bahwa universitas tidak mau bekerja sama sebelum kami membuktikan bisa mengelola data mahasiswa dengan aman. Artinya, kami harus memberikan jaminan melalui berbagai cara, seperti menunjukkan laporan SOC 2 yang bersih, menjawab kuesioner keamanan yang panjang, dan menyelesaikan berbagai sertifikasi sesuai aturan.
Pengalaman itu membentuk pendirian Drata. Saya dan rekan pendiri ingin membangun lapisan kepercayaan antar perusahaan yang bagus. Dengan membantu tim GRC dan perusahaannya mendapatkan dan membuktikan postur keamanan mereka kepada pelanggan, mitra, dan auditor, kami menghilangkan hambatan dan mempercepat pertumbuhan. Pertumbuhan cepat kami dari pendapatan $1 juta menjadi $100 juta per tahun dalam hanya beberapa tahun membuktikan bahwa bisnis melihat nilainya. Perlahan, tim GRC mulai dilihat bukan sebagai biaya, tapi sebagai pendukung bisnis. Ini menghasilkan dampak nyata – kami telah melihat $18 miliar pendapatan yang dipengaruhi oleh keamanan melalui tim yang menggunakan SafeBase Trust Center kami.
Sekarang, dengan AI, taruhannya lebih tinggi.
Kerangka kerja kepatuhan saat ini – seperti SOC 2, ISO 27001, dan GDPR – dirancang untuk privasi dan keamanan data, bukan untuk sistem AI yang menghasilkan teks, mengambil keputusan, atau bertindak sendiri.
Berkat undang-undang seperti standar keselamatan AI baru di California, pemerintah mulai mengejar ketertinggalan. Tapi, hanya menunggu aturan baru tidaklah cukup – apalagi saat bisnis mengandalkan teknologi AI baru untuk tetap unggul.
Anda tidak akan meluncurkan roket yang belum diuji
Dalam banyak hal, saat ini mengingatkan saya pada pekerjaan saya di NASA. Sebagai insinyur aerospace, saya tidak pernah "menguji di produksi". Setiap misi pesawat ulang-alik adalah operasi yang direncanakan dengan sangat teliti.
Menggunakan AI tanpa memahami risikonya seperti meluncurkan roket yang belum diuji: kerusakannya bisa langsung dan berakhir dengan kegagalan besar. Sama seperti misi luar angkasa yang gagal bisa mengurangi kepercayaan orang pada NASA, kesalahan dalam penggunaan AI, tanpa memahami risiko atau memasang pengaman, dapat mengurangi kepercayaan konsumen pada organisasi itu.
Yang kita butuhkan sekarang adalah sistem operasi kepercayaan yang baru. Untuk membuat kepercayaan bisa dijalankan, para pemimpin harus membuat program yang:
Transparan. Dalam teknik aerospace, dokumentasi yang lengkap bukanlah birokrasi, tapi untuk akuntabilitas. Hal yang sama berlaku untuk AI dan kepercayaan. Harus ada jejak yang bisa dilacak – dari kebijakan ke kontrol ke bukti ke laporan.
Berkelanjutan. Sama seperti NASA terus memantau misinya sepanjang waktu, bisnis harus berinvestasi dalam kepercayaan sebagai proses yang berkelanjutan, bukan sekadar centang kotak sekali waktu. Kontrol, contohnya, perlu terus dipantau agar kesiapan audit menjadi keadaan normal, bukan usaha dadakan.
Otonom. Mesin roket sekarang bisa mengatur operasinya sendiri melalui komputer, sensor, dan sistem kontrol, tanpa pilot atau kru darat mengatur katup di tengah penerbangan. Dan seiring AI menjadi bagian bisnis sehari-hari, program kepercayaan kita juga harus seperti ini. Jika manusia, agen, dan alur kerja otomatis akan bertransaksi, mereka harus bisa memvalidasi kepercayaan sendiri, dengan pasti, dan tanpa keraguan.
Ketika saya mengenang masa di aerospace, yang menonjol bukan hanya kompleksitas misi luar angkasa, tapi saling ketergantungannya. Puluhan ribu komponen, dibuat oleh tim yang berbeda, harus bekerja bersama dengan sempurna. Setiap tim percaya bahwa tim lain melakukan pekerjaan mereka dengan efektif, dan keputusan didokumentasikan untuk memastikan transparansi di seluruh organisasi. Dengan kata lain, kepercayaan adalah lapisan yang menyatukan seluruh program pesawat ulang-alik.
Hal yang sama berlaku untuk AI hari ini, terutama saat kita memasuki era agen AI yang baru. Kita beralih ke cara bisnis baru, dengan ratusan – suatu hari nanti ribuan – agen, manusia, dan sistem yang semuanya terus berinteraksi, menghasilkan puluhan ribu titik kontak. Alat-alatnya kuat dan peluangnya besar, tapi hanya jika kita bisa mendapatkan dan mempertahankan kepercayaan dalam setiap interaksi. Perusahaan yang menciptakan budaya kepercayaan yang transparan, berkelanjutan, dan otonom akan memimpin gelombang inovasi berikutnya.
Masa depan AI sedang dibangun. Pertanyaannya sederhana: apakah Anda akan membangunnya di atas kepercayaan?
Pendapat yang diutarakan dalam tulisan komentar Fortune.com adalah pendapat penulisnya dan tidak selalu mencerminkan pendapat dan keyakinan Fortune.
Fortune Global Forum kembali pada 26–27 Oktober 2025 di Riyadh. CEO dan pemimpin global akan berkumpul untuk acara eksklusif yang membentuk masa depan bisnis. Ajukan permohonan undangan.