Bulan lalu, asisten AI cerdas bernama OpenClaw yang menjanjikan untuk mengatur kalender, check-in penerbangan, membalas email, dan mengatur file-mu menjadi viral. Dalam beberapa minggu, peneliti keamanan menemukan lebih dari 30.000 *instansi* yang terbuka di internet. Seorang peneliti keamanan AI dari Meta hanya bisa melihat tak berdaya saat AI itu menghapus kotak masuknya sebelum dia bisa menghentikannya. Alat itu menjadi contoh bagaimana AI tanpa aturan terlihat di dunia nyata.
Bagi para pendiri JetStream Security, sebuah startup dari San Francisco yang dibangun oleh veteran CrowdStrike, SentinelOne, dan Cohesity, ini adalah contoh masalah yang ingin mereka selesaikan. Perusahaan berlomba menggunakan agen AI dan model buatan sendiri, tetapi kebanyakan tidak punya cara untuk memetakan apa yang dilakukan sistem itu. Mereka tidak punya daftar alat AI tak resmi yang diam-diam dipakai karyawan, dan tidak punya tombol darurat saat ada masalah.
Jawaban JetStream dibangun di sekitar fitur bernama **Cetak Biru AI** – grafik waktu-nyata yang memetakan semua hal yang dilakukan sistem AI di dalam sebuah organisasi. Setiap Cetak Biru melacak seluruh rantai aktivitas: agen mana yang berjalan, model apa yang dipakai, data dan alat apa yang berinteraksi, serta siapa atau apa di balik setiap tindakan. Daripada hanya gambaran statis, Cetak Biru melacak perilaku langsung. Jadi jika sistem AI mulai bertindak di luar tujuannya, platform akan memberi tanda. Mereka juga melacak biaya, menunjukkan berapa yang dihabiskan setiap alur kerja AI dan siapa yang bertanggung jawab.
Perusahaan yang didirikan oleh Raj Rajamani, Jared Phipps, Jatheen “AJ” Anand, dan Venu Vissamsetty ini sudah mengumpulkan dana awal $34 juta. Pendanaan dipimpin Redpoint Ventures, dengan partisipasi dari Falcon Fund dan investor seperti CEO CrowdStrike George Kurtz, CEO Wiz Assaf Rappaport, dan Wakil Ketua Okta Frederic Kerrest.
Mengatasi Celah Adopsi
Dengan pengeluaran global untuk AI diperkirakan akan mencapai $650 miliar tahun ini, dan debat tentang apakah AI memberikan keuntungan nyata untuk perusahaan masih panas, minat terhadap tata kelola AI perusahaan semakin besar.
Kekhawatiran tentang risiko keamanan adalah faktor besar yang menghambat adopsi AI oleh bisnis besar. Perusahaan hati-hati untuk mendorong staf bereksperimen dengan alat atau membiarkan sistem “kotak hitam” mengakses data bertahun-tahun.
“Adopsi AI bukan tantangan teknologi, tapi tantangan kepercayaan,” kata Rajamani kepada Fortune. “Para pemimpin diminta untuk mempertaruhkan bisnis dan karir mereka pada sistem yang tidak bisa sepenuhnya mereka lihat, jelaskan, atau kendalikan. Di situlah kepercayaan hancur.”
Sebagian masalahnya adalah perusahaan sering tidak tahu berapa banyak AI yang sudah mereka jalankan, kata Phipps. Beberapa penelitian menunjukkan bahwa sekitar 70% organisasi percaya mereka punya *shadown* AI – di mana karyawan diam-diam memakai alat tidak resmi di luar kendali TI.
Phipps mengatakan pekerjaan awal JetStream dengan pelanggan menunjukkan kenyataannya biasanya lebih buruk dari yang mereka pikirkan. Satu hal yang sering dia lihat adalah karyawan tak sengaja menempel data sensitif perusahaan ke akun ChatGPT atau Claude pribadi, sehingga informasi rahasia langsung di luar kendali bisnis. Risiko yang sama berlaku untuk pengembang, yang rutin mengunduh plugin AI langsung dari internet tanpa sepengetahuan TI, seringkali membawa celah keamanan.
“Mereka mencurahkan seluruh hidupnya untuk membangun bisnis,” katanya tentang pemilik bisnis, “dan dalam satu kesalahan, mereka bisa kehilangan aspek intinya.”
JetStream sudah memiliki sekitar 40 karyawan dan mengatakan mendapat minat kuat dari berbagai organisasi – dari firma FinTech kecil hingga bank global, maskapai penerbangan, dan perusahaan Fortune 500 lainnya. Perusahaan berencana menggunakan dana baru yang terkumpul untuk tim teknik, produk, dan pemasaran.
Rajamani ingin JetStream menjadi CrowdStrike-nya tata kelola AI. Namun perusahaan ini juga mungkin menghadapi persaingan dari penyedia besar seperti Microsoft, Google, dan laboratorium AI terdepan di masa depan saat mereka masuk ke wilayah serupa.
“Pada saat kamu menyadari AI tidak bekerja sempurna di bisnismu, kerusakannya sudah terjadi,” kata Phipps, mengabaikan potensi persaingan masa depan. “Semua orang perlu fokus pada tata kelola. Sejujurnya, semua orang harus peduli — karena semua orang punya risiko.”