Hari ini, Perusahaan Asuransi Kecerdasan Buatan (AIUC) muncul dari mode “stealth” dengan dana awal $15 juta dipimpin oleh Nat Friedman di NFDG. Mereka juga didukung oleh Emergence, Terrain, dan investor terkenal termasuk salah satu pendiri Anthropic, Ben Mann, serta mantan CISO dari Google Cloud dan MongoDB. Tujuan mereka? Membangun infrastruktur asuransi, audit, dan sertifikasi untuk memastikan AI bisa digunakan dengan aman di dunia bisnis.
Benar sekali: Asuransi untuk agen AI. Rune Kvist, CEO dan pendiri AIUC, bilang bahwa asuransi untuk agen AI—sistem otonom yang bisa ambil keputusan tanpa pengawasan manusia—akan jadi bisnis besar. Kvist dulu bekerja di Anthropic di tahun 2022. Timnya juga termasuk Brandon Wang (CTO), seorang Thiel Fellow yang pernah dirikan bisnis asuransi konsumen, dan Rajiv Dattani, mantan partner McKinsey yang fokus di sektor asuransi global.
Bikin insentif finansial untuk kurangi risiko pakai AI
AIUC punya kerangka kerja keamanan baru bernama AIUC-1, dibuat khusus untuk agen AI. Mereka gabungkan standar seperti NIST AI Risk Management Framework, EU AI Act, dan MITRE’s ATLAS. Tujuannya sederhana: bikin perusahaan lebih percaya diri pakai AI, sama kayak keamanan cloud atau privasi data.
“Asuransi penting karena bikin insentif finansial untuk kurangi risiko,” kata Kvist ke Fortune. “Kami akan lacak di mana masalah muncul, dan perusahaan asuransi bisa memaksa langkah-langkah tertentu untuk dapat sertifikasi.”
Meski ada startup lain yang kerja di asuransi AI, Kvist bilang AIUC-1 adalah standar pertama yang fokus cegah risiko. “Asuransi dan standar harus jalan bareng untuk bikin orang percaya pakai AI,” ujarnya.
John Bautista, partner di firma hukum Orrick, bilang AIUC-1 bantu atasi ambiguitas hukum. “Perusahaan butuh standar jelas yang memudahkan adopsi AI,” katanya.
Perusahaan independen sangat dibutuhkan
Perkembangan teknologi di AS selalu melibatkan asuransi. Benjamin Franklin dirikan perusahaan asuransi kebakaran pertama. Abad ke-20, perusahaan seperti UL Labs muncul untuk uji keamanan alat listrik. Asuransi mobil juga bantu lahirkan standar uji tabrak.
AIUC percaya sejarah akan terulang. “Bukan Toyota yang uji tabrak mobil, tapi badan independen,” kata Kvist. “Kita butuh ekosistem independen untuk pastikan agen AI bisa dipercaya.”
Untuk itu, AIUC tawarkan tiga hal: standar, audit, dan perlindungan risiko. AIUC-1 jadi dasar teknis, audit uji kinerja dunia nyata, dan asuransi cover kerugian jika agen AI berbuat salah.
Misal, jika agen penjualan AI bocorkan data pelanggan, atau asisten keuangan beri info pajak salah, asuransi ini bisa cover dampaknya. Kvist bilang, insentif finansial adalah kuncinya. Sama seperti mobil dengan airbag dapat premi lebih murah, AI yang lulus audit AIUC-1 bisa dapat syarat asuransi lebih baik.
Pakai asuransi untk sejajarkan insentif
Menurut AIUC, pasar—bukan cuma pemerintah—bisa dorong pengembangan AI yang bertanggung jawab. Regulasi “sulit dibuat tepat,” kata Kvist. Tapi serahkan ke perusahaan seperti OpenAI atau Google juga bukan solusi. Asuransi bisa jadi jalan tengah.
Kvist bandingkan AIUC-1 dengan SOC-2, standar keamanan yang bantu startup dapat kepercayaan pelanggan. Dia prediksi, asuransi agen AI akan jadi umum seperti asuransi siber hari ini—bahkan bisa capai $500 miliar di 2030.
AIUC sudah kerja sama dengan beberapa perusahaan dan mitra asuransi (nama belum bisa diungkap). Mereka bergerak cepat untuk jadi patokan keamanan agen AI di industri.
Investor seperti Nat Friedman setuju. Sebagai mantan CEO GitHub, Friedman alami sendiri masalah kepercayaan saat luncurkan GitHub Copilot. “Pelanggan ragu pakai karena risiko hak cipta,” kata Kvist. Friedman akhirnya investasi di AIUC setelah rapat 90 menit.
Kvist bilang, dalam beberapa tahun, asuransi agen AI akan jadi hal biasa. “Agen AI berjanji lakukan pekerjaan untukmu. Tanggung jawabnya lebih besar, jadi minatnya juga lebih besar,” ujarnya.
Aku suka banget makan nasi goreng. Tiap hari aku selalu beli di warung dekat rumah. Rasanya enak banget dan harganya murah. Kadang-kadang aku juga pesen telur dadar biar lebih lengkap. Penjualnya ramah banget!
*Note: There’s one typo (“pesen” instead of “pesan”) and it’s simplified for B1 level.*