Halo dan selamat datang di Eye on AI. Di edisi ini… Apakah layanan adalah perangkat lunak baru?… Mythos dari Anthropic bikin regulator keuangan dan banker panik… lebih banyak pergantian eksekutif di OpenAI… langkah-langkah ini mungkin artinya China akan segera lampaui AS dalam mengembangkan model AI terbaik… Apakah biaya inferensi AI jadi terlalu mahal?
Julien Bek tidak pernah menduga akan menjadi viral. Bek, seorang investor tahap awal di kantor London perusahaan modal ventura terkenal Sequoia dari Silicon Valley, bilang dia cuma mau menyoroti salah satu tesis investasi terbaru firma itu dan pakai tulisannya untuk perlihatkan startup-startup yang baru didanai Sequoia. Jadi dia menulis blog dengan judul “Layanan: Perangkat Lunak Baru” dan mengunggahnya ke media sosialnya. Dalam beberapa hari, tulisan itu mencapai lebih dari 1 juta dilihat di X. Sekarang hampir 3 juta. Sudah dapat lebih dari 450 ribu impresi di LinkedIn.
“Saya pasti tidak menyangka dapat jangkauan sebanyak ini,” kata Bek kepada saya dalam panggilan pekan lalu. Judul yang provokatif tentu membantu. Tapi tesis Bek juga menyentuh saraf. Singkatnya, dia pikir perusahaan $1 triliun berikutnya di dunia tidak akan jual perangkat keras atau perangkat lunak sebagai produk. Sebaliknya, ia akan jual sebuah hasil, dan gunakan perangkat lunak berbasis AI untuk bantu mencapainya, bersama keahlian manusia. Contohnya, alih-alih menjual perangkat lunak layanan pelanggan, perusahaan itu akan langsung menyediakan layanan pelanggan untuk klien, seperti yang dilakukan perusahaan outsourching saat ini. Tapi pendatang baru ini akan AI-native dari awal. Alih-alih jual teknologi hukum, perusahaan-perusahaan ini akan jual layanan hukum, dan seterusnya.
Contoh bagus perusahaan yang sudah jalankan model ini, yang pernah saya tulis sebelumnya, termasuk Robin AI dan Legora di bidang hukum, serta Dwelly di pasar properti. Ada juga Dystyl AI di bidang konsultasi, Rogo di layanan keuangan, dan WithCoverage di pasar broker asuransi. Bek pikir akan ada banyak, banyak lagi yang muncul. Dan dia yakin potensi pasarnya sangat besar, mencatat bahwa untuk setiap dolar yang perusahaan habiskan untuk perangkat lunak, mereka habiskan enam untuk layanan.
Kecerdasan vs. Pertimbangan
Bek sudah buat taksonomi untuk memikirkan kemungkinan-kemungkinan ini. Pertama, dia bedakan antara kecerdasan dan pertimbangan. Kecerdasan pada dasarnya apa pun yang punya definisi jelas antara jawaban benar dan salah—contohnya tugas dalam pengkodean, matematika, fisika, bahkan beberapa tugas di akuntansi, hukum, atau kedokteran. Model AI semakin mahir dalam memberikan kecerdasan. Di sisi lain, pertimbangan lebih tentang selera, intuisi profesional, dan perbedaan kualitatif halus tapi sering kritis yang butuh bakat dan pengalaman. Banyak perusahaan coba cari cara beri model AI kemampuan pertimbangan, tapi sebagian besar belum berhasil.
Kemudian dia lakukan analisis matriks yang memetakan bagaimana suatu layanan dinilai pada skala kecerdasan-pertimbangan di satu sumbu, dan apakah perusahaan cenderung sudah melakukan outsourcing layanan tertentu, atau melakukannya sendiri, di sumbu lainnya.
Pertama, Bek lihat tugas-tugas yang sudah di-outsource perusahaan ke penyedia layanan, seperti layanan hukum, audit, broker asuransi, dll. Lalu dia lihat bagian dari itu yang sebagian besar tentang kecerdasan, hanya butuh sedikit pertimbangan profesional manusia. Ini titik ideal yang menurut Bek siap untuk perusahaan layanan AI-native. “Jika [pelanggan] bayar $100 untuk suatu layanan, tapi kamu tawarkan layanan sama seharga $80, dan kamu masih bisa lakukan dengan margin kotor tinggi karena pakai banyak AI untuk berikan layanan itu, maka kami pikir itu sangat menarik,” katanya.
Bek sebut startup di kategori ini—banyak kecerdasan, sedikit pertimbangan, di kategori yang sudah biasa di-outsource pelanggan—sebagai “autopilot”. Dia bilang penggunaan istilah itu dalam esai viralnya jadi sumber banyak kesalahpahaman dan kritik yang salah. Dia tidak pakai istilah itu untuk artikan layanan bisa dilakukan sepenuhnya oleh agen AI dengan standar sama persis seperti ahli manusia. Maksudnya adalah proses yang menghasikan layanan ini bisa sebagian besar diotomatisasi, seperti cara autopilot bekerja di penerbangan—masih ada manusia yang memantau sistem dan menangani tugas tersulit (seperti lepas landas dan mendarat) dan siap mengambil alih jika ada masalah, tapi banyak prosesnya otomatis. Dia bandingkan ini dengan “copilot” AI, di mana ada lebih banyak interaksi antara ahli manusia dan sistem AI.
Saya tanya Bek tentang teori bahwa AI akan memungkinkan beberapa perusahaan untuk melakukan in-sourcing fungsi yang dulu di-outsource. Dia akui itu mungkin benar untuk beberapa fungsi, tapi tegaskan bahwa banyak hal yang tidak akan pernah di in-sourcing, baik karena persyaratan regulasi—misalnya audit keuangan, di mana perusahaan harus sewa firma independen—atau karena alasan yang dia sebut “lebih lunak”. Kategori terakhir ini termasuk hal-hal seperti konsultasi manajemen, yang ada sebagian untuk berikan validasi eksternal atas keputusan yang sudah ingin diambil manajemen—intinya membantu memperkuat argumen mereka ke dewan dan investor, dan, secara sinis, agar ada pihak lain yang disalahkan jika ternyata keputusan itu buruk. Logika ini berlaku bahkan di beberapa fungsi TI. Pepatah lama “tidak ada yang pernah dipecat karena menyewa IBM” ada alasannya.
Bukan cuma tagihan lebih rendah, tapi tagihan yang berbeda
Salah satu keuntungan terbesar yang mungkin dimiliki perusahaan AI-native, pikir Bek, adalah tentang penetapan harga. Bukan cuma perusahaan layanan berbasis AI berpotensi tarif lebih murah, mereka bisa menagih dengan cara berbeda. Banyak firma layanan di berbagai sektor selama ini menagih berdasarkan waktu. Menagih berdasarkan hasil mengubah segalanya. Menurut dia, saat kamu punya perusahaan kecil, cara terbaik untuk bersaing dengan perusahaan besar adalah dengan mengganggu mereka lewat harga. Tapi dia akui bahwa butuh waktu untuk membiasakan pelanggan dengan cara bayar yang beda. Contohnya, orang udah bicara tentang menghapus sistem "billable hour" di layanan hukum selama puluhan tahun. Tapi untuk banyak firma hukum, sistem itu masih dipakai.
Bek yakin ada tanda-tanda "billable hour" akan hilang, terutama karena AI. Memang sudah ada gerakan ke arah sana sebelum AI, tapi AI mempercepat. Meski begitu, dia tahu masih ada kendala. Beberapa perusahaan besar meminta "tarif per jam" dalam proposal mereka. Kalau kamu tawarkan harga yang beda, kamu mungkin tidak lolos seleksi karena formulirnya standar.
Bagaimana dengan margin? Investor suka bisnis software karena marginnya sangat tinggi. Setelah produk jadi, bisa diduplikasi dengan biaya hampir nol. Bisnis yang mengandalkan tenaga manusia tidak bisa seperti itu. Tapi Bek bilang situasinya tidak separah yang dibayangkan. Di bisnis broker asuransi, startup berbasis AI seperti WithCover bisa jual 10 kali lebih banyak per ahli daripada broker tradisional. "Jadi efisiensinya terbukti, setidaknya di beberapa kategori," katanya.
Dua biaya yang bisa jadi masalah adalah biaya inferensi AI dan biaya pemasaran. Biaya inferensi AI kadang sangat besar. Bek menyebut data dari CEO Sierra, bahwa margin laba kotornya mungkin sekitar 70%, bukan 90% seperti perusahaan SaaS murni. Tapi 70% tetap margin yang sehat. Tantangan biaya pemasaran masih belum terpecahkan. Penjualan layanan enterprise tidak bisa diskalakan seperti penjualan software.
Sequoia bukan satu-satunya investor dengan pemikiran ini. Perusahaan private equity bertaruh mereka bisa mengkonsolidasi bisnis non-software, menyuntikkan efisiensi berbasis AI, dan menjualnya dengan nilai lebih tinggi. Itu sebabnya OpenAI dan Anthropic membangun saluran penjualan lewat firma private equity. Tapi Bek pikir startup AI-native bisa merebut pangsa pasar lebih cepat daripada perusahaan lama yang berubah.
Dia mungkin benar. Perubahan itu sulit. Apalagi harus menciptakan ulang proses dan model bisnis yang sudah ada. Perusahaan lama punya hubungan dan kepercayaan pelanggan. Itu keunggulan besar, terutama untuk pekerjaan bernilai tinggi. Tapi pada titik tertentu, menawarkan hasil dengan harga lebih murah bisa menggoda banyak orang untuk mencoba AI-native.
Nah, berikut berita AI lainnya.
FORTUNE TENTANG AI
Kemampuan keamanan siber Mythos dari Anthropic butuh kerjasama internasional mendesak, kata ‘AI Godfather’ Yoshua Bengio — oleh Beatrice Nolan.
Eksklusif: Dokter dan pakar pendidikan yang pelajari dampak AI pada anak serukan penghentian 5 tahun di sekolah — oleh Catherina Gioino.
Komentar: ROI tersembunyi dari AI: Apa yang harus diukur pemimpin — oleh Beena Ammanath dan Jim Rowan.
AI DI BERITA
Model Mythos Anthropic buat regulator keuangan internasional khawatir. Pejabat keuangan global memperingatkan dalam pertemuan IMF dan Bank Dunia bahwa model AI canggih — khususnya Claude Mythos Anthropic — bisa berisiko sistemik dengan cepat menemukan dan mengeksploitasi kerentanan siber di bank dan infrastruktur penting. Pembuat kebijakan termasuk Andrew Bailey dari Bank of England dan kepala bank sentral EU Christine Lagarde bilang teknologi ini bisa mengubah keseimbangan antara penyerang dan pembela, mendorong seruan untuk koordinasi internasional, meski banyak regulator — terutama di Eropa — belum akses atau menilai modelnya sendiri.
NSA pakai model Mythos Anthropic meski dapat sebutan risiko rantai pasok. Menurut laporan eksklusif Axios dari dua sumber anonim. Tidak jelas bagaimana Badan Keamanan Nasional AS menggunakan model baru yang kuat ini, yang hanya dibuka Anthropic untuk sedikit organisasi untuk bantu perkuat pertahanan siber mereka. Menurut Anthropic, model ini punya kemampuan siber yang belum pernah ada, bisa temukan kerentanan zero-day dalam kode software dan rangkai beberapa kerentanan jadi serangan mandiri yang canggih. (Tapi metode yang sama bisa dipakai untuk tunjukkan kelemahan kepada pembela.) Penggunaan Mythos ini menempatkan NSA, yang bagian dari Departemen Perang, dan pemerintah AS dalam posisi aneh karena baru saja menetapkan Anthropic sebagai ‘risiko rantai pasok’ karena bersikap pada kontrak yang larang militer AS pakai model AI-nya untuk senjata otonom mematikan atau pengawasan massal warga AS. Di bawah penetapan itu, Departemen Perang dan semua kontraktornya harus berhenti pakai model AI Anthropic.
CEO Anthropic Dario Amodei adakan pembicaraan di Gedung Putih yang dilihat sebagai upaya ‘perjanjian damai’. Sang CEO bertemu dengan kepala staf Gedung Putih Susie Wiles. Tidak jelas persis apa yang didiskusikan di rapat dan berapa banyak bahas Mythos dan berapa banyak tentang penamaan ‘risiko rantai pasokan’ Anthropic. Tapi rapat itu digambarkan sebagai usaha kedua pihak untuk mencapai kesepakatan agar perselisihan mereda dan label risiko itu dihapus. Bisa baca lebih lanjut di The Washington Post.
Sementara itu, tantangan hukum Anthropic terhadap penamaan itu menuju sidang penting bulan Mei di pengadilan federal di Washington, D.C. Tapi beberapa ahli hukum rasa kemungkinan perusahaan untuk membalikkan keputusan di panel tiga hakim itu tidak bagus. Hakim yang sama, kebanyakan ditunjuk Trump, menolak memberikan Anthropic penangguhan untuk mencegah keputusan itu berlaku. Anthropic menang tantangan terpisah di pengadilan federal California, tapi karena Pentagon pakai dua undang-undang berbeda untuk keluarkan penamaan, dan salah satunya hanya bisa ditinjau oleh pengadilan federal D.C., maka labelnya tetap.
Amazon investasi hingga $25 miliar ke Anthropic. Amazon investasi tambahan $5 miliar di Anthropic, dengan potensi tambahan $20 miliar lagi tergantung pencapaian komersial, memperluas saham sebelumnya $8 miliar. Sebagai bagian kesepakatan, Anthropic rencana habiskan lebih $100 miliar untuk Amazon Web Services dalam dekade berikutnya, pakai infrastruktur dan chip Trainium sementara integrasikan platform Claude lebih dalam ke produk AWS. Kesepakatan ini juga jamin Anthropic akses ke kapasitas komputasi besar—termasuk lima gigawatt komputasi AI dan sumber daya inferensi yang diperluas di Asia dan Eropa—sambil lanjutkan kemitraan dengan penyedia lain seperti Google, Microsoft, dan CoreWeave. Baca lebih lanjut dari CNBC.
Tiga eksekutif senior OpenAI termasuk Kevin Weil hengkang dalam pergantian manajemen lagi. Eksekutif senior OpenAI Kevin Weil, yang dulunya salah satu pendiri Instagram, umumkan minggu lalu dia tinggalkan perusahaan. Weil dulunya wakil presiden produk di OpenAI sebelum pindah ke divisi baru AI untuk sains pada Oktober 2025. Tapi sekarang OpenAI tutup alat AI Prism untuk alur kerja ilmiah yang dikembangkan tim Weil, gabungkan kemampuannya ke produk Codex. Di hari yang sama saat Weil umumkan kepergiannya, dua eksekutif lain, Srinivas Narayanan (CTO aplikasi B2B OpenAI) dan Bill Peebles (yang pimpin tim model AI pembuat video Sora yang sekarang dihentikan), juga umumkan mereka pergi. Kepergian mereka tambahkan gelombang pergantian kepemimpinan di OpenAI tengah restrukturisasi yang lebih luas, mencerminkan keputusan perusahaan fokus pada produk enterprise dan pengkodean saat hadapi kompetisi semakin ketat dari Anthropic dan persiapkan untuk IPO potensial.
Startup dari alumni Google DeepMind dan OpenAI dihargai $4 miliar hanya beberapa bulan setelah didirikan. Startup berusia empat bulan bernama Recursive Superintelligence, mengumpulkan setidaknya $500 juta pada valuasi $4 miliar, lapor Financial Times. Lengan ventura Google, GV, pimpin putaran ini dengan dukungan dari Nvidia. Perusahaan bertujuan kembangkan bentuk AI baru yang mampu tingkatkan diri sendiri terus tanpa campur tangan manusia. Pendirinya termasuk Richard Socher (pendiri perusahaan genAI You.com dan sebelumnya pimpin riset AI di Salesforce), veteran Google DeepMind Tim Rocktäschel, dan mantan peneliti OpenAI Jeff Clune, Josh Tobin, dan Tim Shi.
PERHATIAN PADA RISET AI
AS masih memimpin dalam AI, tapi trennya tidak menguntungkan. Itu salah satu kesimpulan besar dari Indeks AI Tahunan Institut AI Berpusat pada Manusia Universitas Stanford, yang dirilis minggu lalu. (Indeksnya selalu memberikan gambaran bagus tentang perkembangan AI dan berisi sangat banyak informasi sampai butuh banyak newsletter untuk ringkas semuanya. Di sini saya hanya fokus pada poin geopolitik ini.)
Bertahun-tahun AS mendominasi AI di hampir setiap dimensi penting, tapi laporan baru ini catat bagaimana China hampir tutup celah itu: Model AS dan China bertukar tempat di puncak peringkat kinerja beberapa kali selama 2025, dan per Maret 2026 keunggulan model AS terdepan atas rival China-nya menyusut jadi hanya 2,7%, menurut Stanford. China sekarang pimpin AS dalam volume publikasi AI, kutipan, keluaran paten, dan instalasi robot industri, sementara AS masih hasilkan lebih banyak model tingkat atas dan paten berdampak tinggi—perbedaan yang mungkin tidak bertahan lama mengingat tren bakat. Jumlah sarjana AI yang pindah ke Amerika Serikat turun 89% sejak 2017, dengan penurunan yang semakin cepat—turun 80% dalam tahun terakhir saja, karena Administrasi Trump berlakukan pembatasan ketat pada visa pelajar dan kerja.
Dalam investasi, AS masih jauh lebih banyak belanjakan daripada China dalam modal swasta yang diungkap, tapi perbandingan itu mungkin kurang gambarkan total komitmen China, mengingat penggunaan ekstensifnya dana panduan pemerintah yang diperkirakan $912 miliar dikerahkan di berbagai industri sejak 2000. Gambaran penuhnya, seperti biasa, lebih rumit daripada narasi "Amerika menang" atau "China menang", tapi tentu saja AS mungkin tidak bisa pastikan punya keunggulan dalam AI. Baca selengkapnya di Indeks AI penuh.
KALENDER AI
23-27 April: Konferensi Internasional tentang Representasi Pembelajaran (ICLR), Rio de Janeiro, Brasil.
22-24 April: Google Next, Las Vegas, Nevada.
8-10 Juni: Fortune Brainstorm Tech, Aspen, Colorado. Ajukan kehadiran di sini.
17-20 Juni: VivaTech, Paris.
6-11 Juli: Konferensi Internasional tentang Pembelajaran Mesin (ICML), Seoul, Korea Selatan.
7-10 Juli: KTT AI untuk Kebaikan, Jenewa, Swiss.
MAKANAN OTAK
Apakah biaya inferensi AI jadi begitu mahal sampai pekerja manusia lebih baik? Hanya beberapa minggu lalu, semua orang bicara tentang "tokenmaxxing"—para pengembang bersaing satu sama lain untuk habiskan semua token yang tersedia di tingkat lisensi tertentu untuk model pengkodean top seperti Claude Code Anthropic dan Codex OpenAI.
Tapi, seperti biasa di AI, beberapa minggu adalah seumur hidup. Anthropic, alami kesusahan komputasi, batasi jumlah token yang bisa dipakai pengguna di beberapa tingkat harga selama jam sibuk. Sementara itu, model terbarunya, Claude Opus 4.7, juga konsumsi lebih banyak token dan lebih mahal untuk digunakan, per kueri, daripada pendahulunya. OpenAI juga baru ubah harga Codex-nya untuk tagih pengguna per token yang dikonsumsi, bukan per pesan. Hasilnya, beberapa perusahaan temukan biaya inferensi mereka melonjak. Sampai-sampai ada orang yang nge-post di thread Reddit Claude Code yang populer di kalangan developer, bilang mereka sudah "pecat" lima asisten AI coding dan menggantinya dengan dua developer manusia level menengah. (Kekurangannya, tulis orang itu, biaya kopi perusahaan sekarang jadi melonjak nih.)
Postingannya kayaknya cuma bercanda sih. Tapi itu memang mencerminkan perasaan banyak developer setelah kenaikan harga baru-baru ini. Biaya inferensi juga sekarang jadi tekanan besar—yang mungkin bakal memperlambat penyebaran AI di perusahaan-perusahaan besar.