Selamat datang di Eye on AI, bersama reporter AI Sharon Goldman. Di edisi ini: Pengeluaran AI CFO Microsoft hadapi kekhawatiran gelembung teknologi… Bagaimana AI bantu satu orang (dan saudaranya) bangun perusahaan senilai $1.8 miliar… Apple perketat larangan pada aplikasi vibe coding.
Sekarang AI bisa nulis kode lebih cepat daripada manusia mengetik. Dengan alat vibe coding seperti Claude Code dari Anthropic dan Codex dari OpenAI, para developer dengan senang hati membangun dan shipping dengan kecepatan yang tidak terbayangkan setahun lalu. Bahkan pembuat Claude Code, Boris Cherny, pamer bahwa versi terbarunya ditulis seluruhnya oleh—ya—Claude Code.
Tapi, walau vibe coding mungkin cepat, itu juga bisa bawa bug dan kerentanan yang halus. Dan kesalahan manusia belum hilang: Claude Code sekarang diselidiki setelah kode sumbernya sendiri tidak sengaja bocor minggu ini karena kesalahan packaging.
Untuk perusahaan, kerentanan semacam ini tidak bisa diterima. Di perusahaan besar dengan basis kode yang luas, ini bukan cuma soal nulis kode lebih cepat—tapi juga memastikan kodenya benar, aman, dan sesuai dengan sistem internal dan kewajiban eksternal. Saat alat AI mulai hasilkan kode siap produksi otomatis, hambatannya bergeser dari menulis perangkat lunak ke memverifikasinya. Dan dalam skala perusahaan, di mana jutaan perubahan kode bisa mengalir tiap tahun, bahkan kesalahan kecil bisa cepat jadi risiko besar.
Itu bikin saya mikirin sebuah wawancara yang saya lakukan dua tahun lalu dengan Itamar Friedman, CEO dan pendiri Qodo, alat tinjauan kode AI yang baru dapat dana $70 juta untuk atasi masalah "AI slop" di basis kode.
Saat saya ajak Friedman bicara awal 2024, dia bicara soal "flow engineering"—sistem di mana satu model buat kode dan model lain mengkritiknya, tambah lapisan pengujian dan refleksi. Tapi bahkan saat itu, sudah jelas bahwa menghasilkan kode jauh lebih mudah daripada memastikannya akurat dan bekerja baik, dan bahwa "integritas kode" itu kunci.
Dalam obrolan kemarin, Friedman berargumen bahwa alat coding AI masa kini, didukung LLM, dirancang untuk menyelesaikan tugas, bukan mempertanyakannya—membuat lapisan "governance and trust" terpisah sangat penting untuk tentukan apa yang seharusnya (dan tidak seharusnya) di-ship.
"AI tidak cukup kalau bicara soal kualitas perangkat lunak dunia nyata dan tata kelola kode," katanya. "Yang kamu butuhkan sebenarnya adalah kebijaksanaan organisasi." Dia jelaskan bahwa sebagai developer di organisasi besar, buat kode berkualitas bukan cuma soal jadi pintar. Tapi soal tahu bagaimana perusahaan tertentu melakukan sesuatu—semua pengetahuan tribal di dalam organisasi.
Qodo, jelasnya, analisis bagaimana developer di suatu organisasi sebenarnya menulis dan meninjau kode—lihat pull request, komentar, dan perubahan masa lalu—dan ubah itu menjadi seperangkat aturan yang definisikan seperti apa "baik" bagi perusahaan itu. Aturan itu lalu diterapkan otomatis, tandai kode baru yang melanggarnya.
Di era AI, tantangan bagi perusahaan adalah mereka ingin bergerak lebih cepat, tapi tidak punya kebebasan untuk ubah basis kode mereka kecuali mereka yakin kodenya akan tetap terpercaya.
"Itulah kesenjangan yang kami coba tutup," kata Friedman, yang pernah jadi direktur machine vision di Alibaba sebelum luncurkan Qodo di 2022. Klien Qodo, termasuk Walmart, Nvidia, Ford dan Texas Instruments, ingin bergerak cepat, tapi mereka juga tahu sistem mereka bergantung pada lapisan pengetahuan dan batasan yang terakumulasi.
Lanskap vibe coding masa kini, tambahnya, overestimasi seberapa banyak alat ini bisa dipercaya dalam jangka pendek—dan meremehkan betapa lapisan kepercayaan dibutuhkan untuk membuatnya layak di dunia nyata untuk jangka panjang.
Dengan itu, ini berita AI lainnya.
Sharon Goldman
[email protected]
@sharongoldman
FORTUNE ON AI
- Asia’s AI playbook gets a reality check as the Iran war sends energy prices higher and snarls supply chains – oleh Angelica Ang
- AI ‘slop’ is flooding YouTube Kids—and more than 200 groups and experts are calling for a ban – oleh Catherina Gioino
- AI models will secretly scheme to protect other AI models from being shut down, researchers find – oleh Jeremy Kahn
- Anthropic mistakenly leaks its own AI coding tool’s source code, just days after accidentally revealing an upcoming model known as Mythos – oleh Beatrice Nolan
AI IN THE NEWS
- Microsoft CFO’s AI spending runs up against tech bubble fears. Profil Bloomberg ini detailkan bagaimana CFO Microsoft Amy Hood muncul sebagai salah satu figur paling berpengaruh—dan kontroversial—yang bentuk strategi AI perusahaan, ditugaskan untuk jalan di antara pengeluaran infrastruktur yang melonjak dan risiko tertinggal dalam lomba AI.
- How AI helped one man (and his brother) build a $1.8 billion company. Menurut New York Times, pengusaha Matthew Gallagher gunakan seperangkat alat AI untuk luncurkan Medvi, perusahaan telemedisin yang jual obat pelangsing, dengan hanya $20,000 dan hampir tanpa staf—naikkan skalanya ke pendapatan $401 juta di tahun pertama dan proyeksikan $1.8 miliar tahun ini dengan hanya satu karyawan penuh-waktu (saudaranya).
- Apple kicks vibe coding app out of App Store, escalating crackdown. Apple telah perketat larangan pada aplikasi "vibe coding" dengan hapus aplikasi pembuat berbasis AI bernama Anything dari App Store, menurut laporan The Information. Perusahaan sebut aturan melawan aplikasi yang jalankan kode yang belum ditinjau.
EYE ON AI NUMBERS
53%
Itulah persentase bisnis AS yang akan izinkan agen AI untuk negosiasi harga atau syarat langsung dengan agen AI lain atas nama mereka, menurut Laporan Business-to-AI (B2AI) Visa.
AI CALENDAR
- 6-9 April: HumanX, San Francisco.
- 8-10 Juni: Fortune Brainstorm Tech, Aspen, Colorado.
- 6-11 Juli: International Conference on Machine Learning (ICML), Seoul, Korea Selatan.
- 7-10 Juli: AI for Good Summit, Geneva, Switzerland.
- 4-6 Agustus: Ai4, Las Vegas, Nevada.