Ada paradoks yang aneh di tengah cerita teknologi terbesar saat ini. GPU dan perangkat keras penting lainya yang dibeli banyak sekali oleh perusahaan besar untuk pusat data mereka, ternyata menjadi usang dengan cepat. Itulah pandangan dalam laporan baru yang bagus dari Research Affiliates, perusahaan yang mengatur strategi investasi sekitar $200 miliar. Penulis Chris Brightman—dia CEO RA—berpendapat bahwa perlombaan senjata AI telah menciptakan era industri baru. Di ekosistem yang berubah ini, perusahaan tidak "berinvestasi" dalam arti tradisional. Mereka mengganti peralatan dengan sangat cepat untuk menghasilkan penjualan. Ini mengubah arti dari belanja modal (capex).
“Mereka lebih mirip supermarket daripada perusahaan teknologi atau industri tradisional. Tapi barang yang dijual bukan bahan makanan. Itu adalah perangkat yang menjalankan model bahasa besar, pencarian vektor, dan produk lain,” kata Brightman dalam wawancara telepon. “Mereka dalam perlombaan senjata dimana mereka harus mengganti perangkat keras dengan sangat cepat, atau dengan kata lain, mengisi ulang rak mereka dengan buru-buru.” Masalahnya, kata Brightman, perusahaan besar itu rugi dari model bahasa besar, basis data vektor, dan produk lain yang mereka jual. Jadi, semakin banyak perangkat keras yang mereka beli, semakin banyak uang yang hilang. “Saat ini, masing-masing menggunakan AI untuk mempertahankan dominasi penting di bidang mereka, dan itu masuk akal,” kata Brightman. Tapi, dia menambahkan, pengeluaran besar untuk mempertahankan “parit” itu dan menjauhkan pesaing bisa menghasilkan keuntungan kecil di masa depan, dan merugikan profitabilitas mereka.
Dalam artikel, Brightman menyoroti lonjakan belanja modal AI yang naik dari $250 miliar di tahun 2024 menjadi $650 miliar tahun ini menurut perkiraan Bloomberg, setara 2% dari PDB. Hal ini membuat orang berpikir AI menjadi baja atau rel kereta api baru. Tapi seperti yang ditunjukkan Brightman, peralatan untuk bisnis itu sangat berbeda dengan perangkat untuk AI. “Pabrik baja dan rel kereta api mengalami penyusutan nilai selama 40 sampai 45 tahun,” tulisnya. Dia membandingkan masa pakai puluhan tahun itu dengan situasi di AI. Perusahaan besar seperti Microsoft, Amazon, Alphabet dan Meta menyusutkan nilai GPU dan perangkat keras mereka selama kira-kira 5 atau 6 tahun dalam laporan keuangan. Meski terlihat pendek, masa pakai sebenarnya lebih singkat lagi.
Dalam arti ekonomi, aset menjadi usang ketika pendapatan yang dihasilkannya tidak lagi menutupi biaya pembelian, biaya operasi, dan biaya modal. Menurut Brightman, angka industri menunjukkan perangkat keras AI kehilangan nilainya dalam sekitar tiga tahun. Sebagai bukti, dia mengutip data profitabilitas GPU H100 dari Nvidia. Di tahun kedua, sebuah H100 menghasilkan keuntungan $36.000 per tahun. Tapi di tahun keempat, produk itu rugi lebih dari $4.400. Tulis Brightman, “Masa pakai ekonomis perangkat keras AI jauh lebih pendek dari masa pakai akuntansinya.”
Bukan karena peralatannya rusak. Secara fisik, sebenarnya bisa bertahan lebih lama. Alasan perangkat keras AI cepat kehilangan kekuatan: Nvidia, AMD dan produsen lain membuat produk baru setiap tahun yang meningkatkan kekuatan komputasi per daya listrik yang digunakan. Karena perusahaan besar punya batasan energi, mereka terus mencari komputasi baru dengan sedikit tambahan listrik. Biasanya, jika produsen biasa menambah modal secepat perusahaan AI, mereka akan punya banyak peralatan yang bisa dipakai bertahun-tahun, tanpa perlu beli lagi. Tidak begitu di bisnis baru ini. Peralatan AI berkembang sangat cepat sehingga setiap tahun, perusahaan besar perlu mengganti sebagian besar modal mereka hanya untuk mempertahankan kapasitas yang sama. “Sebagian besar pengeluaran mereka bukan untuk pertumbuhan, tapi untuk ‘pemeliharaan’,” kata Brightman. Tapi, jumlah keseluruhannya sangat besar sehingga meski hanya sepertiga untuk ekspansi, itu masih cukup untuk menambah volume produk dan layanan yang bisa mereka berikan setiap tahun.
Perusahaan besar menggunakan AI, dan menderita kerugian besar, terutama untuk melindungi wilayah mereka
Dalam percakapan kami, Brightman menjelaskan masalah untuk raksasa AI. “Semakin mereka meningkatkan komputasi, semakin banyak uang yang hilang,” katanya. “Tapi mereka punya banyak alasan untuk melakukannya saat ini.” Keempat perusahaan besar ingin menyediakan fitur AI terbaik untuk meningkatkan layanan andalan mereka. Mereka tahu akan kehilangan kepemimpinan jika komponen AI mereka tidak terbaik. Amazon mendapat sebagian besar uangnya dari komputasi dan penyimpanan di awan. Mereka tidak bisa mendapatkan kembali biaya tambahan AI dari pelanggan, kata Brightman. “Tapi ini masuk akal karena jika Amazon tidak ikut perlombaan senjata, mereka akan kehilangan bisnis awan. Mereka butuh layanan AI sebagai bagian dari komponen awan.”
Untuk Microsoft, andalannya adalah perangkat lunak kantor yang menghasilkan pendapatan langganan, terutama di platform 360. Bisnis itu sekarang menghadapi persaingan ketat dari produk Google Docs dan Sheets. “Untuk melindungi bisnis yang ada dan mempertahankan pelanggan, Microsoft harus menawarkan layanan model AI, meski merugi dari belanja modal AI-nya,” jelas Brightman. Alphabet unggul dalam “pencarian”, dan menjadi penjual iklan online terbesar di dunia. Microsoft telah menantang dengan meluncurkan mesin pencari sendiri. “Untuk melanjutkan bisnis yang menguntungkan dan menjaga keunggulan, Alphabet butuh elemen AI, dan itu memerlukan investasi besar di pusat data,” kata Brightman.
Meta harus khawatir ketiga perusahaan lain menginvasi bisnis iklan media sosialnya yang sangat menguntungkan. “Orang datang ke platform mereka untuk melihat gambar dan video, dan itu membuat Meta mengeluarkan banyak uang untuk membuat konten yang mendukung iklan-iklan itu,” catat Brightman.
Meta pakai AI untuk menyesuaikan *feed* pengguna, mengurutkan konten di Instagram dan Facebook, serta memeriksa keamanan postingan. Mereka butuh itu semua agar tetap memimpin. Tapi, menurut Brightman, iklan mereka belum bisa hasilkan uang yang cukup untuk bayar pengeluaran besar-besaran demi fitur-fitur hebat tadi.
Brightman simpulkan bahwa lonjakan investasi AI tidak berarti kemajuan revolusioner ini akan menjadi pemutar keuntungan besar bagi Empat Besar. Ini lebih seperti senjata bagi setiap raksasa untuk mempertahankan wilayahnya. “Saat modal berganti cepat dan persaingan memaksa reinvestasi terus-menerus, pengeluaran luar biasa bisa pertahankan posisi kompetitif tanpa menciptakan nilai bagi pemegang saham,” ujarnya. Sekali lagi, masa pakai hal-hal yang memenuhi pusat data kita sangat singkat. Membeli GPU, contohnya, lebih mirip mengisi ulang stok supermarket daripada membangun pabrik yang bertahan puluhan tahun.
Di sisi lain, Brightman bilang ke saya bahwa alat-alat yang menghabiskan biaya besar bagi para juara ini sangat membantunya dalam menyiapkan analisis. “Setahun lalu, proyek ini akan butuh sembilan bulan untuk riset dan pemodelan. Tapi saya pakai Claude, ChatGPT, dan Gemini terbaik, gabungkan masukan mereka, dan selesaikan dari awal sampai akhir dalam tiga minggu,” ceritanya. Pengalaman Brightman ini menggambarkan ceritanya. Era industri baru ini mungkin jauh lebih menguntungkan bagi orang dan bisnis yang memakai produk berbasis AI, daripada bagi perusahaan yang menyediakannya.