Chip AI baru terlihat muncul di pasar dengan cepat sekali. Perusahaan teknologi berebut untuk jadi yang terkuat dalam perlombaan global untuk kekuatan komputasi.
Tapi itu menimbulkan pertanyaan: Apa yang terjadi pada semua chip-generasi lama itu?
Boom saham AI sudah kehilangan banyak tenaga dalam beberapa minggu terakhir. Salah satu sebabnya adalah kekhawatiran bahwa perusahaan hyperscaler tidak menghitung penyusutan dengan benar untuk banyak chip yang mereka beli untuk chatbot.
Michael Burry—investor terkenal dari Big Short yang meramalkan krisis perumahan 2008—memberi peringatan bulan lalu. Dia bilang keuntungan di era AI dibangun dari "salah satu penipuan umum di era modern," yaitu memperpanjang jadwal penyusutan. Dia perkirakan Big Tech akan kurang hitung penyusutan sebanyak $176 miliar antara 2026 dan 2028.
Tapi menurut catatan dari Alpine Macro minggu lalu, ketakutan soal penyusutan chip itu dilebih-lebihkan untuk tiga alasan.
Pertama, analis tunjukkan bahwa kemajuan perangkat lunak yang menyertai chip generasi baru juga bisa tingkatkan prosesor generasi lama. Misalnya, perangkat lunak bisa meningkatkan kinerja chip A100 Nvidia yang sudah berusia lima tahun menjadi dua sampai tiga kali lipat dari versi awalnya.
Kedua, Alpine bilang kebutuhan untuk chip lama masih kuat karena permintaan untuk inference meningkat. Inference adalah saat chatbot memberikan respon ke pertanyaan. Bahkan, permintaan untuk inference akan jauh lebih besar dari permintaan untuk pelatihan AI di tahun-tahun mendatang.
"Untuk inference, hardware terbaru membantu tapi sering tidak penting, jadi kuantitas chip bisa menggantikan kualitas tercanggih," tulis analis. Mereka tambahkan bahwa Google masih menjalankan TPU berusia tujuh sampai delapan tahun dengan pemanfaatan penuh.
Ketiga, China terus tunjukkan permintaan yang "tidak pernah puas" untuk chip AI. Pasokan mereka "tertinggal beberapa generasi dalam kualitas dan beberapa kali lipat dalam kuantitas" dibanding AS. Dan meskipun Beijing larang beberapa chip AS, pasar gelap akan terus layani kekurangan China.
Sementara itu, tidak semua chip yang dipakai di AI milik hyperscaler. Bahkan prosesor grafis di konsol game sehari-hari bisa bekerja.
Sebuah catatan dari Yardeni Research minggu lalu tunjuk ke "AI terdistribusi," yang memanfaatkan chip yang tidak terpakai di rumah, server crypto-mining, kantor, universitas, dan pusat data untuk bertindak sebagai jaringan virtual global.
Meskipun AI terdistribusi bisa lebih lambat dari sekelompok chip di satu pusat data, arsitektur jaringannya bisa lebih tahan banting jika satu komputer atau sekelompok komputer gagal, tambah Yardeni.
"Meskipun kami tidak bisa pastikan berapa banyak GPU yang terhubung dengan cara ini, AI Terdistribusi pasti area yang menarik untuk diperhatikan. Terutama karena miliaran dolar dihabiskan untuk bangun pusat data besar baru," kata catatan itu.