Meskipun pelatihan model bahasa besar (LLM) mendominasi fase pertama kecerdasan buatan (AI), inference diperkirakan bakal jadi pasar yang jauh lebih besar.
Pelatihan LLM itu berat soal komputasi dan lebih menantang secara teknis, sementara inference lebih fokus ke memori dan harus lebih efisien dari segi biaya karena prosesnya berjalan terus. Biasanya, GPU dan akselerator AI lainnya dikemas dengan memori bandwidth tinggi (HBM) untuk mengoptimalkan kinerja mereka di bagian ini.
Akankah AI menciptakan triliuner pertama di dunia? Tim kami baru saja merilis laporan tentang satu perusahaan yang jarang dikenal, disebut "Monopoli yang Tak Tergantikan", yang menyediakan teknologi penting yang dibutuhkan Nvidia dan Intel. Lanjutkan »
Namun, Nvidia (NASDAQ: NVDA), melalui "akuisisi" Groq baru-baru ini, dan Cerebras Systems (NASDAQ: CERBRAS) sekarang mulai melirik SRAM (memori akses acak statis) di dalam chip untuk mempercepat beban kerja AI untuk inference. Ini pendekatan baru, dan kedua perusahaan menggunakan SRAM dengan cara yang sangat berbeda. Memang, pakai SRAM bisa ningkatin kecepatan inference secara dramatis, tapi ukurannya besar, jadi ada trade-off antara ukuran chip, kapasitas memori, dan infrastruktur pusat data yang diperlukan untuk memberi daya dan mendinginkan chip.
Mari lihat dua pendekatan ini dan cari tahu saham semikonduktor mana yang posisinya lebih baik jadi pemimpin pasar inference.
(foto dari Yahoo Finance)
Cerebras: Apakah yang lebih besar itu lebih baik?
Untuk mengatasi ukuran fisik SRAM yang besar, Cerebras membuat chip sebesar wafer yang bisa muat banyak daya komputasi dan SRAM dalam satu chip. Tapi, ini punya masalah tambahan yang harus diatasi.
Pertama, proses pembuatan chipnya rumit dan sering ada cacat. Alasan Taiwan Semiconductor Manufacturing jadi monopoli virtual dalam pembuatan chip canggih adalah karena mereka bisa produksi chip tingkat lanjut dengan hasil tinggi, tapi target mereka untuk teknologi terbaru pun hanya sekitar 80%. Dengan chip sebesar wafer yang mahal, hasil seperti itu nggak cukup. Untuk atasi ini, Cerebras menambahkan inti ekstra supaya chipnya tetap bisa kerja meski ada cacat.
Selain itu, chip mereka butuh pendinginan dan manajemen daya khusus, makanya mereka nggak jual satu per satu, melainkan menjual atau menyewakannya sebagai bagian dari sistem rak server lengkap CS-3. Meskipun perusahaan ini bilang sistem mereka bisa melakukan inference 15 kali lebih cepat dari GPU, semua itu bikin solusinya jadi sangat mahal.
…
Nvidia: Keunggulan ekosistem
Dengan "akuisisi" Groq seharga $20 miliar, Nvidia punya unit pemrosesan bahasa (LPU) yang dirancang untuk inference. LPU juga pakai SRAM, tapi ukuran chipnya biasa. Kekurangannya, LPU hanya memakai sedikit SRAM di setiap chip, jadi mereka harus dihubungkan dengan LPU lain dalam kluster besar dan kompleks. Ini yang nurunin efisiensi.
Sebagai perbandingan, chip Cerebras enam kali lebih cepat. Chip mereka juga cenderung kaku dan cuma bisa digunakan untuk inference.
Tapi, satu keuntungan besar dari deal Nvidia adalah mereka sudah mengintegrasikan LPU ke platform software CUDA dan merancang sistem rak lengkap yang menggabungkan GPU dan LPU khusus untuk inference. GPU dengan HBM bisa mengatur fase prefill untuk memahami permintaan pengguna, sementara LPU ambil alih fase decode untuk memberikan jawaban. Karena pakai memori SRAM, LPU bisa merespons hampir tanpa jeda.
Saham yang lebih baik untuk dimiliki
Cerebras punya peluang untuk membalikkan pasar inference dan punya komitmen besar dari OpenAI yang bisa mendorong pertumbuhan besar. Namun, sahamnya diperdagangkan dengan valuasi yang sangat tinggi begitu masuk pasar (lebih dari 100 kali penjualan trailing), dan harus membuktikan bisa lebih dari sekadar pemain kecil di satu bidang.
Nvidia, di sisi lain, udah jadi pemimpin yang mapan dalam pelatihan LN. "Akuisisi" Groq-nya kayaknya langkah bagus yang harusnya bantu mereka jadi pemain penting di pasar inference. Dengan menggabungkan GPU dan LPU dalam server yang sama, mereka berhasil membawa produk khusus ini jadi mainstream. Jadi, saya pikir Nvidia adalah yang lebih oke untuk dibeli dari kedua saham ini.
Haruskah kamu beli saham Cerebras sekarang?
Sebelum beli saham Cerebras, pikirkan dulu:
Tim analis Motley Fool Stock Advisor baru aja nemu 10 saham terbaik yang mereka rekomendasikan… dan Cerebras System nggak termasuk di dalamnya.
Bayangin pas Netflix ada di daftar ntu pada 17 Desember 2004… kalo kamu invest $1.000, akan jadi $543.900! Atau sawaktu Nvidia masuk dadftar pada 15 April 2005… kalo kamu invest $1.000, akan menghasilkan $234.555!
Perlu di catet, rata-rata return total Stock Advisor adalah 337% — wow. Jangan sampai ketinggalan daftar 10 saham tebaru.
[Gali lebih!]