Buka Editor’s Digest secara gratis
Roula Khalaf, Editor FT, memilih cerita favoritnya dalam newsletter mingguan ini.
Pemasok Nvidia mempercepat produksi pusat data AI andalannya “rak” setelah masalah teknis yang menunda pengiriman terselesaikan, sementara perusahaan chip AS ini meningkatkan penjualan globalnya.
Mitra raksasa semikonduktor ini — termasuk Foxconn, Inventec, Dell, dan Wistron — telah membuat beberapa terobosan sehingga bisa mulai mengirim server AI “Blackwell” Nvidia yang ditunggu-tunggu, menurut beberapa orang yang mengetahui perkembangan di grup-grup tersebut.
Perbaikan baru-baru ini jadi dorongan untuk CEO Jensen Huang, yang memperkenalkan Blackwell tahun lalu dengan janji akan meningkatkan daya komputasi untuk melatih dan menggunakan model bahasa besar.
Masalah teknis yang muncul akhir tahun lalu sempat mengganggu produksi, mengancam target penjualan tahunan ambisius perusahaan AS ini.
Rak AI GB200 mencakup 36 unit pemroses sentral “Grace” dan 72 unit pemroses grafis Blackwell, terhubung melalui sistem komunikasi NVLink Nvidia.
Unit CPU/GPU GB200 Grace/Blackwell Nvidia dipamerkan di konferensi Computex di Taiwan © Annabelle Chih/Bloomberg
Di konferensi Computex di Taipei pekan lalu, mitra Taiwan Nvidia — Foxconn, Inventec, dan Wistron — mengatakan pengiriman rak GB200 dimulai akhir kuartal pertama. Kapasitas produksi kini ditingkatkan dengan cepat, tambah mereka.
“Tes internal kami tunjukkan masalah konektivitas… rantai pasok bekerja sama dengan Nvidia untuk menyelesaikannya, yang terjadi dua sampai tiga bulan lalu,” kata seorang insinyur di salah satu mitra produsen Nvidia.
Perkembangan ini muncul sebelum laporan pendapatan kuartalan Nvidia pada Rabu, di mana investor akan mencari tanda bahwa pengiriman Blackwell berjalan lancar setelah masalah teknis awal.
Arab Saudi dan Uni Emirat Arab baru-baru ini umumkan rencana untuk membeli ribuan chip Blackwell selama kunjungan Presiden Donald Trump ke Teluk, saat Nvidia melihat negara-negara selain perusahaan “hyperscaler” Big Tech untuk diversifikasi basis pelanggannya.
Mitra rantai pasok Nvidia telah menghabiskan berbulan-bulan mengatasi tantangan dengan rak GB200, termasuk kepanasan akibat 72 GPU berkinerja tinggi dan kebocoran di sistem pendingin cair.
Insinyur juga sebut bug perangkat lunak dan masalah konektivitas antar-chip akibat kompleksitas sinkronisasi begitu banyak prosesor.
“Teknologi ini sangat rumit. Belum ada perusahaan yang coba buat sebanyak ini prosesor AI bekerja bersamaan dalam server sebelumnya, dan dalam waktu singkat,” kata Chu Wei-Chia, analis di SemiAnalysis yang berbasis di Taipei.
“Nvidia tidak beri rantai pasok cukup waktu untuk siap sepenuhnya, makanya ada penundaan. Risiko inventaris GB200 akan berkurang saat produsen tingkatkan produksi rak di paruh kedua tahun ini,” tambah Chu.
Agar penyebaran lebih lancar untuk pelanggan besar seperti Microsoft dan Meta, pemasok perkuat protokol pengujian sebelum pengiriman, lakukan lebih banyak pemeriksaan untuk pastikan rak berfungsi untuk beban kerja AI.
Nvidia juga bersiap untuk meluncurkan rak AI GB300 generasi berikutnya, yang memiliki kemampuan memori lebih baik dan dirancang untuk model penalaran lebih kompleks seperti OpenAI 01 dan DeepSeek R1. Huang pekan lalu bilang GB300 akan rilis di kuartal ketiga.
Sistem AI GB300 generasi baru Nvidia sedang dipersiapkan © David Paul Morris/Bloomberg
Untuk percepat penyebaran, Nvidia kompromi di beberapa aspek desain GB300. Awalnya mereka rencanakan tata letak papan chip baru bernama “Cordelia,” yang memungkinkan penggantian GPU individu.
Tapi April lalu, perusahaan memberi tahu mitra akan kembali ke desain “Bianca” sebelumnya — yang digunakan di rak GB200 saat ini — karena masalah instalasi, menurut dua pemasok.
Keputusan ini bisa bantu Nvidia capai target penjualan. Februari lalu perusahaan bilang menargetkan sekitar $43 miliar penjualan untuk kuartal hingga akhir April, rekor yang naik sekitar 65% dari tahun lalu.
Analis bilang papan Cordelia bisa beri potensi margin lebih baik dan memudahkan pelanggan melakukan perawatan.
Nvidia tidak tinggalkan Cordelia dan telah beri tahu pemasok rencananya untuk terapkan desain ulang dalam chip AI generasi berikutnya, menurut tiga orang yang mengetahui hal ini.
Di sisi lain, Nvidia berupaya mengimbangi kerugian pendapatan di China, setelah larangan pemerintah AS atas ekspor chip H20 — versi lebih ringan dari prosesor AI-nya. Perusahaan memperkirakan kerugian $5,5 miliar terkait larangan ini, karena penghapusan inventaris dan komitmen pembelian.
Pekan lalu, analis Bank of America Vivek Arya tulis bahwa penurunan penjualan di China akan tarik margin kotor Nvidia untuk kuartal ini dari 71% yang sebelumnya diindikasikan menjadi sekitar 58%.
Tapi dia tulis peluncuran Blackwell lebih cepat dari perkiraan karena perusahaan kembali ke papan Bianca bisa bantu imbangi dampak pendapatan China di paruh kedua tahun ini.