Era baru Silicon Valley kini digerakkan oleh jejaring—bukan yang ada di LinkedIn.
Seiring industri teknologi menanamkan miliaran dolar ke pusat data AI, para pembuat chip, baik yang besar maupun kecil, sedang meningkatkan inovasi di sekitar teknologi yang menghubungkan chip dengan chip lainnya, serta rak server dengan rak server lainnya.
Teknologi jaringan telah ada sejak masa awal komputer, dengan fungsi penting menghubungkan mainframe agar dapat berbagi data. Dalam dunia semikonduktor, jaringan berperan di hampir setiap tingkatan—dari interkoneksi antar transistor pada chip itu sendiri, hingga koneksi eksternal antar kotak atau rak berisi chip.
Raksasa chip seperti Nvidia, Broadcom, dan Marvell telah memiliki rekam jejak yang mapan di bidang ini. Namun, dalam gelombang AI, beberapa perusahaan mencari pendekatan jaringan baru untuk mempercepat aliran informasi digital yang masif di pusat data. Di sinilah startup deep-tech seperti Lightmatter, Celestial AI, dan PsiQuantum, yang menggunakan teknologi optik untuk mempercepat komputasi berkecepatan tinggi, mengambil peran.
Teknologi optik, atau fotonik, sedang menikmati masa jayanya. Teknologi ini dulu dianggap “menjemukan, mahal, dan kurang berguna” selama 25 tahun hingga boom AI membangkitkan kembali minat terhadapnya, menurut Pete Shadbolt, salah satu pendiri dan kepala petugas ilmiah PsiQuantum.
Beberapa modal ventura dan investor institusional, yang berharap menangkap gelombang inovasi chip berikutnya atau setidaknya menemukan target akuisisi yang sesuai, menanamkan miliaran dolar ke startup semacam ini yang telah menemukan cara baru untuk mempercepat throughput data. Mereka percaya bahwa teknologi interkoneksi tradisional, yang mengandalkan elektron, tidak mampu mengimbangi kebutuhan yang terus bertumbuh untuk beban kerja AI yang memerlukan pita lebar tinggi.
“Jika melihat ke belakang, jaringan dulu sangat membosankan untuk diliput, karena hanya memindahkan paket-paket bit,” kata Ben Bajarin, analis teknologi senior yang menjabat sebagai CEO firma riset Creative Strategies. “Sekarang, karena AI, ia harus memindahkan beban kerja yang cukup kompleks, dan itulah mengapa Anda melihat inovasi di sekitar kecepatan.”
Energi Chip Besar
Bajarin dan lainnya memberi penghargaan kepada Nvidia karena punya wawasan tentang pentingnya jaringan dengan melakukan dua akuisisi kunci bertahun-tahun yang lalu. Pada 2020, Nvidia menghabiskan hampir $7 miliar untuk mengakuisisi firma Israel, Mellanox Technologies, yang membuat solusi jaringan berkecepatan tinggi untuk server dan pusat data. Tak lama setelahnya, Nvidia membeli Cumulus Networks, untuk menggerakkan sistem perangkat lunak berbasis Linux mereka untuk jaringan komputer. Ini adalah titik balik bagi Nvidia, yang dengan tepat berasumsi bahwa GPU dan kemampuan komputasi paralelnya akan menjadi jauh lebih kuat ketika dikelompokkan dengan GPU lain dan ditempatkan di pusat data.
Sementara Nvidia mendominasi dalam tumpukan GPU yang terintegrasi secara vertikal, Broadcom telah menjadi pemain kunci dalam akselerator chip kustom dan teknologi jaringan berkecepatan tinggi. Perusahaan senilai $1,7 triliun ini bekerja sama dengan Google, Meta, dan belakangan ini, OpenAI, untuk chip pusat data. Mereka juga berada di garis depan dalam silikon fotonik. Dan bulan lalu, Reuters melaporkan bahwa Broadcom sedang mempersiapkan chip jaringan baru bernama Thor Ultra, yang dirancang untuk menyediakan “tautan kritis antara sistem AI dan sisa pusat data.”
Dalam earning call pekan lalu, raksasa desain semikonduktor ARM mengumumkan rencana untuk mengakuisisi perusahaan jaringan DreamBig senilai $265 juta. DreamBig membuat AI chiplets—sirkuit modular kecil yang dirancang untuk dikemas bersama dalam sistem chip yang lebih besar—bekerjasama dengan Samsung. Startup ini memiliki “kekayaan intelektual yang menarik … yang sangat kunci untuk scale-up dan scale-out networking,” kata CEO ARM Rene Haas dalam panggilan tersebut. (Ini berarti menghubungkan komponen dan mengirim data naik turun dalam satu kluster chip, serta menghubungkan rak-rak chip dengan rak lainnya.)
Cahaya Menyala
CEO Lightmatter Nick Harris telah menunjukkan bahwa jumlah daya komputasi yang dibutuhkan AI sekarang berlipat ganda setiap tiga bulan—jauh lebih cepat daripada yang diatur Hukum Moore. Chip komputer menjadi semakin besar. “Setiap kali Anda berada pada tingkat kecanggihan chip terbesar yang dapat dibangun, semua kinerja setelah itu berasal dari menghubungkan chip-chip tersebut bersama-sama,” kata Harris.
Pendekatan perusahaannya mutakhir dan tidak mengandalkan teknologi jaringan tradisional. Lightmatter membangun silikon fotonik yang menghubungkan chip bersama. Mereka mengklaim membuat mesin fotonik tercepat di dunia untuk chip AI, pada dasarnya sebuah susunan 3D silikon yang dihubungkan oleh teknologi interkoneksi berbasis cahaya. Startup ini telah mengumpulkan lebih dari $500 juta dalam dua tahun terakhir dari investor seperti GV dan T. Rowe Price. Tahun lalu, valuasinya mencapai $4,4 miliar.