Mitra Nvidia ini dapat membantu pusat data AI mengurangi konsumsi energi menjadi separuh.

HyperCube menggunakan teknologi pendinginan cairan canggih.

Sustainable Metal Cloud

Lonjakan kecerdasan buatan meningkatkan permintaan akan prosesor yang lebih kuat serta energi yang diperlukan untuk menjaga pusat data tetap dingin.

Itu merupakan peluang bagi perusahaan pusat data Sustainable Metal Cloud, yang mengoperasikan “pabrik kecerdasan buatan berkelanjutan” yang terdiri dari HyperCube-nya di Singapura dan Australia.

HyperCube tersebut berisi server yang dilengkapi dengan prosesor Nvidia yang tenggelam dalam minyak sintetis bernama polialfaolefin yang menarik panas dengan lebih efisien daripada udara. Perusahaan tersebut mengatakan platformnya mengurangi konsumsi energi hingga 50%, dibandingkan dengan teknologi pendinginan udara tradisional yang biasanya digunakan di pusat data.

“Ini memungkinkan hosting kepadatan tinggi untuk GPU. Ini memungkinkan jenis hosting yang perlu kita lihat untuk platform seperti [Nvidia’s] Grace Blackwell,” kata Tim Rosenfield, salah satu pendiri dan co-CEO Sustainable Metal Cloud, merujuk kepada generasi baru prosesor grafis AI Nvidia yang diumumkan pada Maret.

Firma berbasis Singapura ini juga mengatakan teknologi pendinginan cairannya 28% lebih murah untuk diinstal daripada solusi berbasis cairan lainnya. HyperCube dirancang untuk masuk ke pusat data apa pun dan dapat diterapkan di ruang kosong dalam pusat data yang sudah ada.

Kebanyakan pusat data belum siap untuk cairan jenis apa pun, baik itu pendinginan perendaman atau langsung ke chip. Pasar sedang mencari cara terbaik untuk menerapkan ini dan saya pikir akan ada beberapa cara.

Tim Rosenfield

Co-founder dan co-CEO, Sustainable Metal Cloud

“Solusi kami yang dikontainerisasi berarti kami dapat pergi ke mana saja dengan sangat cepat. Dan kami dapat membuka zona ketersediaan baru sebagai tanggapan terhadap permintaan dari pelanggan …,” kata Rosenfield.

MEMBACA  Permintaan kentang goreng mencerminkan konsumen yang tangguh karena tingkat keterikatan kentang goreng tetap stabil.

Ia mengatakan SMC sedang memperluas ke pasar lain seperti Thailand dan India.

Perusahaan ini sudah memiliki Nvidia dan Deloitte di antara mitra perusahaannya yang besar. SMC adalah mitra cloud pilihan Nvidia untuk komputasi dan AI dan menawarkan klaster GPU yang dirancang oleh raksasa chip tersebut. Pada bulan Juli, SMC mengumumkan kemitraan dengan Deloitte di mana akan memberikan akses ke infrastruktur komputasi GPU Nvidia untuk klien konsultan tersebut membangun aplikasi AI.

Pemerintah dan bisnis telah berlomba-lomba untuk menangkap dampak transformatif dari AI dan permintaan pusat data telah meledak sebagai hasilnya.

Negara-negara seperti Singapura, tempat SMC berkantor pusat, juga mencari untuk mengurangi konsumsi energi yang besar dengan mendorong pusat data “hijau” untuk mendukung ambisi AI-nya di mana negara tersebut telah berkomitmen lebih dari 500 juta dolar Singapura ($379,7 juta).

Sustainable Metal Cloud telah menerima pendanaan dari ST Telemedia Global Data Centres, operator pusat data terbesar di Asia yang didukung oleh investor negara Singapura, Temasek.

SMC saat ini sedang mengumpulkan $400 juta dalam ekuitas dan $550 juta dalam utang, dengan dana tersebut akan digunakan untuk ekspansi pusat data di luar Singapura, Bloomberg melaporkan, mengutip orang yang akrab dengan masalah tersebut.

Penggunaan pendinginan cairan semakin meningkat

Perusahaan teknologi semakin mempertimbangkan pendinginan cairan untuk pusat data mereka karena kebutuhan kinerja yang semakin meningkat juga meningkatkan risiko overheating.

Secara tradisional, pusat data memiliki lorong besar untuk memungkinkan udara dingin beredar karena overheating dapat menyebabkan kerusakan peralatan dan waktu tidak aktif. Secara teori, pendinginan cairan seharusnya memungkinkan fasilitas ini untuk menyimpan lebih banyak server ke dalam area yang sudah ada.

MEMBACA  Petunjuk, Jawaban, dan Bantuan untuk 20 Juli #139 di NYT Hari Ini

Giordano Albertazzi, CEO penyedia infrastruktur digital Vertiv, mengatakan kepada CNBC pada bulan Juni bahwa adopsi pendinginan cairan bisa meningkat pada tahun 2024. Penawaran manajemen termal Vertiv meliputi pendinginan udara dan cairan hibrida, serta pusat data sepenuhnya yang didinginkan dengan cairan.

Selama Computex Taipei pada bulan Juni, CEO Nvidia Jensen Huang mempromosikan manfaat teknologi pendinginan cairan langsung Supermicro, yang katanya menghemat energi dan menurunkan biaya di pusat data AI.

Server tenggelam dalam minyak dalam “hypercubes” mirip kontainer untuk menarik panas dengan efisien.

Sustainable Metal Cloud

CEO Supermicro Charles Liang mengatakan kepada CNBC pada bulan Juni bahwa pendinginan cairan memiliki efisiensi daya yang lebih besar yang menghasilkan kinerja yang lebih baik, polusi yang lebih sedikit, dan biaya energi yang lebih rendah.

Meskipun gemerlapnya, tantangan tetap ada dalam menerapkan pendinginan cairan, menurut Rosenfield dari SMC.

“Kebanyakan pusat data belum siap untuk cairan jenis apa pun, baik itu pendinginan perendaman atau langsung ke chip. Pasar sedang mencari cara terbaik untuk menerapkan ini dan saya pikir akan ada beberapa cara,” kata Rosenfield.

Albertazzi dari Vertiv mengatakan, “Masih banyak pendinginan udara yang terjadi di pusat data dan akan terus terjadi bahkan di pusat data AI dengan kepadatan tinggi penuh.”

\”