Model AI Llama Selanjutnya dari Meta Sedang Dilatih pada Klaster GPU ‘Lebih Besar dari Apapun’ Lainnya

Manajemen chip-chip sebanyak itu untuk mengembangkan Llama 4 kemungkinan akan menimbulkan tantangan teknik yang unik dan memerlukan banyak energi. Eksekutif Meta pada hari Rabu mengelak pertanyaan analis tentang kendala akses energi di bagian-bagian AS yang telah menghambat upaya perusahaan untuk mengembangkan kecerdasan buatan yang lebih kuat.

Menurut satu perkiraan, sebuah cluster 100.000 chip H100 akan membutuhkan 150 megawatt daya. Superkomputer lab nasional terbesar di Amerika Serikat, El Capitan, sebaliknya membutuhkan 30 megawatt daya. Meta berharap menghabiskan hingga $40 miliar dalam modal tahun ini untuk menyediakan pusat data dan infrastruktur lainnya, peningkatan lebih dari 42 persen dari tahun 2023. Perusahaan tersebut mengharapkan pertumbuhan pengeluaran yang lebih tinggi lagi tahun depan.

Biaya operasional total Meta telah tumbuh sekitar 9 persen tahun ini. Namun penjualan secara keseluruhan—sebagian besar dari iklan—telah melonjak lebih dari 22 persen, meninggalkan perusahaan dengan margin yang lebih besar dan keuntungan yang lebih besar meskipun memompa miliaran dolar ke dalam upaya Llama.

Sementara itu, OpenAI, yang dianggap sebagai pemimpin saat ini dalam pengembangan kecerdasan buatan canggih, terus menghabiskan uang meskipun membebankan pengembang untuk mengakses model-modelnya. Apa yang untuk saat ini masih merupakan usaha nirlaba telah mengatakan bahwa mereka sedang melatih GPT-5, penerus dari model yang saat ini menggerakkan ChatGPT. OpenAI mengatakan bahwa GPT-5 akan lebih besar dari pendahulunya, namun belum mengatakan apa pun tentang cluster komputer yang mereka gunakan untuk pelatihan. OpenAI juga telah mengatakan bahwa selain skala, GPT-5 akan menggabungkan inovasi lain, termasuk pendekatan baru yang baru-baru ini dikembangkan untuk penalaran.

CEO Sam Altman mengatakan bahwa GPT-5 akan menjadi “loncatan signifikan” dibandingkan dengan pendahulunya. Minggu lalu, Altman menanggapi laporan berita yang menyatakan bahwa model frontier berikutnya dari OpenAI akan dirilis pada bulan Desember dengan menulis di X, “berita palsu di luar kendali.”

MEMBACA  Membuat Gerakan yang Tidak Hanya Terfokus pada Teknologi

Pada hari Selasa, CEO Google Sundar Pichai mengatakan bahwa versi terbaru dari keluarga model kecerdasan buatan generatif Gemini sedang dalam pengembangan.

Pendekatan terbuka Meta terhadap kecerdasan buatan kadang-kadang kontroversial. Beberapa ahli kecerdasan buatan khawatir bahwa membuat model kecerdasan buatan yang jauh lebih kuat tersedia secara bebas bisa berbahaya karena bisa membantu para penjahat meluncurkan serangan siber atau mengotomatisasi desain senjata kimia atau biologis. Meskipun Llama disesuaikan sebelum rilis untuk membatasi perilaku buruk, relatif mudah untuk menghapus pembatasan-pembatasan ini.

Zuckerberg tetap optimis tentang strategi sumber terbuka, meskipun Google dan OpenAI mendorong sistem-sistem propietari. “Bagi saya, tampaknya cukup jelas bahwa sumber terbuka akan menjadi opsi yang paling hemat biaya, dapat disesuaikan, dapat dipercaya, performan, dan paling mudah digunakan yang tersedia bagi para pengembang,” katanya pada hari Rabu. “Dan saya bangga bahwa Llama memimpin jalan dalam hal ini.”

Zuckerberg menambahkan bahwa kemampuan baru dari Llama 4 seharusnya dapat menggerakkan serangkaian fitur yang lebih luas di seluruh layanan Meta. Saat ini, penawaran unggulan berdasarkan model-model Llama adalah chatbot serupa ChatGPT yang dikenal sebagai Meta AI yang tersedia di Facebook, Instagram, WhatsApp, dan aplikasi lainnya.

Lebih dari 500 juta orang menggunakan Meta AI setiap bulan, kata Zuckerberg. Seiring berjalannya waktu, Meta mengharapkan akan menghasilkan pendapatan melalui iklan dalam fitur tersebut. “Akan ada serangkaian pertanyaan yang lebih luas yang orang gunakan untuk itu, dan peluang moneter akan ada seiring waktu saat kita sampai di sana,” kata CFO Meta Susan Li pada panggilan Rabu. Dengan potensi pendapatan dari iklan, Meta mungkin saja bisa mensubsidi Llama untuk orang lain.

MEMBACA  GP Miami: Lando Norris dari McLaren mengalahkan Verstappen dalam kemenangan F1 pertamanya | Berita Motorsport