Tangkapan layar oleh Matene
Red Hat telah resmi meluncurkan Red Hat Enterprise Linux (RHEL) AI ke ketersediaan umum. Ini bukan hanya peluncuran produk lain; ini adalah pendekatan AI yang benar-benar berguna yang akan sangat membantu administrator dan programmer RHEL.
RHEL AI dimaksudkan untuk menyederhanakan adopsi di seluruh perusahaan dengan menawarkan gambar RHEL yang sepenuhnya dioptimalkan, dapat di-boot untuk penyebaran server di lingkungan cloud hibrid. Contoh-contoh runtime model yang dioptimalkan ini bekerja dengan model Granite dan paket alat InstructLab. Mereka termasuk perpustakaan runtime Pytorch yang dioptimalkan dan akselerator GPU untuk AMD Instinct MI300X, Intel, dan GPU NVIDIA, serta kerangka kerja NeMo.
Juga: Perusahaan ganda upaya implementasi AI generatif mereka, survei Bloomberg mengatakan
Ini adalah platform AI dasar Red Hat. Program ini dirancang untuk menyederhanakan pengembangan, pengujian, dan implementasi model AI generatif (gen AI). Platform baru ini menggabungkan keluarga model bahasa besar Granite dengan lisensi sumber terbuka dari IBM Research, alat penyesuaian InstructLab berbasis metodologi LAB, dan pendekatan kolaboratif untuk pengembangan model melalui proyek InstructLab.
IBM Research memimpin metodologi LAB, yang menggunakan generasi data sintetis dan penyesuaian multiphase untuk menyelaraskan model AI/ML tanpa upaya manual yang mahal. Pendekatan LAB, yang disempurnakan melalui komunitas InstructLab, memungkinkan pengembang membangun dan berkontribusi pada LLM sebagaimana mereka akan pada proyek sumber terbuka apa pun.
Dengan peluncuran InstructLab, IBM juga merilis model bahasa Inggris dan kode Granite tertentu di bawah lisensi Apache, menyediakan set data transparan untuk pelatihan dan kontribusi komunitas. Model bahasa Inggris Granite 7B sekarang terintegrasi ke dalam InstructLab, di mana pengguna dapat meningkatkan kemampuannya secara kolaboratif.
Juga: Apakah AI bisa open source? Itu rumit
RHEL AI juga terintegrasi dalam OpenShift AI, platform operasi pembelajaran mesin (MLOps) Red Hat. Ini memungkinkan implementasi model berkelanjutan dalam kluster Kubernetes terdistribusi.
Terimalah kenyataan ini: AI tidak murah. Model Bahasa Besar (LLM) terkemuka di luar sana membutuhkan puluhan juta untuk dilatih. Itu sebelum Anda mulai memikirkan penyetelan halus untuk kasus penggunaan tertentu. RHEL AI adalah upaya Red Hat untuk membawa biaya astronotomis tersebut kembali ke bumi.
Juga: Pengeluaran AI akan mencapai $632 miliar dalam 5 tahun mendatang, penelitian menemukan
Red Hat sebagian melakukannya dengan menggunakan Retrieval-Augmented Generation (RAG). RAG memungkinkan LLM untuk mengakses pengetahuan eksternal yang disetujui yang disimpan dalam database, dokumen, dan sumber data lainnya. Hal ini meningkatkan kemampuan RHEL AI untuk memberikan jawaban yang tepat daripada jawaban yang hanya terdengar benar.
Ini juga berarti Anda dapat melatih instansi RHEL AI Anda dari para ahli subjek perusahaan Anda tanpa perlu gelar Ph.D. dalam pembelajaran mesin. Hal ini akan membuat RHEL AI jauh lebih berguna daripada AI umum untuk menyelesaikan pekerjaan yang perlu Anda lakukan daripada menulis fiksi penggemar Star Wars.
Juga: Rencana Enterprise Claude baru dari Anthropic membawa kekuatan super AI ke bisnis dalam skala
Dalam pernyataan, Joe Fernandes, wakil presiden Platform Model Foundation Red Hat, mengatakan, \”RHEL AI menyediakan kemampuan bagi para ahli domain, bukan hanya ilmuwan data, untuk berkontribusi pada model AI gen yang dibangun untuk tujuan di seluruh cloud hibrid sambil juga memungkinkan organisasi TI untuk menskalakan model ini untuk produksi melalui Red Hat OpenShift AI.\”
RHEL AI tidak terikat pada lingkungan tunggal. Ini dirancang untuk berjalan di mana pun data Anda berada – apakah itu di lokasi, di tepi, atau di cloud publik. Fleksibilitas ini sangat penting saat mengimplementasikan strategi AI tanpa sepenuhnya mengubah infrastruktur yang ada.
Program ini sekarang tersedia di Amazon Web Services (AWS) dan IBM Cloud sebagai penawaran langganan \”bring your own (BYO)\”. Dalam beberapa bulan mendatang, itu akan tersedia sebagai layanan di AWS, Google Cloud Platform (GCP), IBM Cloud, dan Microsoft Azure.
Juga: Model teks-gambar Stability AI tiba di ekosistem AWS
Dell Technologies telah mengumumkan kerjasama untuk membawa RHEL AI ke server Dell PowerEdge. Kolaborasi ini bertujuan untuk menyederhanakan implementasi AI dengan menyediakan solusi perangkat keras yang divalidasi, termasuk komputasi yang dipercepat oleh NVIDIA, dioptimalkan untuk RHEL AI.
Sebagai seseorang yang telah meliput perangkat lunak sumber terbuka selama puluhan tahun dan yang bermain dengan AI ketika Lisp dianggap sebagai state-of-the-art, saya pikir RHEL AI menawarkan pergeseran signifikan dalam cara perusahaan mendekati AI. Dengan menggabungkan kekuatan sumber terbuka dengan dukungan kelas perusahaan, Red Hat menempatkan dirinya di garis depan revolusi AI.
Uji nyata, tentu saja, akan berada dalam adopsi dan aplikasi di dunia nyata. Tapi jika catatan jejak Red Hat adalah sesuatu patut dipertimbangkan, RHEL AI bisa jadi platform yang membawa AI keluar dari ranah raksasa teknologi dan ke tangan bisnis dari semua ukuran.
\”