Kubernetes, sistem orkestrasi pengelolaan kontainer, telah terbukti sangat penting untuk komputasi modern, kecuali untuk satu area: kecerdasan buatan (AI) dan machine learning (ML). Masalahnya: AI/ML membutuhkan sumber daya CPU, memori, dan GPU yang substansial, yang tidak mudah dikelola di Kubernetes.
Sekarang, dengan rilis Kubernetes terbaru – Kubernetes 1.31, Elli – Cloud Native Computing Foundation (CNCF) sedang mengatasi masalah ini.
Fitur AI yang ditingkatkan oleh Elli dimulai dengan dukungan alpha untuk gambar dan artefak Open Container Initiative (OCI) sebagai sumber volume native. Ini mungkin tidak terdengar seperti banyak, tetapi itu memungkinkan pengembang untuk mengganti model bahasa besar (LLM) dengan mudah seperti yang mereka lakukan dengan gambar kontainer biasa.
Elli juga membawa API alokasi sumber daya dinamis yang diperbarui dan desain ke Kubernetes. Fitur ini akan membantu menstandardisasi akses dan pengelolaan akselerator perangkat keras, seperti GPU, yang sangat penting untuk AI dan ML. Ini juga menyederhanakan implementasi fitur seperti penskalaan cluster, yang pada gilirannya akan membuat lebih mudah menjalankan pekerjaan AI dan ML di Kubernetes.
Di masa lalu, Kubernetes memiliki beberapa cara untuk mengakses perangkat keras yang mendasari host. Alokasi sumber daya dinamis yang diperbarui (DRA) menyediakan cara yang lebih mudah untuk mengakses sumber daya sistem. Gaya lama, yang menggunakan pengontrol driver DRA, masih didukung melalui “DRA klasik.”
Meninggalkan AI di belakang, Kubernetes sekarang juga sepenuhnya mendukung AppArmor, modul keamanan kernel Linux yang memungkinkan administrator sistem untuk membatasi kemampuan program dengan profil per-program. Fitur ini telah mencapai ketersediaan umum, memungkinkan pengguna untuk mengatur profil AppArmor untuk kontainer langsung melalui API Kubernetes. Jika diimplementasikan dengan benar, dukungan AppArmor akan membantu membuat klaster dan beban kerja Kubernetes lebih aman.
Di depan keamanan, fitur opsional baru memungkinkan administrator untuk mengonfigurasi ujung sehingga permintaan anonim untuk akses dapat diblokir. Ini akan membantu melindungi klaster dari konfigurasi RBAC yang salah yang sebaliknya bisa memberikan akses luas kepada pengguna anonim ke klaster.
Sebagai program sumber terbuka yang terus berkembang, Kubernetes 1.31 juga terus menyederhanakan dan memodernisasi kode sumbernya dengan menghapus fitur yang kadaluwarsa. Ini termasuk: Pencabutan integrasi penyedia cloud in-tree: Menyelesaikan proses yang dimulai dengan versi 1.26, Kubernetes 1.31 menghapus semua integrasi penyedia cloud in-tree. Langkah ini adalah bagian dari upaya berkelanjutan untuk memastikan Kubernetes tetap sebagai platform netral vendor. Anda masih bisa mengintegrasikan klaster Kubernetes Anda dengan penyedia cloud tertentu. Namun, Anda tidak akan bisa melakukannya dari dalam Kubernetes. Anda harus menggunakan pendekatan yang direkomendasikan melalui integrasi eksternal. Pencabutan plugin penjadwal volume limit non-CSI: Rilis ini menghapuskan semua plugin penjadwal volume limit non-CSI, sejalan dengan strategi Kubernetes untuk beralih ke Container Storage Interface (CSI) untuk semua fungsionalitas yang berkaitan dengan penyimpanan. Pencabutan Cgroups v1: Cgroups adalah fitur kernel Linux yang memungkinkan Anda mengalokasikan, memprioritaskan, dan mengelola sumber daya sistem di antara proses. Mulai sekarang, cgroups v2 adalah yang seharusnya Anda gunakan.
Gabungkan semuanya dan rilis ini tidak hanya tentang membuat Kubernetes ramah AI. Angelos Kolaitis, seorang insinyur perangkat lunak senior Canonical dan pemimpin tim untuk rilis Kubernetes 1.31, mengatakan rilis baru ini tentang “mengambil kompleksitas dan detail spesifik implementasi keluar dari kode Kubernetes, membuat Kubernetes fokus pada keadaan yang diinginkan dan meninggalkan semua implementasi, semua sumber tambahan di luar itu.”
Di luar fitur baru, Kolaitis mengatakan, “Anda tidak perlu melakukan apa pun, tetapi Kubernetes akan mengambil langkah ekstra untuk memastikan bahwa beban kerja Anda berjalan, dan andal, dan dapat diandalkan untuk memiliki layanan produksi Anda tidak rusak.”Fitur baru bagus, tetapi stabilitas emas. Untuk alasan itu sendiri, saya merekomendasikan untuk menjelajahi pembaruan ke Kubernetes 1.31 lebih cepat daripada nanti.