Cara Mudah Menjalankan Model AI Lokal Favorit Anda di Linux dengan Aplikasi yang Berguna Ini

Sudah lama saya menggunakan AI sebagai salah satu alat bantu untuk riset. Meskipun ada banyak opsi yang bisa diakses melalui browser (seperti Opera’s Aria, layanan AI pertama yang pernah saya gunakan), saya lebih suka menggunakan alat desktop karena saya bisa menginstal dan menggunakan LLM lokal – sehingga semua pertanyaan saya tetap pribadi. Dengan alat desktop, saya bisa dengan mudah beralih antara LLM lokal seperti Llama, DeepSeek R1, Mistral Instruct, Orca, GPT4All Falcon, dan lainnya.

Sejauh ini, GUI AI Linux default saya adalah Msty, tetapi saya menemukan aplikasi baru yang sama bagusnya. Aplikasi itu adalah GPT4ALL, yang tersedia untuk Linux, MacOS, dan Windows.

GPT4ALL dapat digunakan untuk pertanyaan standar, sebagai asisten menulis pribadi, untuk menulis kode, dan lainnya. Ini juga memiliki antarmuka pengguna yang fantastis yang mudah digunakan dan akan cocok langsung dengan tampilan desktop Anda.

Salah satu aspek dari GPT4All yang saya hargai adalah kemampuannya untuk memilih perangkat komputasi untuk penghasilan teks. Misalnya, System76 Thelio saya memiliki GPU AMD Radeon RX 7600. GPT4All mendeteksi GPU itu dan memungkinkan saya untuk menggunakan Vulkan: AMD Radeon RX 7600 (RADV NAVI33) atau Vulkan: AMD Radeon RX 7600 (RADV RAPHAEL_MENDOCINO).

Saya juga dapat memilih model default saya, mengubah mode saran (untuk menghasilkan pertanyaan lanjutan), mengonfigurasi jumlah utas CPU, mengaktifkan aplikasi tray sistem, dan banyak lagi. Saya dapat mengaktifkan server API lokal sehingga GPT4All dapat diakses melalui http://localhost:4891. Kekurangan menggunakan dalam mode server adalah itu mengonsumsi lebih banyak sumber daya sistem.

Mari pasang GPT4All di Linux, sehingga saya bisa menunjukkan apa yang ada. Yang perlu Anda siapkan: Saat ini, distribusi Linux yang didukung hanya yang berbasis pada Ubuntu, jadi Anda memerlukan instansi berjalan dari distribusi berbasis Ubuntu.

MEMBACA  Ikuti 9 Tips Ini untuk Menurunkan Risiko Penyakit Jantung Anda

Hal pertama yang harus dilakukan adalah mengunduh file instalator. Arahkan browser Anda ke Unduhan Instalator Ubuntu dan, saat diminta, simpan file gpt4all-installer-linux.run di ~/Downloads.

Buka aplikasi terminal default Anda dan pindah ke direktori Unduhan dengan perintah cd ~/Downloads. Begitu di sana, berikan izin eksekusi pada instalator dengan perintah: chmod u+x gpt4all-installer-linux.run. Sekarang Anda bisa menjalankan instalator dengan perintah: ./gpt4all-installer-linux.run. Perhatikan bahwa Anda tidak perlu menggunakan sudo untuk instalasi. Jika Anda mencoba menginstal GPT4All dengan sudo, itu akan berakibat error. Ketika wizard instalasi terbuka, klik langkah-langkahnya untuk menyelesaikan instalasi.

Pemasangan GPT4All seharusnya selesai tanpa masalah. Saat Anda pertama kali membuka GPT4All, Anda perlu memilih masuk atau keluar dari analitik pengguna anonim dan berbagi chat anonim. Saya sarankan Anda keluar. Setelah Anda melakukannya, Anda akan menemukan diri Anda di jendela utama GPT4All, di mana Anda perlu memasang model lokal.

Jendela aplikasi GPT4All yang didesain dengan baik mudah dipahami tanpa banyak usaha. Untuk memasang model pertama Anda, klik Model lalu klik Tambahkan Model. Pada jendela yang muncul, gulir ke bawah dan temukan model yang Anda inginkan, seperti Llama 3.2 3B Instruct. Ketika Anda menemukannya, klik Unduh untuk memulai prosesnya. Ingat, model-model ini bisa cukup besar (yang terkecil adalah Llama 3.2 3B Instruct sebesar 1,79 GB).

Saat model telah diunduh dan diinstal, Anda akan menemukannya terdaftar di bagian Model. Klik ikon Chat di sidebar kiri. Jika Anda hanya menginstal satu model, itu akan terdaftar di bagian tengah atas. Jika Anda menginstal beberapa model, pilih yang ingin Anda gunakan dari menu tarik-turun tersebut. Saya bertanya, “Apa itu Linux?” untuk pertanyaan pertama saya. Ketik pertanyaan Anda di kolom “Kirim pesan” dan tekan Enter di keyboard Anda. GPT4All akan sibuk bekerja untuk menjawab pertanyaan Anda. Jika Anda mengaktifkan saran lanjutan, mereka akan terdaftar di bawah jawaban. Saya suka saran lanjutan karena membantu saya menyelami beberapa lubang kelinci yang sangat berwawasan (dan terkadang menyenangkan). Pada System76 Thelio saya, saya hampir tidak menyadari overhead komputasi tambahan yang diperlukan oleh saran lanjutan, jadi layak untuk diaktifkan. Saya mempertimbangkan saran lanjutan menjadi suatu keharusan.

MEMBACA  Wordle hari ini: Jawaban dan petunjuk untuk 9 Februari

Dan itulah, teman-teman, semua yang perlu dilakukan untuk menginstal GPT4All di Linux – dan dasar-dasar penggunaan alat yang membantu ini. Ingin cerita lebih banyak tentang AI? Daftar untuk Inovasi, buletin mingguan kami.