Cara menjalankan DeepSeek AI secara lokal untuk melindungi privasi Anda – 2 cara mudah

ZDNET

DeepSeek adalah buzzword terbaru dalam dunia kecerdasan buatan. DeepSeek adalah startup kecerdasan buatan asal China, didirikan pada Mei 2023, yang berfungsi sebagai laboratorium penelitian kecerdasan buatan independen dan telah mendapatkan perhatian signifikan di seluruh dunia untuk mengembangkan model bahasa besar yang sangat kuat (LLM) dengan biaya yang tidak dapat disejajarkan oleh pesaing AS.

Juga: Apa itu kelangkaan? Rahasia DeepSeek AI, diungkap oleh peneliti Apple

Salah satu alasan dari biaya yang lebih rendah ini adalah bahwa DeepSeek adalah open-source. Perusahaan juga mengklaim telah menciptakan cara untuk mengembangkan LLM dengan biaya yang jauh lebih rendah daripada perusahaan kecerdasan buatan AS. Model DeepSeek juga berperforma baik (jika tidak lebih baik) dari model lain, dan perusahaan telah merilis model-model yang berbeda untuk tujuan yang berbeda (seperti pemrograman, tujuan umum, dan visi).

Pengalaman saya dengan DeepSeek telah menarik sampai saat ini. Apa yang saya temukan adalah bahwa DeepSeek selalu tampak sedang berbicara dengan dirinya sendiri, dalam proses menyampaikan informasi kepada pengguna. Tanggapan-tanggapannya cenderung panjang lebar dan bisa membuat saya terjerumus ke beberapa lubang kelinci yang berbeda, masing-masing membawa saya untuk belajar sesuatu yang baru.

Saya suka belajar hal-hal baru.

Juga: Bagaimana saya memberikan file saya ke kecerdasan buatan lokal untuk tanggapan yang lebih baik dan lebih relevan

Jika Anda tertarik dengan DeepSeek, Anda tidak perlu bergantung pada pihak ketiga untuk menggunakannya. Itu benar – Anda dapat menginstal DeepSeek secara lokal dan menggunakannya sesuai keinginan Anda.

Ada dua cara mudah untuk mewujudkannya, dan saya akan menunjukkan keduanya.

Cara menambahkan DeepSeek ke Msty

Apa yang Anda butuhkan: Untuk ini, Anda memerlukan kedua Ollama dan Msty terinstal – dan itu saja. Anda dapat menggunakannya di Linux, MacOS, atau Windows, dan itu tidak akan mengeluarkan biaya sepeser pun.

MEMBACA  Panduan hadiah Hari Ayah 2024 dari The Verge: headphone, perkakas, charger, dan lainnya

Langkah pertama adalah membuka GUI Msty. Bagaimana cara melakukannya akan tergantung pada OS yang Anda gunakan.

Show more

Dari bilah sisi kiri, klik ikon yang terlihat seperti monitor komputer dengan kilat, yang akan membuka bagian Model AI Lokal.

Show more

Pastikan Msty diperbarui dengan mengklik ikon awan.

Jack Wallen/ZDNET

Pada bagian Model AI Lokal, Anda akan melihat DeepSeek R1. Klik tombol unduh (panah mengarah ke bawah) untuk menambahkan model DeepSeek ke Msty. Setelah unduhan selesai, tutup jendela Model AI Lokal.

Show more

Pastikan untuk memilih DeepSeek R1.

Jack Wallen/ZDNET

Kembali ke jendela utama, klik menu drop-down pemilihan model, klik DeepSeek R1 (di bawah Local AL), dan ketik pertanyaan Anda.

Show more

Anda dapat menginstal sebanyak mungkin model lokal yang Anda butuhkan.

Jack Wallen/ZDNET

Cara menginstal DeepSeek secara lokal dari baris perintah Linux

Opsi lain adalah melakukan instalasi penuh DeepSeek di Linux. Sebelum Anda melakukannya, ketahui bahwa persyaratan sistem untuk ini cukup tinggi. Anda memerlukan setidaknya:

CPU: Prosesor multi-core yang kuat dengan minimal 12 core direkomendasikan.GPU: GPU NVIDIA dengan dukungan CUDA untuk kinerja yang dipercepat. Jika Ollama tidak mendeteksi keberadaan GPU NVIDIA, itu akan mengkonfigurasi dirinya untuk berjalan dalam mode hanya CPU.RAM: Minimal 16 GB, lebih disukai 32 GB atau lebih.Storage: Anda akan memerlukan penyimpanan NVMe untuk operasi baca/tulis yang lebih cepat.Sistem Operasi: Anda memerlukan Ubuntu atau distribusi berbasis Ubuntu.

Jika sistem Anda memenuhi persyaratan tersebut, dan Anda sudah menginstal Ollama, Anda dapat menjalankan model DeepSeek R1 dengan:

ollama run deepseek-r1:8b

Jika Anda belum menginstal Ollama, Anda dapat melakukannya dengan satu perintah:

MEMBACA  Agen ChatGPT baru dari OpenAI dapat melakukan tugas interaktif atas nama Anda

curl -fsSL https://ollama.com/install.sh | sh

Juga: Saya mencoba aplikasi kecerdasan buatan lokal Sanctum, dan itu persis apa yang saya butuhkan untuk menjaga data saya tetap pribadi

Anda akan diminta kata sandi pengguna Anda.

Ada versi DeepSeek lain yang bisa Anda jalankan, yaitu:

ollama run deepseek-r1 – Versi default 8Billama run deepseek-r1:1.5b – Model terkecilollama run deepseek-r1:7b – Versi 7Billama run deepseek-r1:14b – Versi 14Billama run deepseek-r1:32b – Versi 32Billama run deepseek-r1:70b – Model terbesar dan paling cerdas dari semua model.

Setelah perintah selesai, Anda akan menemukan diri Anda di prompt Ollama, di mana Anda dapat mulai menggunakan model pilihan Anda.

Juga: Negara-negara ini melarang kecerdasan buatan DeepSeek – inilah alasannya

Bagaimana pun pilihan Anda, sekarang Anda memiliki akses ke DeepSeek AI dan dapat menggunakannya sambil menjaga semua pertanyaan dan informasi Anda aman di mesin lokal Anda.

\”