Pada tahun lalu, kami menyaksikan lonjakan minat dan perkembangan dalam aplikasi AI generatif. Sekarang kita memasuki era berikutnya dari teknologi tersebut — dengan AI pada perangkat semakin umum digunakan. Di Mobile World Congress, Qualcomm memperkenalkan alat yang menyederhanakan cara pengembang dapat mengakses dan mengunduh model AI langsung ke perangkat uji mereka.
Juga: Apa yang dapat diharapkan dari MWC 2024: Laptop transparan, ponsel AI, cincin pintar, dan lainnya
Qualcomm AI Hub baru berisi perpustakaan lebih dari 75 model AI generatif yang dapat dengan mudah diunduh ke perangkat yang didukung Qualcomm, dengan model-model baru terus ditambahkan dari waktu ke waktu.
Perpustakaan tersebut berisi beberapa model paling populer di industri seperti Whisper, sistem pengenalan ucapan otomatis OpenAI (ASR), dan Stable Diffusion, model teks-ke-gambar dari Stability AI. Qualcomm AI Hub secara otomatis menerapkan optimisasi yang sadar akan hardware ke model-model untuk kinerja AI on-device yang lebih unggul.
Selain itu, model-model tersebut dioptimalkan untuk memanfaatkan semua inti yang ada dalam Qualcomm AI Engine, termasuk NPU, CPU, dan GPU, yang menghasilkan efisiensi daya yang lebih baik, penggunaan memori yang lebih rendah, dan kecepatan inferensi hingga empat kali lipat, menurut rilis perusahaan pada hari Senin.
Keuntungan dari AI on-device, selain peningkatan kinerja aplikasi secara keseluruhan, adalah dengan menghindari gesekan dengan awan, privasi meningkat, yang sangat penting ketika menciptakan model yang menggunakan database dengan data rahasia atau properti.
Juga: Evolusi instan: Jika AI dapat merancang robot dalam 26 detik, apa lagi yang dapat dilakukannya?
“Qualcomm AI Hub memberikan pengembang perpustakaan model AI yang komprehensif untuk dengan cepat dan mudah mengintegrasikan model AI yang telah dioptimalkan sebelumnya ke dalam aplikasi mereka, menghasilkan pengalaman pengguna yang lebih cepat, lebih andal, dan lebih pribadi,” kata Durga Malladi, Qualcomm SVP teknologi perencanaan dan solusi tepi.
Qualcomm membagikan bahwa model-model yang dioptimalkan sudah tersedia hari ini baik di Qualcomm AI Hub, GitHub, dan Hugging Face. Pengembang dapat mendaftar untuk akses mulai hari ini.