Sabrina Ortiz/ZDNET
Ikuti ZDNET: Tambahkan kami sebagai sumber preferensi di Google.
**Poin-Poin Penting ZDNET**
* Qualcomm meluncurkan chipset Snapdragon 8 Elite Gen 5.
* Dilengkapi dengan CPU Qualcomm Oryon dan GPU Qualcomm Adreno generasi terbaru.
* Hasilnya mencakup pemrosesan AI pada perangkat yang tercepat.
Dalam dunia yang mengutamakan AI seperti saat ini, fitur AI yang membantu menjadi semakin penting bagi para pembeli smartphone. Alhasil, chipset yang menjadi otak perangkat tersebut harus semakin kuat untuk mendukung fitur-fitur ini, dan chipset baru Qualcomm telah meningkatkan standar tersebut.
Dalam sebuah percakapan dengan Durga Malladi, SVP dan GM perencanaan teknologi, solusi edge, dan pusat data di Qualcomm, dia menyampaikan kepada saya bahwa Snapdragon 8 Elite Gen 5 mendukung hingga 220 token per detik saat menggunakan model bahasa kecil 3B parameter. Statistik ini menjadikan Snapdragon 8 Elite Gen 5 sebagai SoC mobile tercepat untuk menjalankan model penalaran secara *on-device*, dibandingkan dengan angka-angka yang telah dipublikasikan lainnya.
“Jika Anda pikirkan, kita beralih dari sekitar 20 menjadi seperti ini, peningkatannya sekitar 10 kali lipat dalam jumlah token per detik yang didapat sekarang,” ujar Malladi. “Saya sendiri tidak bisa membaca 200 kata per detik. Tidak ada dari kita yang bisa.”
Saya berbicara dengan Malladi pada hari Rabu, setelah Qualcomm memperkenalkan platform mobile terbarunya, chipset Snapdragon 8 Elite Gen 5, di Snapdragon Summit tahunannya. Peluncuran ini menekankan kemampuannya untuk mendorong pengalaman AI yang lebih canggih yang menawarkan peningkatan dalam fotografi, videografi, audio, gaming, dan tentu saja, AI-inferencing.
Baca juga: Ponsel Android Anda berikutnya bisa menjadi peningkatan besar – berkat chipset terbaru Qualcomm
Token per detik merujuk pada jumlah informasi yang dapat dimasukkan atau diproses oleh model AI dalam waktu tertentu. Semakin banyak token yang dapat diproses model sekaligus, semakin cepat pengguna dapat mengalami dan melakukan tugas-tugas yang lebih kompleks secara *on-device*. Aspek *on-device* ini sangat penting karena tidak hanya mengurangi latensi tetapi juga meningkatkan privasi dengan menyimpan informasi di perangkat, tanpa melalui cloud.
“Ini adalah sesuatu yang bisa digunakan untuk, misalnya, jika Anda memiliki file PDF dalam satu bahasa dan ingin menerjemahkannya ke bahasa lain dengan sangat cepat, hampir instan. Itu dapat dilakukan dengan cara yang sangat cepat,” kata Malladi.
Keterangan: Biaya perjalanan Sabrina Ortiz ke Maui, Hawaii, untuk menghadiri Snapdragon Summit ditanggung oleh Qualcomm, suatu praktik umum industri untuk perjalanan jarak jauh. Penilaian dan opini dari penulis serta editor ZDNET selalu independen dari perusahaan yang kami liput.