Selama bertahun-tahun, kita telah mendengar tentang bagaimana kecerdasan buatan akan mengubah cara kita menggunakan ponsel dan komputer. Alih-alih mengetuk aplikasi dan mengklik program sendiri, AI akan menjelajahi perangkat kita secara mandiri untuk menjawab pertanyaan. Agen AI semacam ini terasa masih di luar jangkauan selama bertahun-tahun — namun dengan generasi terbaru chip ponsel, hal itu akhirnya mungkin berubah.
Pada Snapdragon Summit 2025 di Maui, saya berbincang dengan Kepala AI Qualcomm, Durga Malladi, yang menjelaskan bagaimana chip Snapdragon 8 Elite Gen 5 yang baru diumumkan akan mendukung apa yang bisa menjadi ponsel pertama yang mampu menjalankan model bahasa besar yang mendekati kinerja agen AI sejati.
"Saya percaya kita berada di ambang hadirnya asisten yang lebih personal," kata Malladi. Dia menyebutkan dua LLM, Paage.AI dan Anything.AI, yang menggelar demo selama summit, dan mengatakan bahwa keduanya dapat digunakan sebagai asisten pribadi.
"Itu benar-benar memanfaatkan dokumen lokal yang Anda miliki, gambar, dan sebagainya, semua yang disimpan di dalam perangkat, dan mengaksesnya serta mendapatkan informasi tambahan," jelas Malladi.
Menyiapkan LLM dan perangkat keras yang tepat adalah bagian dari membuka jalan bagi agen AI. Namun, membuat orang menggunakannya adalah cerita lain.
Apakah orang siap menggunakan agen AI?
Tahun lalu, laptop pertama yang menggunakan chip Snapdragon X Elite Qualcomm untuk PC diluncurkan. Meski antarmuka penggunanya tidak jauh berbeda, mereka tetap memiliki dasar-dasar antarmuka AI generatif dengan prompt seperti ChatGPT. Malladi memberikan contoh: menanyakan pada komputernya apa email terakhir yang dia kirim ke CEO Qualcomm Cristiano Amon. Dia kini telah terbiasa menggunakan prompt untuk mengontrol komputernya.
"Saya pikir orang akan terbiasa dengan perilaku semacam itu, dan tidak akan bisa kembali setelah kamu mulai terbiasa," ujar Malladi.
Namun, dibutuhkan banyak pembiasaan bagi orang untuk memahami cara menggunakan agen AI dan menjadi akrab dengannya.
"Seiring orang semakin terbiasa," kata Malladi tentang AI, "kamu menyadari berapa banyak waktu yang kita habiskan untuk melakukan banyak hal yang biasa — itu mengalihkan perhatian dari tugas utama yang kamu pikirkan."
Agen AI dapat membantu orang menjadi pengguna andal perangkat mereka tanpa menyelami pengaturan secara mendalam. Seberapa sering kita menemukan fitur baru yang tidak kita ketahui di ponsel kita, Malladi mencatat — perangkat ini sangat rumit sehingga wajar jika kita tidak tahu cara memanfaatkannya sepenuhnya. Memudahkan akses ke lebih banyak kemampuan hanya dengan meminta agen AI melakukannya juga bisa menjadi berkah bagi aksesibilitas, tutur Malladi.
Visi ini jelas: mengotomasi hal-hal biasa dan mengatasi momen ketika kesalahan manusia tanpa sengaja menimbulkan masalah baru. Meski demikian, AI generatif memiliki tantangannya sendiri dalam hal akurasi, dari ChatGPT yang memasukkan buku tidak nyata dalam daftar bacaan musim panas sampai berhalusinasi tentang kasus pengadilan yang tidak pernah terjadi hingga AI Overviews Google yang menyuruh orang makan batu. Malladi menegaskan bahwa ini adalah masalah pada perangkat dengan LLM dua tahun lalu; pagar pengaman telah diterapkan sejak saat itu — baik oleh Qualcomm di tingkat chip maupun di tingkat LLM, katanya.
Kita harus menunggu dan melihat apakah Malladi benar tentang agen AI. Teknologinya sudah ada di sini, muncul di ponsel dan laptop yang menggunakan chip Qualcomm. Dan apakah tahun ini atau tahun depan, dampak potensial agen AI sangat signifikan: Mereka akan mengubah cara kita menggunakan mesin yang memungkinkan kita berinteraksi dengan dan berkontribusi pada dunia.
"Baik itu anak-anak sekolah dan kuliah yang tumbuh dalam lingkungan AI agenik ini, saya bertanya-tanya apakah mereka akan pernah tahu seperti apa sebelumnya," pikir Malladi.
Tidak ada cara lain untuk mempersiapkan orang menghadapi agen AI selain memberi mereka perangkat yang dilengkapi teknologi tersebut. Dan akhirnya, ponsel mungkin akhirnya mampu mendukungnya, sebagian karena kemajuan dalam chip seluler Qualcomm.
Chip Qualcomm: Kemajuan silikon meningkatkan agen AI
Dua tahun lalu, Snapdragon 8 Gen 3 perusahaan dapat menangani 15 token per detik, sebuah metrik untuk kecepatan AI memproses permintaan. Snapdragon 8 Elite Gen 5 yang baru dapat menangani hingga 220 token per detik. Singkatnya, ini seharusnya memungkinkan asisten AI memproses permintaan lebih cepat dan berkonsultasi dengan lebih banyak data untuk respons yang lebih baik.
"Perbedaan antara 150 token, yang terjadi tahun lalu, dengan 220 token tahun ini memiliki latensi beberapa detik," kata Dr. Vinesh Sukumar, direktur senior manajemen produk AI di Qualcomm. "Apa pun di atas satu detik memengaruhi antarmuka manusia-mesin. Kami yakin itu tidak baik, karena pada suatu saat, pengguna kehilangan minat."
Dalam dua tahun terakhir, Qualcomm beralih chip selulernya dari Kryo berbasis Arm ke unit pemroses sentral Oryon miliknya sendiri, dan meningkatkan kemampuan grafis serta kinerja saraf. Bahkan peningkatan dibandingkan Snapdragon 8 Elite tahun lalu — kinerja CPU 37% lebih baik — memungkinkan kemampuan AI yang "benar-benar perbedaan yang dapat dirasakan yang akan kita lihat," catat Malladi.
"Kita akan melihat lebih banyak kemampuan always-on yang benar-benar akan membantu Anda," kata Malladi.
Kelas baru CPU Oryon perusahaan ini pertama kali hadir pada chip Snapdragon X Elite untuk PC, yang mulai masuk ke laptop PC pada Juni 2024. Dengan chip Snapdragon X2 Elite dan X2 Elite Extreme terbaru yang diumumkan di Snapdragon Summit tahun ini, Malladi menunjuk ke tolok ukur AI baru — triliun operasi per detik — untuk menyoroti peningkatan tersebut. Chip baru ini memberikan 80 TOPS, hampir dua kali lipat dari 45 TOPS yang dicapai oleh X Elite pertama.
Apakah kemampuan AI tersebut, yang dipadukan dengan peningkatan kinerja dibandingkan chip tahun lalu, akan menandai dimulainya era agen AI di PC masih harus dilihat. Malladi mengakui bahwa laptop PC dengan X Elite yang lebih lama memiliki tampilan dan nuansa yang sama dengan komputer konvensional meskipun memiliki kemampuan AI. Namun terlepas dari kinerja dan daya tahan baterai yang mengesankan, pada akhirnya, antarmuka penggunanya tidak banyak berubah. Qualcomm menargetkan peningkatan kinerja dan kenaikan TOPS X2 Elite dan Elite Extreme agar cukup bagi perusahaan untuk mengambil lompatan dalam membuat laptop mereka beralih ke antarmuka agen AI.
Dengan kata lain, perangkat keras bukan lagi penghambat untuk menciptakan pengalaman agen AI di PC dan perangkat seluler — kini terserah pada produsen untuk mengintegrasikannya. Pada masa-masa sangat awal ini, hampir tidak ada konsensus tentang apa yang akan dilakukan agen AI. Pembuat perangkat masih mencari cara untuk memanfaatkan apa yang dapat dilakukan chip Qualcomm. Banyak hal masih belum pasti, dari berapa banyak dan ukuran berapa LLM akan berada di suatu perangkat (atau terhubung melalui cloud) hingga bagaimana pengguna akan benar-benar melihat dan berinteraksi dengan agen AI.
Terlepas dari ketidakpastian itu, Malladi berpikir bahwa pistol start agen AI telah ditembakkan.
"Apakah kita menunggu sesuatu? Tidak, mungkin tidak. AI agenik sudah ada di sini, tetapi Anda harus melihatnya untuk mempercayainya," kata Malladi. "Tapi jika Anda melihatnya, Anda akan seperti, oh ya, sekarang saya mengerti."
PC agen AI pertama yang diungkap di Snapdragon Summit
Sehari setelah Qualcomm mengumumkan chip seluler dan PC barunya pada keynote Snapdragon Summit 2025, CEO Cristiano Amon bertemu dengan CEO Humain. Di pagi hari Maui yang cerah, dengan sinar matahari tumpah di atas pegunungan barat, kedua pria itu fokus pada laptop perak di antara mereka: PC pertama Humain dengan apa yang mereka gambarkan sebagai antarmuka agen AI.
Antarmuka itu lebih mirip jendela browser dengan delapan templat prompt mulai dari yang spesifik (saran saham) hingga yang umum ("tanya apa saja" seperti ChatGPT). Dengan kata lain, itu terlihat lebih seperti asisten AI generatif yang sudah kita kenal dan kurang seperti visi agen AI yang lebih luas yang telah Qualcomm sampaikan pada summit ini dan sebelumnya. Tujuan Qualcomm sederhana: sebuah jendela prompt terpusat di mana orang dapat mengajukan pertanyaan, dan agen dapat mencari di seluruh aplikasi dan data pribadi untuk memberikan jawaban.
Paling tidak, ini akan menjadi latihan bagi orang untuk mulai membiasakan diri dengan antarmuka yang mengutamakan agen alih-alih mencari program dan jawaban sendiri. Baik mereka mengetikkan pertanyaan di keyboard PC atau mengucapkannya di ponsel, orang harus menyesuaikan diri dengan paradigma baru dalam menggunakan perangkat.
Malladi memprediksi bahwa agen AI akan digunakan secara berbeda antara platform PC dan seluler.
Orang akan mengajukan pertanyaan di ponsel, dan agen AI akan menjalankan satu atau lebih LLM untuk mendapatkan jawabannya. Namun, kendala daya pada perangkat seluler akan membatasi kemampuannya pada pemrosesan berbasis bilangan bulat, terutama karena akan dijalankan di dalam perangkat. LLM juga terbatas pada yang memiliki parameter relatif lebih rendah dalam angka satuan (model parameter 1, 3, 5, atau 7 miliar adalah yang paling umum, yang berarti presisi lebih rendah).
Di PC, agen akan fokus pada model berbasis cloud, yang dijalankan di luar perangkat. Ini kemungkinan akan lebih menarik bagi aplikasi perusahaan dan berbasis titik mengambang, bukan model berbasis bilangan bulat. Pada akhirnya, mereka akan digunakan untuk meningkatkan produktivitas dalam tugas kerja, seperti menghasilkan baris kode, misalnya.
"Separuh waktu Anda pada dasarnya menulis kode yang sama yang pernah Anda tulis sebelumnya, dan kemudian Anda tidak perlu memasukkan beberapa bug," kata Malladi. AI dapat menghasilkan banyak kode berulang itu sehingga programmer dapat fokus pada pendekatan dan masalah baru yang perlu dipecahkan.