Berdasarkan postingan blog Brave perusahaan browser saingan pekan lalu, Comet—browser web bertenaga AI terbaru dari Perplexity—baru-baru ini mengalami kerentanan keamanan signifikan. Meskipun celah tersebut kini telah diperbaiki, kejadian ini menyoroti tantangan dalam mengintegrasikan model bahasa besar ke dalam peramban web.
Berbeda dengan browser web konvensional, Comet dilengkapi asisten AI yang dapat memindai halaman, meringkas konten, atau melakukan tugas tertentu untuk penggunanya. Namun, asisten AI tersebut dibangun dengan teknologi serupa yang digunakan chatbot seperti ChatGPT. Seperti diketahui, chatbot AI tidak memiliki kemampuan bernalar layaknya manusia, sehingga dapat termanipulasi oleh konten tertentu yang dirancang untuk memengaruhi outputnya—sebuah teknik yang dikenal sebagai prompt engineering. (Catatan: Ziff Davis, perusahaan induk CNET, pada April lalu menggugat OpenAI dengan tuduhan pelanggaran hak cipta dalam pelatihan dan pengoperasian sistem AI.)
Perwakilan Brave belum memberikan tanggapan atas permintaan komentar saat ini. Perusahaan AI umumnya berusaha memitigasi manipulasi pada chatbot, namun upaya tersebut sering kali terkendala oleh aktor jahat yang terus mencari celah perlindungan baru.
"Kerentanan ini telah ditangani," ujar Jesse Dwyer, Kepala Komunikasi Perplexity, dalam sebuah pernyataan. "Kami memiliki program bug bounty yang cukup kuat, dan kami berkoordinasi langsung dengan Brave untuk mengidentifikasi dan memperbaikinya."
Uji coba dengan teks tersembunyi di Reddit
Brave melakukan pengujian dengan membuat halaman Reddit berisi teks tak terlihat, lalu meminta Comet untuk meringkas konten yang tampak di layar. Saat memproses halaman tersebut, AI tidak dapat membedakan perintah jahat dan akhirnya memberikan informasi sensitif kepada penguji Brave.
Melalui teks tersembunyi itu, asisten AI Comet dapat mengakses akun Perplexity pengguna, mengambil alamat email terkait, serta membuka akun Gmail. Agen AI pada dasarnya bertindak layaknya pengguna sungguhan, sehingga metode keamanan tradisional menjadi tidak efektif.
Brave memperingatkan bahwa prompt injection semacam ini berpotensi digunakan untuk mengakses rekening bank, sistem perusahaan, surel pribadi, dan layanan lainnya.
Artem Chaikin, Insinyur Keamanan Mobile Senior Brave, bersama Shivan Kaul Sahib, Wakil Presiden Bidang Privasi dan Keamanan, mengajukan sejumlah solusi potensial. Pertama, browser web AI harus selalu memperlakukan konten halaman sebagai sumber yang tidak terpercaya. Model AI perlu memastikan bahwa yang dilakukannya sesuai dengan tujuan pengguna. Model juga harus selalu melakukan konfirmasi kepada pengguna untuk memastikan interaksi berjalan benar, dan mode agentic browsing hanya boleh aktif ketika benar-benar dikehendaki pengguna.
Postingan blog Brave merupakan yang pertama dalam seri terkait tantangan pada browser web berbasis AI. Brave sendiri juga memiliki asisten AI bernama Leo yang tertanam di browsernya.
Kehadiran AI semakin umum di berbagai lini teknologi, mulai dari pencarian Google hingga sikat gigi. Meskipun asisten AI sangat membantu, teknologi baru ini membawa kerentanan keamanan yang berbeda.
Dahulu, peretas perlu memiliki keahlian coding untuk membobol sistem. Namun, dengan AI, memungkinkan menggunakan bahasa alami yang licik untuk menembus perlindungan yang ada. Selain itu, mengingat banyak perusahaan mengandalkan model AI utama seperti milik OpenAI, Google, dan Meta, kerentanan pada sistem tersebut dapat berdampak juga pada perusahaan penggunanya. Perusahaan AI cenderung tertutup mengenai jenis kerentanan keamanan seperti ini karena dikhawatirkan dapat memberi petunjuk baru bagi para peretas.