Para ahli keamanan internet memperingatkan bahwa browser baru OpenAI, ChatGPT Atlas, bisa rentan terhadap serangan jahat. Serangan ini bisa membuat asisten AI berbalik melawan pengguna, mungkin mencuri data sensitif atau bahkan mengosongkan rekening bank mereka.
OpenAI meluncurkan Atlas pada hari Selasa. Tujuannya adalah memperkenalkan browser AI yang akhirnya bisa membantu pengguna melakukan tugas di internet dan juga mencari jawaban. Misalnya, seseorang yang merencanakan perjalanan bisa pakai Atlas untuk cari ide, buat itinerary, dan lalu suruh dia pesan tiket pesawat dan hotel secara langsung.
ChatGPT Atlas punya beberapa fitur baru. Ada “memori browser” yang biarkan ChatGPT ingat detail penting dari penelusuran web pengguna untuk meningkatkan respons obrolan dan beri saran lebih pintar. Juga ada “mode agen” eksperimental, di mana ChatGPT bisa mengendalikan penelusuran dan berinteraksi dengan halaman web untuk pengguna.
Browser ini adalah bagian dari usaha perusahaan untuk mengembangkan ChatGPT dari sebuah aplikasi jadi platform komputasi yang lebih luas. Ini juga membuat OpenAI bersaing lebih langsung dengan Google dan Microsoft, serta pemain baru seperti Perplexity, yang sudah luncurkan browser AI sendiri bernama Comet.
Namun, para ahli peringatkan bahwa semua browser AI saat ini punya risiko keamanan baru. Terutama tentang yang disebut “prompt injection” – sejenis serangan di mana perintah jahat diberikan ke sistem AI untuk membuatnya berperilaku tidak seperti seharusnya, seperti membocorkan informasi sensitif atau melakukan tindakan berbahaya.
Masalah utamanya adalah browser AI bisa gagal membedakan antara instruksi dari pengguna yang dipercaya dengan teks dari halaman web yang tidak tepercaya. Artinya, peretas bisa buat halaman web yang berisi instruksi agar model AI yang mengunjungi situs itu, contohnya, membuka email pengguna di tab baru dan kirim semua pesan pengguna ke si penyerang. Dalam beberapa kasus, penyerang mungkin sembunyikan instruksi ini – misalnya dengan pakai teks putih di latar belakang putih, atau kode mesin di suatu tempat di situs – yang sulit dilihat pengguna manusia, tetapi akan tetap dibaca oleh browser AI.
Di sebuah postingan di X, Dane Stuckey, Chief Information Security Officer OpenAI, bilang perusahaannya sedang “meneliti dan mengurangi risiko” seputar prompt injection dengan sangat serius. Dia menulis bahwa tujuan jangka panjangnya adalah agar pengguna bisa percayai agen ChatGPT untuk menggunakan browser, sama seperti mempercayai kolega atau teman yang paling kompeten, terpercaya, dan sadar keamanan.
Beberapa pengguna media sosial telah membagikan contoh awal keberhasilan serangan prompt injection terhadap ChatGPT Atlas. Satu pengguna menunjukkan cara Atlas bisa dieksploitasi melalui clipboard injection. Hanya beberapa jam setelah peluncurannya, perusahaan browser open-source Brave memposting blog yang merinci beberapa serangan yang sangat rentan untuk browser AI.
Para ahli bilang risiko ini jauh lebih berbahaya daripada kerentanan browser tradisional. Dengan sistem AI, ia secara aktif membaca konten dan membuat keputusan untuk Anda. Jadi, permukaan serangannya jauh lebih besar dan benar-benar tak terlihat.
Ada juga pertanyaan seputar privasi dan penyimpanan data. Khususnya, ChatGPT Atlas meminta pengguna untuk setuju berbagi keychain kata sandi mereka, sesuatu yang bisa dieksploitasi oleh serangan jahat. Tantangannya adalah, jika Anda ingin asisten AI berguna, Anda harus beri dia akses ke data dan hak istimewa Anda. Jika penyerang bisa tipu asisten AI, itu sama saja seperti Anda yang ditipu.
Kekhawatiran privasi utama dengan browser AI adalah kebocoran potensial data pengguna sensitif, seperti informasi pribadi atau keuangan, ketika konten pribadi dibagikan ke server AI. Bisa juga mudah bagi pengguna yang kurang paham teknologi untuk mengunduh browser ini dan berasumsi bahwa privasi sudah built-in ke dalam produk. Banyak pengguna yang unduh browser ini tidak mengerti apa yang mereka bagikan saat pakai agen ini.