ChatGPT Atlas, sebuah peramban web berbasis kecerdasan buatan yang mampu memesan perjalanan, berbelanja kebutuhan harian, atau melakukan riset atas nama Anda. Menurut OpenAI, ini seperti memiliki asisten pribadi yang terintegrasi dalam peramban. Namun, justru fitur inilah yang mengundang kekhawatiran para pakar keamanan siber.
Meskipun sistem AI sangat canggih, sistem ini tidak luput dari ketidaksempurnaan. Mulai dari hallucinations hingga sycophancy, AI masih sering melakukan kesalahan. Memberikan kendali penuh peramban web kepada AI dapat memunculkan berbagai masalah potensial, seperti serangan prompt injection, serangan clipboard, serta ketidakmampuan AI dalam mengidentifikasi situs-situs spam.
“Atlas menunjukkan masalah tahap awal yang juga terlihat pada peramban bergaya agent lainnya,” ungkap Rob T. Lee, Kepala Penelitian dan Chief AI Officer di SANS Institute. “Terdapat uji prompt injection dan pengalihan yang berhasil. Namun, patut diacungi jempol, OpenAI merespons laporan tersebut dengan cepat.”
Jangan lewatkan konten teknologi impartial dan ulasan berbasis lab kami. Jadikan CNET sebagai sumber preferensi di Google.
Peluncuran AI Atlas merupakan pembuka dalam persaingan peramban yang semakin ketat. Beberapa pesaing lainnya termasuk Comet dari Perplexity, integrasi Gemini dalam Chrome oleh Google, serta Copilot Mode di Microsoft Edge. Bagi para raksasa teknologi, mendominasi pasar peramban web berarti menguasai data pengguna yang sangat berharga—baik untuk mengoptimalkan produk maupun menjual iklan bertarget.
Hal ini terutama krusial bagi OpenAI, yang telah menginvestasikan miliaran dolar untuk pengembangan infrastruktur AI, namun masih menghadapi keterbatasan dalam menghasilkan pendapatan, apalagi profit. Perusahaan ini kini mengeksplorasi berbagai cara, termasuk memasukkan iklan dan mengizinkan pembuatan konten teks dewasa, untuk meningkatkan pendapatannya.
(Pengungkapan: Ziff Davis, perusahaan induk CNET, pada April lalu menggugat OpenAI dengan tuduhan melanggar hak cipta dalam pelatihan dan pengoperasian sistem AI-nya.)
Bagi OpenAI, popularitas peramban berbasis AI dapat mengalihkan pengguna dari Chrome, yang saat ini menguasai 73% pangsa pasar peramban global menurut GlobalStats. ChatGPT Atlas juga berpotensi memperluas ekosistem OpenAI. Meski ChatGPT telah menjadi istilah umum untuk chatbot AI, agar Atlas bisa diadopsi secara massal—baik oleh konsumen maupun korporat—OpenAI harus memastikan perambannya sama aman dan terpercaya seperti Chrome.
Serangan Prompt Injection, Clipboard, dan Lainnya
Serangan prompt injection adalah kerentanan utama yang kerap dikaitkan dengan peramban berbasis AI. Jenis eksploitasi ini terjadi ketika pelaku kejahatan sengaja menyisipkan instruksi jahat di situs web yang tidak terlihat oleh pengguna, namun dapat dibaca dan dijalankan oleh AI. Instruksi tersebut dapat memicu AI untuk membocorkan informasi sensitif, mengubah pengaturan sistem, atau mengambil tindakan berbahaya lainnya.
Simon Poulton, Wakil Presiden Eksekutif Inovasi dan Pertumbuhan di Tinuiti, menyoroti kekhawatiran konsumen mengenai bagaimana data mereka disimpan dan dipertahankan dalam sistem AI. Hal ini berkaitan dengan fenomena agentic deference, di mana pengguna semakin mempercayai AI hingga mengabaikan sikap skeptis—seperti penumpang yang awalnya waspada di mobil self-driving, lalu akhirnya asyik dengan ponselnya.
Masalahnya, sistem AI tidak sempurna. Saat menguji Comet milik Perplexity, Poulton menyaksikan peramban secara keliru memasukkan kata sandinya ke kolom alamat email. Ia berhasil mencegahnya, namun insiden ini menunjukkan betapa AI dapat salah menangani informasi sensitif.
Selain itu, ada pula serangan copy-to-clipboard, di mana AI diperintah untuk menyalin tautan berbahaya ke papan klip pengguna. Jika lengah, pengguna bisa tanpa sengaja membuka tautan jahat tersebut.
Serena Booth, profesor ilmu komputer di Brown University, menekankan bahwa salah satu risiko terbesar menggunakan LLM sebagai antarmuka internet adalah ketidaktahuan pengguna akan batasan model tersebut. “Saya yakin peramban ini juga akan berhalusinasi, yang dapat membahayakan orang yang tidak mengelolanya dengan efektif. OpenAI seharusnya merasa bertanggung jawab untuk mendidik pengguna tentang cara menggunakan perangkat lunaknya dengan tepat,” ujarnya.
Ketika diminta tanggapannya, OpenAI merujuk pada posting blog terbaru mereka tentang serangan prompt injection. Mereka menyatakan bahwa pertahanan terhadap serangan semacam itu menjadi fokus utama, dan sedang melatih model AI untuk menerapkan hirarki instruksi guna membedakan perintah tepercaya dan tidak tepercaya.
OpenAI juga menggunakan beberapa “pemantau” berbasis AI untuk mengidentifikasi dan memblokir serangan, serta mengalihkan kendali ke pengguna saat mengakses situs sensitif seperti layanan belanja online. Selain itu, mereka melakukan red-teaming dan menawarkan bug bounty dengan rata-rata imbalan $784.
Hati-hati Menggunakan Peramban AI di Tempat Kerja
Meski berisiko, banyak karyawan terdorong untuk mengadopsi sistem AI. Menurut data dari Cyberhaven, 27,7% perusahaan setidaknya memiliki satu orang yang mengunduh peramban ChatGPT Atlas. Beberapa mungkin staf IT yang sedang menguji, tetapi risikonya tetap signifikan jika karyawan biasa menggunakannya di lingkungan kerja.
“Peramban agentic dapat menyederhanakan dan mengotomatiskan serangan paling berbahaya untuk mencuri data sensitif pelanggan, desain produk, atau data yang diatur ketat dengan implikasi keamanan nasional,” jelas Nishant Doshi, CEO Cyberhaven.
Doshi menambahkan bahwa alat keamanan IT saat ini seringkali tidak dapat membedakan dengan jelas mana data sensitif dan mana yang bukan. “Tanpa konteks itu, mereka tidak bisa secara akurat menentukan sensitivitas data. Gabungkan kelemahan besar ini dengan kekuatan peramban agentic dalam mengotomatiskan pekerjaan, maka insiden tinggal menunggu waktu,” tegasnya.
Apakah Saya Harus Menggunakan ChatGPT Atlas?
Bagi individu, penggunaan ChatGPT Atlas diperbolehkan asalkan menyadari batasannya, menurut Rob T. Lee dari SANS Institute. Ia menyarankan untuk tidak menyinkronkan atau membagikan informasi keuangan, medis, atau sensitif dengan sistem ini, serta menonaktifkan izin yang tidak diperlukan.
Sementara di tempat kerja, sebaiknya berhati-hati. Para ahli menyarankan penggunaan ChatGPT Atlas hanya dalam lingkungan pengujian dengan akses jaringan terbatas. Semua aktivitas harus dilacak dan diintegrasikan ke dalam kerangka tata kelola AI perusahaan sedini mungkin.
Pertanyaan besarnya adalah: apakah Anda benar-benar membutuhkan ChatGPT Atlas? Meski kemampuannya mengesankan, jika Anda harus terus memantaunya agar tidak salah, apakah worth it? Kemungkinan besar, Anda sudah cukup terbiasa dengan internet untuk mengerjakan semuanya sendiri—meski butuh sedikit usaha ekstra.
“Sangat sulit membuat alasan mengapa orang harus menggunakan ini sekarang,” kata Poulton, yang merasa bisa menelusuri situs lebih cepat secara manual. “Ini sekadar faktor kebaruan. Tapi di mana letak kemudahan pengalaman konsumennya? Tidak ada perubahan. Tidak memberikan nilai tambah bagi saya.”
TL;DR
Konsumen boleh menggunakan ChatGPT Atlas asal tetap waspada. Jangan gunakan di komputer kantor tanpa persetujuan IT karena可能存在 kerentanan. Saat menggunakannya, perhatikan cara AI menangani informasi sensitif seperti kata sandi. Untuk amannya, hindari mengakses situs perbankan atau situs sensitif lainnya.