Screenshot oleh Lance Whitney/ZDNET
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google
—
Poin Penting ZDNET
- Peretas menggunakan serangan prompt injection untuk mencuri data pribadi yang Anda gunakan di AI.
- Lockdown Mode terbaru ChatGPT bertujuan mencegah serangan-serangan ini.
- Label Elevated Risk memperingatkan Anda tentang alat dan konten AI yang berpotensi berisiko.
—
Serangan prompt injection merupakan ancaman serius bagi siapa pun yang menggunakan alat AI, terutama para profesional yang mengandalkannya di tempat kerja. Dengan mengeksploitasi kerentanan yang memengaruhi sebagian besar AI, seorang peretas dapat menyisipkan kode berbahaya ke dalam prompt teks, yang kemudian dapat mengubah hasil atau bahkan mencuri data rahasia.
Baca juga: 5 instruksi kustom ChatGPT yang saya gunakan untuk hasil AI yang lebih baik — dan lebih cepat
Kini, OpenAI telah memperkenalkan fitur bernama Lockdown Mode untuk lebih menghambat jenis serangan semacam ini.
Lockdown Mode
OpenAI
Lockdown Mode meningkatkan perlindungan terhadap serangan prompt injection dan ancaman lanjutan lainnya. Dengan pengaturan ini diaktifkan, ChatGPT dibatasi dalam cara berinteraksi dengan sistem dan data eksternal, sehingga membatasi kemampuan penyerang untuk mengekstraksi file sensitif.
Sebagai pengaturan keamanan opsional, Lockdown Mode tidak diperlukan bagi kebanyakan pengguna ChatGPT, menurut OpenAI dalam rilis berita pada Jumat lalu. Fitur ini lebih ditujukan bagi pengguna yang sangat memperhatikan keamanan, seperti eksekutif atau profesional keamanan di organisasi ternama. Dengan pertimbangan tersebut, Lockdown Mode tersedia untuk ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, dan ChatGPT for Teachers.
Baca juga: 4 kerentanan kritis AI ini dieksploitasi lebih cepat daripada kemampuan para defender merespons
Lockdown Mode bekerja dengan menentukan alat dan kemampuan mana dalam ChatGPT yang paling berisiko. Tujuannya adalah membatasi akses ke data sensitif apa pun dalam percakapan atau dari aplikasi terhubung yang dapat dieksploitasi melalui prompt injection.
(Keterangan: Ziff Davis, perusahaan induk ZDNET, mengajukan gugatan pada April 2025 terhadap OpenAI, dengan alegasi melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)
Sebagai contoh, penelusuran web dalam Lockdown Mode membatasi akses ke konten yang di-cache sehingga tidak ada permintaan langsung yang meninggalkan jaringan OpenAI. Fitur lain dinonaktifkan sepenuhnya kecuali OpenAI dapat memastikan bahwa datanya aman. Ide di balik ini adalah mencegah penyerang mencuri data melalui penelusuran web.
Paket bisnis ChatGPT sudah menawarkan perlindungan keamanan tingkat perusahaan, yang dapat dikontrol administrator melalui pengaturan Workspace. Lockdown Mode menambahkan lapisan pertahanan ekstra. Admin Workspace juga dapat memilih aplikasi dan tindakan mana yang dikendalikan oleh Lockdown Mode.
Label Elevated Risk
OpenAI
Tidak hanya itu. OpenAI kini juga akan menampilkan label Elevated Risk ketika Anda mengakses fitur-fitur tertentu yang berpotensi berisiko. Dapat diakses di ChatGPT, peramban ChatGPT Atlas, dan asisten koding Codex, label ini dirancang untuk membuat Anda berpikir ulang sebelum menggunakan alat atau konten yang dapat dieksploitasi.
Baca juga: Rahasa keamanan pekerjaan di era AI? Berhenti stres dan beradaptasi di tempat kerja sekarang — begini caranya
Misalnya, pengembang yang menggunakan Codex dapat memberikan akses jaringan kepada alat tersebut agar dapat mencari bantuan di web. Dengan akses ini diaktifkan, label Elevated Risk akan memperingatkan Anda tentang risiko potensial, perubahan yang mungkin terjadi, dan kapan akses semacam itu dibenarkan.
Label Elevated Risk dirancang sebagai solusi jangka pendek untuk setidaknya menginformasikan Anda tentang bahaya potensial. Ke depannya, OpenAI berencana menambahkan lebih banyak fitur keamanan secara menyeluruh untuk mengatasi risiko dan ancaman tambahan, yang pada akhirnya menghapus kebutuhan akan label semacam ini.