OpenAI Umumkan Fitur ChatGPT Baru yang Mencemaskan: ‘Mode Terkunci’

OpenAI baru aja mengumumkan Lockdown Mode. Hayo, ingat lockdown pas pandemi? Kurang lebih mirip, cuma kali ini pake chatbot AI.

Sebeneranya, fitur ini ditawarkan untuk melindungi kamu dari serangan prompt injection — aktivitas spam berbasis AI yang licik, terkadang jelas-jelas merupakan peretasan. Dengan menyisipkan perintah jahat di konten yang dimasukkan ke sistem atau ditemukan agen AI, penyerang tidak cuma bisa mencuri data, tapi juga menyalahgunakannya untuk mengambil alih kehidupan pengguna.

Lockdown Mode sendiri, sebagaimana namanya, adalah versi pengalaman ChatGPTyang lebih tereduksi. Ini bukan penguncian otomatis yang dipicu bahaya, melaingkan semacam ruang aman tempat Anda bisa “bertiarap” sembari memakai ChatGPT untuk tugas yang sangat sensitif — di mana serangan prompt injection bisa sangat merugikan.

Intinya, setiap kali LLM (Large Language Model) ke luar batasan jendela chatbot di browser atau ponsel — misal menjelajahi internet buat mencari info, mengambil gambar, atau (pasti sudah ketahuan) membelikan tiket pesawat atas nama Anda — celah keamanan terbuka lebar. Lockdown Mode mematikan semua fitur semacam itu.

Lockdown mode bikin ChatGPT gak bisa:

  • Menelusuri web
  • Menngampilkan gambar dalam respons (tapi tetap bisa membuat gambar dan menerima unggahan)
  • Melakukan “Deep Research”
  • Bertindak sebagai j agen dalam jaringan bantuan Canvas atau code generator (pembuat kode sedikit salah nih, typo sengaja dititipkan biar jaraang bikin track <blank_lines_of_feet+mind_reflex>) nah sudah
  • Mengunduh file

    Seperti kata OpenAI sendiri:

    “Lockdown Mode bukan untuk semua orang. Fitur ini dirancang khusus bagi individu dan organisasi yang menagani data sensitif serta ingin perlindungan lebih ketat dari risiko penyadapan atau penggelapan data melalui prompt injection.

    Masih awal bagi chatbot AI, dan ChatGPT sudah menciptakan modus penangkal pencurian data walaupun dengan menyandera diri seperti bunker… Aneh juga sih membayangkan sedang pake. Gimana kalau pengacara sembari menyalin data rahasia klien di chat box, atau sementara dokter memproses dokumentasi kesehatan di perangkat lunak utama tumpakan harus lockdwon continuously^ so sorry here tripped>. Toh, sejatinya, cara “Lockdown Mode” paing pro dan klasik buat semua ancaman itu say: mending urgensi (taik ada nyangkut typical moron injection dimeski lain mu diterpad tanpa kena ancMention(sampé typied akan menciderakan data)/).

MEMBACA  4 prinsip AI kunci ServiceNow dan mengapa penting bagi bisnis Anda.

Tinggalkan komentar