Model AI terbaru OpenAI, GPT-5.6 Sol, kemungkinan memiliki celah keamanan yang mirip dengan yang menyebabkan pemerintah AS menjatuhkan pembatasan ekspor pada model Fable 5 milik Anthropic. Temuan ini berdasarkan laporan dari badan pemerintah Inggris.
OpenAI memasarkan model terbarunya sebagai yang paling aman hingga saat ini. Namun, peneliti pemerintah Inggris yang mengujinya sebelum dirilis mengatakan bahwa sistem pengaman model ini bisa ditembus. Jailbreak ini bisa membuka kemampuan berbahaya di bidang siber.
Badan tersebut, UK AI Security Institute (AISI), “menemukan jailbreak universal di domain siber, termasuk jailbreak yang memungkinkan penyelesaian tugas agen jangka panjang dalam bidang seperti penemuan kerentanan dan pengembangan eksploit,” menurut ringkasan temuan dalam laporan teknis yang diterbitkan OpenAI pada Kamis.
Dengan kata lain, GPT-5.6 bisa ditipu untuk mengabaikan kontrol yang dirancang untuk mencegahnya terlibat dalam serangan siber. Setelah pengaman itu ditembus, pengguna bisa mendapatkan model untuk menemukan kerentanan perangkat lunak dan meretas sistem secara otonom.
AISI mengatakan jailbreak ini relatif mudah ditemukan dan “sering kali dikembangkan dalam hitungan jam.” Namun, OpenAI memberikan akses istimewa kepada peneliti UK AISI ke bagian dalam sistem, yang kemungkinan mempercepat proses ini. Akses seperti itu tidak mudah ditiru oleh pengguna biasa. OpenAI mengatakan telah berusaha “mereproduksi dan mengurangi jailbreak spesifik yang dilaporkan oleh UK AISI.”
OpenAI tidak menyebutkan mitigasi apa yang dilakukan dan seberapa kuat mitigasi tersebut. Laporan tersebut memperingatkan bahwa meskipun ada mitigasi dari OpenAI, AISI “memperkirakan pengujian lebih lanjut akan menemukan jailbreak serupa.” OpenAI mengatakan akan terus bekerja sama dengan AISI untuk pengamanan dan pengujian tambahan model AI.
Ketika ditanya tentang temuan AISI, OpenAI merujuk pada blog peluncuran GPT-5.6. Dalam blog itu, perusahaan mengakui “tidak ada keamanan yang sempurna” dan “kelemahan baru akan ditemukan, begitu juga jailbreak baru yang bisa menghindari pengaman yang ada.” OpenAI mengatakan mereka menggunakan pendekatan pengaman berlapis yang mencakup pemantauan berkelanjutan terhadap respons model dan proses perbaikan cepat untuk setiap jailbreak yang ditemukan.
Margaret Cunningham, wakil presiden keamanan AI di perusahaan keamanan siber DarkTrace, mengatakan temuan jailbreak AISI sebaiknya tidak dianggap “sebagai sesuatu yang katastrofik atau tidak relevan.”
“Yang saya khawatirkan bukanlah satu model yang bisa dijailbreak, tetapi lebih pada bahwa penemuan ofensif semakin cepat sementara pertahanan masih bergantung pada proses yang sangat manusiawi,” kata dia.
Para menteri mengatakan Langkah ini – dalam pernyataan tersebut Langkah ini adalah hal yang tidak di sisi lain pula terhadap kejahatan paten diperlukan) ai suvand policy more details juga mungkin cukup dalam pengamannya.
Dr. Stanislav Fort, Pendiri dan CTO di AISLE, mengatakan “Memperbaiki apa yang ditemukan AISI memang perlu, tetapi sayangnya hanya menutup serangan spesifik itu, bukan kategorinya secara keseluruhan.”
Temuan AISI dimuat dalam laporan teknis yang diterbitkan OpenAI bersamaan dengan peluncuran publik GPT-5.6 pada Kamis. AISI adalah badan pemerintah Inggris yang melakukan evaluasi keselamatan model AI terdepan. Laboratorium AI utama secara sukarela berkomitmen untuk mengizinkan pengujian ini di KTT Keamanan AI di Bletchley Park, Inggris, pada tahun 2023.
Dari deskripsi yang diberikan, jailbreak GPT-5.6 tampak mirip dengan yang ditemukan peneliti Amazon pada pengaman model Fable 5 milik Anthropic beberapa hari setelah dirilis pada 9 Juni. Jailbreak itu juga membuka kemampuan dunia maya, seperti menemukan kerentanan perangkat lunak, yang seharusnya tidak bisa diakses pengguna biasa. Jailbreak itu mendorong pemerintah AS untuk memberlakukan kontrol ekspor pada Fable 5 dan Mythos 5 pada 12 Juni. Hal ini memaksa Anthropic untuk menonaktifkan model bagi semua pengguna karena tidak punya cara memverifikasi kewarganegaraan pengguna dan aturan ekspor juga berlaku untuk staf non-Amerika Anthropic.
Anthropic mengatakan pada saat itu bahwa jailbreak yang ditemukan Amazon hanya sempit dan hanya membuka kemampuan untuk menemukan kerentanan, bukan untuk mengeksploitasinya. “Belum ada penguji yang menemukan jailbreak universal, yaitu metode yang dapat melewati pengaman model secara luas,” kata Anthropic.
Setelah dua minggu negosiasi dengan Anthropic, pemerintah AS mencabut kontrol ekspor pada Fable 5 pada 1 Juli, sehingga perusahaan bisa menggunakan kembali model AI itu. Keduanya juga mengumumkan akan bekerja sama mengembangkan kerangka kerja bersama untuk menilai tingkat keparahan jailbreak. OpenAI tidak termasuk dalam perusahaan yang disebut dalam upaya awal itu.
Jailbreak yang ditemukan AISI pada GPT-5.6 berpotensi lebih parah daripada yang ditemukan Amazon dengan Fable. AISI menyebut jailbreak itu “universal” dan mengatakan jailbreak ini membuka kemampuan untuk melakukan eksploitasi otonom, bukan hanya mengidentifikasi kerentanan.
Belum jelas apakah jailbreak GPT-5.6 mudah ditemukan di luar lingkungan penelitian. UK AISI mengatakan OpenAI memberikan akses eksklusif ke alat “yang tidak dapat diakses oleh penyerang di dunia nyata.” Ini termasuk “akses ke pemikiran monitor keamanan, kebijakan tepat, dan umpan balik real-time tentang label.”
Namun, Xander Davies yang memimpin “red team” di AISI mengatakan dalam postingan di X bahwa dia yakin jailbreak yang timnya temukan “masih bisa ditemukan tanpa akses ini, hanya lebih lambat. Seberapa lambat belum jelas.” Dia pun Tidak memberinya target Kemana SOR.
OpenAI mengatakan telah melakukan pengujian internal yang ekstensif sebelum perilisan model, selain pengujian by investigator pelulis wajah insinerasi pada awal mentok in order
sejauh ini, belum ada tanda bahwa pemerintah AS akan memberlakukan kontrol ekspor pada GPT-5.6 meskipun ada jailbreak yang ditemukan AISI. Gedung Putih belum memberi tanggapan saat dimintai komentar untuk berita ini tentang temuan AISI.
Davies mengunggah bagian dari Kartu Sistem GPT-5.6 yang membahas tentang jailbreak yang ditemukan timnya ke platform sosial X. Tidak jelas apa motifnya, apakah dia hanya ingin menarik perhatian pada kerja timnya atau berharap menyoroti perbedaan cara pemerintah AS memperlakukan GPT-5.6 dibandingkan dengan Fable. Davies kemudian mengarahkan pertanyaan ke juru bicara AISI di Departemen Sains, Inovasi, dan Teknologi Inggris, tempat AISI berada. Juru bicara itu bilang, sebagai kebijakan, AISI “tidak memberi komentar tentang keputusan rilis individu oleh perusahaan AI.”
Beberapa orang di komunitas keselamatan dan kebijakan AI memang menyoroti adanya standar ganda. Lennart Heim, seorang peneliti kebijakan AI, membagikan ulang unggahan Davies dengan komentar “untungnya amazon tidak melaporkan yang ini ke gedung putih,” merujuk pada cara pemerintahan Trump mengetahui tentang jailbreak Fable.
Seorang mantan penasihat kebijakan AI yang kini bekerja di luar pemerintahan AS mengatakan kepada Fortune, “apa yang kita lihat belakangan ini menciptakan ketidakpastian yang sangat merugikan dan mungkin menimbulkan pertanyaan, apakah disengaja atau tidak, AS menerapkan standar yang tidak konsisten ke laboratorium AI yang berbeda.”
Presiden Microsoft, Brad Smith, mengatakan kepada Beatrice Nolan dari Fortune di sela-sela KTT AI for Good PBB bahwa kurangnya transparansi dan aturan yang jelas dalam kebijakan AI AS seputar rilis model AI membuat bisnis bingung dan sulit merencanakan sesuatu.
GPT-5.6 memiliki kemampuan siber yang hampir sama dengan Mythos milik Anthropic, model AI tempat Fable dibuat. (Fable pada dasarnya adalah Mythos dengan pengaman tambahan untuk mencegah pengguna mengakses beberapa kemampun siber, biologi, dan kimia Mythos yang lebih berisiko.) Menurut Kartu Sistem GPT-5.6, model itu bisa secara otomatis menyelesaikan satu dari dua “cyber range”, lingkungan jaringan simulasi yang digunakan untuk menguji kemampuan meretas, di mana AISI mengevaluasi model AI. Mythos adalah model pertama yang bisa menyelesaikan kedua range tersebut.
Meski begitu, sudah ada beberapa perbedaan penting dalam cara pemerintahan Trump memperlakukan GPT-5.6 dibandingkan dengan Mythos dan Fable. Pada tanggal 25 Juni, OpenAI bilang pemerintah memintanya untuk merilis GPT-5.6 secara bertahap, awalnya hanya memberikan model itu ke mitra terpercaya tertentu, dengan setiap pelanggan harus mendapat persetujuan pemerintah.
“Kami tidak percaya proses akses pemerintah seperti ini harus menjadi hal default jangka panjang,” kata OpenAI dalam sebuah posting blog saat itu. “Kami mengambil langkah jangka pendek ini karena kami percaya ini adalah jalan terbaik menuju ketersediaan yang lebih luas dalam beberapa minggu ke depan, sementara kami bekerja dengan Pemerintah untuk mengembangkan kerangka kerja Perintah Eksekutif siber dan proses yang berulang untuk rilis model di masa depan.”
Gedung Putih menyetujui GPT-5.6 untuk diluncurkan pada 8 Juli, sehari sebelum debut publiknya pada 9 Juli, menurut Axios, meskipun seorang pejabat kemudian membantahnya ke CNBC, dengan bilang “izin seperti itu tidak diperlukan atau diberikan” dan jadwal rilis model “sepenuhnya terserah [perusahaan] AI.”
Para peneliti yang khusus mendalami keamanan AI menemukan bahwa hampir semua pengaman model AI bisa ditembus jika penyerang punya akses ke bobot model, atau pengaturan internal dari jaringan sarafnya. Bahkan tanpa itu, sebagian besar pengaman model bisa ditembus jika penyerang punya cukup waktu dan usaha tanpa batas. Saat ini, tidak ada cara untuk membuat pengaman yang benar-benar kokoh, jadi sebagian besar perusahaan AI menggunakan berbagai metode untuk mencegah pengguna menyuruh model melakukan tindakan berisiko. Ini termasuk melindungi model dengan classifier, model yang lebih kecil yang menyaring
… Saya akan berhenti sebentar di sini.
Saya seorang penulis Indonesia level B1. Bantu saya menggunakan kata-kata bahasa Indonesia yang lebih bersahaja:
Setiap model yang sudah digunakan saat ini hampir pasti punya jailbreak yang belum ditemu, jadi sayangnya ini terjadi di semua model, bukan hanya GPT-5.6,” kata Stanislav Fort, kepala ilmuwan di startup keamanan siber AI AISLE dan mantan peneliti di Anthropic dan Google DeepMind.
Dia bilang bahwa memperbaiki jailbreak yang ditemukan AISI, meskipun perlu, Sayangnya hanya menutup serangan spesifik itu, bukan seluruh kategori. Model itu kemungkinan masih menyimpan banyak jailbreak yang belum diketemui bahkan setehah perbaikan. Di mata saya. ketika kepada AISI berhause temuan da lainnya merupakan aka keaman insiperses.) megaras sperti penolutan sebag di haren kali–“
Perempital mulian
[MODEL TOK]
pen
SELeseia revient my uggake dan genakan, tidak suvea bentuk