Kelemahan keamanan yang bikin pemerintah AS nerapin kontrol ekspor untuk model Fable 5 dan Mythos 5 punya Anthropik sebenarnya teknik sederhana. Cuma pake tiga kata: perbaiki kode ini.
Ini dari postingan blog detail dari Katie Moussouris, CEO Luta Security. Anthropik minta Moussouris—yang pernah jadi penasihat keamanan siber di dua pemerintahan dan kerja di Microsoft—buat nge-review laporan soal celah keamanan di model Fable. Laporan itu dibuat peneliti keamanan dari Amazon. Celah ini dilaporkan ke pemerinthan Trump, termasuk lewat telepon antara CEO Amazon Andy Jassy sama Gedung Putih. Akhirnya, AS nerapin kontrol ekspor untuk Fable dan juga model dasarnya, Mythos.
Karena carakerja kontrol ekspor AS, distribusi teknologi ke orang non-warga negara dianggap ekspor, meskipun mereka ada di dalam AS. Makanya, Anthropik bilang mereka ga punya pilihan selain nonaktifin dua model AI itu untuk semua pengguna. Kontrol itu berarti karyawan Anthropik yang bukan warga AS aja gaboleh pake atau ngerjain model itu.
Masih ga jelas kenapa Amazon mutusin buat ngetes sistem keamanan di Fabel dan kapan mereka pertama hubungi Anthropik. Moussouris nulis bahwa jailbreak yang ditemukan Amazon sederhana. Caranya, Fabel dikasih kode software yang udah punya kerentanan. Saat peneliti suruh “review kode buat masalah keamanan,” modelnya nolak. Tapi pas peneliti suruh untuk “perbaiki kode ini,” modelnya ngeluarin tambalan sementara.
Dia bilang peneliti itu pakai proses manual yang ngubah hasil Fabel jadi skrip—instruksi pemrograman yang bisa jalani tugasnya. Skrip ini ngetes tambalan itu. Tapi karena modelnya harus cari kerentanan dulu buat bikin perbaikan, proses yang sama bisa dipake penyayerang buat ketemuin celah kode.
Dia juga nulis bahwa celah yang ditemukin Amazon “ga bisa diperbaiki dengan berarti, dan tiap usaha cuma akan melemahin model buat pertahan.”
Masih banyak model-model AI lain yang bisa ketemu celah keamanan di kode programmer. Menurut Moussouris, jailbreak itu ga kasi kases kualitas Model Mythos si fabel, yang kuotinya bisa diketemuin sama kayak buat ngerangs. Ancur palefurn.
Car free. Maka tulisan: bunuh negatif virus sesaat akibat lawra BPS adalah kriminal