Singapura akan segera merilis instruksi yang katanya akan menawarkan “langkah-langkah praktis” untuk memperkuat keamanan alat dan sistem kecerdasan buatan (AI).
Badan Keamanan Siber (CSA) dijadwalkan akan menerbitkan Rancangan Pedoman Teknis untuk Memastikan Sistem AI untuk konsultasi publik lebih lanjut bulan ini, kata Janil Puthucheary, menteri senior Singapura untuk Kementerian Komunikasi dan Informasi.
Pedoman sukarela tersebut dapat diadopsi bersama proses keamanan yang ada yang diimplementasikan oleh organisasi untuk mengatasi risiko potensial dalam sistem AI, kata Puthucheary, selama pidatonya pada pembukaan Pertemuan Puncak Keamanan AI Asosiasi Profesional Keamanan Informasi (AiSP).
Melalui pedoman teknis, CSA berharap dapat menawarkan referensi yang berguna bagi profesional keamanan siber yang ingin meningkatkan keamanan alat AI mereka, kata menteri tersebut.
Dia lebih lanjut mendorong industri dan komunitas untuk melakukan bagian mereka dalam memastikan alat dan sistem AI tetap aman terhadap ancaman jahat, meskipun teknik terus berevolusi.
“Selama beberapa tahun terakhir, AI telah berkembang pesat dan diterapkan dalam berbagai ruang,” katanya. “Ini telah berdampak signifikan pada lanskap ancaman. Kami tahu perkembangan dan adopsi AI yang cepat ini telah menghadapkan kita pada banyak risiko baru, [termasuk] pembelajaran mesin musuh, yang memungkinkan penyerang untuk mengompromi fungsi model.”
Dia menunjuk bagaimana vendor keamanan McAfee berhasil mengompromi Mobileye dengan melakukan perubahan pada tanda batas kecepatan yang sistem AI tersebut dilatih untuk mengenali.
AI sedang memicu risiko keamanan baru, dan organisasi sektor publik dan privat harus bekerja untuk memahami lanskap ancaman yang berkembang ini, kata Puthucheary.
Dia mencatat bahwa CIO pemerintah Singapura, Agen Teknologi Pemerintah (GovTech), sedang mengembangkan kemampuan untuk mensimulasikan serangan potensial pada sistem AI untuk memahami bagaimana mereka dapat memengaruhi keamanan platform tersebut.
“Dengan begitu, ini akan membantu kami untuk menempatkan perlindungan yang tepat,” katanya.
Dia menambahkan bahwa upaya untuk lebih baik melindungi terhadap ancaman yang ada harus terus berlanjut, karena AI rentan terhadap ancaman siber “klasik”, seperti yang menargetkan privasi data. Dia mencatat bahwa adopsi AI yang semakin meningkat akan memperluas permukaan serangan di mana data dapat terungkap, dikompromi, atau bocor.
Dia mengatakan AI dapat digunakan untuk membuat malware yang semakin canggih, seperti WormGPT, yang sulit dideteksi oleh sistem keamanan yang ada.
Pada saat yang sama, AI dapat dimanfaatkan untuk meningkatkan pertahanan siber dan memberdayakan profesional keamanan dengan kemampuan untuk mengidentifikasi risiko lebih cepat, dalam skala, dan dengan presisi yang lebih baik, kata menteri tersebut. Dia mengatakan alat keamanan yang didukung oleh pembelajaran mesin dapat membantu mendeteksi anomali dan meluncurkan tindakan otonom untuk meredakan ancaman potensial.
Menurut Puthucheary, AiSP sedang menyiapkan kelompok minat khusus AI di mana anggotanya dapat bertukar pandangan tentang perkembangan dan kemampuan. Didirikan pada tahun 2008, AiSP menggambarkan dirinya sebagai kelompok industri yang fokus pada mendorong kompetensi teknis dan minat komunitas keamanan siber Singapura.
Pada bulan April, Pusat Keamanan AI Badan Keamanan Nasional AS merilis lembar informasi, Implementasi Sistem AI Secara Aman, yang katanya menawarkan praktik terbaik tentang implementasi dan operasi sistem AI.
Dikembangkan bersama dengan Badan Keamanan Siber dan Informasi AS, pedoman tersebut bertujuan untuk meningkatkan integritas dan ketersediaan sistem AI dan menciptakan mitigasi untuk kerentanan yang diketahui dalam sistem AI. Dokumen tersebut juga menguraikan metodologi dan kontrol untuk mendeteksi dan merespons aktivitas jahat terhadap sistem AI dan data terkait.