alengo / Gambar Getty
Institut Standar dan Teknologi Nasional (NIST) sedang merilis kembali alat yang menguji seberapa rentan model kecerdasan buatan (AI) terhadap “keracunan” oleh data jahat. Langkah ini dilakukan sembilan bulan setelah Perintah Eksekutif Presiden Biden tentang pengembangan AI yang aman, aman, dan terpercaya, dan merupakan respons langsung terhadap persyaratan perintah itu bahwa NIST membantu dalam pengujian model. NIST juga baru-baru ini meluncurkan program yang membantu warga Amerika menggunakan AI tanpa jatuh ke konten sintetis, atau AI-generated, dan mempromosikan pengembangan AI untuk kepentingan masyarakat.
Alat yang disebut Dioptra, awalnya dirilis dua tahun yang lalu dan bertujuan untuk membantu bisnis kecil hingga menengah dan agensi pemerintah. Dengan menggunakan alat tersebut, seseorang dapat menentukan jenis serangan apa yang akan membuat model AI mereka berkinerja kurang efektif dan mengukur penurunan kinerja untuk melihat kondisi yang membuat model gagal.
Juga: Hati-hati dengan \’keruntuhan model\’ AI: Bagaimana pelatihan pada data sintetis mencemari generasi berikutnya
Mengapa ini penting? Penting bagi organisasi untuk mengambil langkah-langkah untuk memastikan program AI aman. NIST aktif mendorong agensi federal untuk memanfaatkan AI dalam berbagai sistem. Model AI dilatih pada data yang ada, dan jika seseorang dengan sengaja menyuntikkan data jahat – katakanlah, data yang membuat AI mengabaikan tanda stop atau batas kecepatan – NIST menunjukkan, hasilnya bisa menjadi bencana.
Meskipun semua manfaat transformasional AI, Direktur NIST Laurie E. Locascio mengatakan teknologi ini membawa risiko yang jauh lebih besar daripada risiko yang terkait dengan jenis perangkat lunak lainnya. “Dokumen panduan ini dan platform pengujian akan memberi tahu pencipta perangkat lunak tentang risiko-risiko unik ini dan membantu mereka mengembangkan cara untuk mengurangi risiko tersebut sambil mendukung inovasi,” katanya dalam siaran pers.
Juga: Pedoman keselamatan memberikan lapisan perlindungan data yang diperlukan dalam demam emas AI
Dioptra dapat menguji berbagai kombinasi serangan, pertahanan, dan arsitektur model untuk lebih memahami serangan mana yang mungkin menimbulkan ancaman terbesar, kata NIST, dan solusi apa yang mungkin terbaik. Alat ini tidak menjanjikan untuk menghilangkan semua risiko, tetapi ia mengklaim dapat membantu mengurangi risiko sambil tetap mendukung inovasi. Ini tersedia untuk diunduh secara gratis.