Adobe Firefly yang dihasilkan oleh Sabrina Ortiz/ZDNET
Menutup celah keamanan sangat penting untuk menjaga model kecerdasan buatan yang generatif dari aksi jahat, pembuatan gambar berbahaya, dan penggunaan yang mungkin disalahgunakan. Untuk memastikan beberapa proyek AI terbaru dan terbesar seaman mungkin, Adobe pada hari Rabu memperluas program bounty bug-nya, yang memberi imbalan kepada para peneliti keamanan yang menemukan dan mengungkapkan bug, untuk mencakup Content Credentials dan Adobe Firefly.
Content Credentials adalah metadata yang terdeteksi manipulasinya yang terlampir pada konten digital yang berfungsi sebagai “label gizi”, memungkinkan pengguna melihat “bahan-bahan” konten, seperti nama pencipta, tanggal penciptaan, alat apa pun yang digunakan untuk membuat gambar (termasuk model AI generatif), dan suntingan yang dilakukan.
Juga: Anda harus mempertimbangkan ulang penggunaan gambar yang dihasilkan oleh AI jika Anda berbisnis membangun kepercayaan
Di era gambar yang dihasilkan oleh AI, alat asal usul ini dapat membantu orang menentukan konten sintetis dari konten yang dibuat oleh manusia. Namun, ini hanya berfungsi jika Content Credentials tidak dapat dimanipulasi dan digunakan sesuai desainnya. Adobe sekarang mengumpulkan upaya keamanan untuk Content Credentials melalui program bounty bug-nya untuk memperkuat perlindungan terhadap penyalahgunaan potensial, seperti melekatkan kredensial secara tidak benar pada konten yang salah.
Beberapa generator gambar AI, seperti Adobe Firefly, secara otomatis melampirkan Content Credentials ke konten yang dihasilkan oleh AI. Firefly adalah kelompok model AI generatif Adobe yang dapat membuat gambar dari instruksi, gambar lain, dan lainnya. Keluarga model ini dapat diakses dengan mudah oleh publik melalui aplikasi web mandiri dan beberapa aplikasi paling populer Adobe, termasuk Photoshop.
Rilis tersebut mengatakan Adobe ingin para peneliti keamanan menguji Firefly terhadap risiko keamanan teratas Open Worldwide Application Security Project (OWASP) dalam aplikasi model bahasa besar (LLM), seperti suntikan instruksi, pengungkapan informasi sensitif, dan keracunan data pelatihan. Adobe kemudian akan menggunakan umpan balik ini untuk memfokuskan penelitiannya dan upaya lebih lanjut pada mengatasi kelemahan Firefly.
“Dengan secara proaktif terlibat dengan komunitas keamanan, kami berharap mendapatkan wawasan tambahan tentang postur keamanan teknologi AI generatif kami, yang pada gilirannya akan memberikan umpan balik berharga kepada program keamanan internal kami,” kata Adobe dalam rilisnya.
Juga: Google membayar $10 juta dalam program bounty bug kepada para peneliti keamanan pada tahun 2023
Adobe mengundang para peretas etis yang tertarik untuk berpartisipasi dalam program bounty bug untuk mengunjungi halaman HackerOne Adobe dan mendaftar melalui formulir ini, yang mengajukan pertanyaan tentang penelitian keamanan dan keahlian pelamar.
Selain Content Credentials dan Adobe Firefly, program bounty bug tersedia untuk sebagian besar aplikasi web Adobe dan versi desktop dan seluler dari aplikasi Creative Cloud. Anda dapat menemukan daftar lengkap aplikasi yang disertakan pada halaman Program Bounty Bug Adobe.