Microsoft merilis laporan transparansi AI pertamanya

Dalam Laporan Transparansi AI Bertanggung Jawabnya, yang sebagian besar mencakup tahun 2023, Microsoft membanggakan pencapaiannya dalam pengimplementasian produk AI dengan aman. Laporan transparansi AI tahunan merupakan salah satu komitmen yang diambil perusahaan setelah menandatangani perjanjian sukarela dengan Gedung Putih pada bulan Juli tahun lalu. Microsoft dan perusahaan lain berjanji untuk membentuk sistem AI yang bertanggung jawab dan berkomitmen pada keselamatan.

Microsoft menyatakan dalam laporan tersebut bahwa mereka telah menciptakan 30 alat AI yang bertanggung jawab dalam satu tahun terakhir, memperluas tim AI yang bertanggung jawab, dan mewajibkan tim yang membuat aplikasi AI generatif untuk mengukur dan memetakan risiko sepanjang siklus pengembangan. Perusahaan mencatat bahwa mereka menambahkan Konten Kredensial ke platform generasi gambar mereka, yang memasang watermark pada foto, memberi tag bahwa foto tersebut dibuat oleh model AI.

Perusahaan mengatakan bahwa mereka memberikan akses kepada pelanggan Azure AI untuk alat yang mendeteksi konten yang problematic seperti ujaran kebencian, konten seksual, dan tindakan menyakiti diri, serta alat untuk mengevaluasi risiko keamanan. Ini termasuk metode deteksi jailbreak baru, yang diperluas pada bulan Maret tahun ini untuk mencakup penyuntikan instruksi tidak langsung di mana instruksi jahat tersebut merupakan bagian dari data yang dimasukkan oleh model AI.

Mereka juga sedang memperluas upaya red-teaming mereka, termasuk tim internal red tean yang sengaja mencoba melewati fitur keamanan dalam model AI mereka serta aplikasi red-teaming untuk memungkinkan pengujian pihak ketiga sebelum merilis model baru.

Namun, unit red-teaming mereka memiliki pekerjaan yang cukup sulit. Peluncuran AI perusahaan tidak luput dari kontroversi.

Natasha Crampton, kepala pejabat AI yang bertanggung jawab di Microsoft, mengatakan dalam email yang dikirim ke The Verge bahwa perusahaan memahami bahwa AI masih merupakan pekerjaan yang terus berlangsung dan begitu juga AI yang bertanggung jawab.

“AI yang bertanggung jawab tidak memiliki garis finish, jadi kami tidak akan pernah menganggap pekerjaan kami di bawah Komitmen AI Sukarela selesai. Namun kami telah membuat kemajuan yang signifikan sejak menandatanganinya dan berharap untuk membangun momentum kami tahun ini,” kata Crampton.