Perusahaan sedang mengadopsi AI generatif dengan cara besar. Kami sedang meningkatkan pekerjaan dan mengubah proses bisnis dari pemberdayaan penjualan hingga operasi keamanan. Dan kami mendapatkan manfaat besar: meningkatkan produktivitas, meningkatkan kualitas, dan mempercepat waktu pemasaran.
Dengan kemajuan ini, datang juga kebutuhan yang sama untuk mempertimbangkan risikonya. Ini termasuk kerentanan perangkat lunak, serangan cyber, akses sistem yang tidak semestinya, dan paparan data sensitif. Ada juga pertimbangan etis dan hukum, seperti pelanggaran hak cipta atau privasi data, bias atau toksisitas dalam output yang dihasilkan, penyebaran disinformasi dan deep fakes, dan perluasan kesenjangan digital. Kami melihat yang terburuk dalam kehidupan publik saat ini, dengan algoritma digunakan untuk menyebarkan informasi palsu, memanipulasi opini publik, dan merusak kepercayaan pada lembaga. Semua ini menyoroti pentingnya keamanan, transparansi, dan akuntabilitas dalam bagaimana kami menciptakan dan menggunakan sistem AI.
Ada pekerjaan yang baik yang sedang dilakukan! Di Amerika Serikat, Executive Order Presiden Biden tentang AI bertujuan untuk mempromosikan penggunaan AI yang bertanggung jawab dan mengatasi masalah seperti bias dan diskriminasi. Institut Standar dan Teknologi Nasional (NIST) telah mengembangkan kerangka kerja komprehensif untuk keamanan sistem AI. Uni Eropa telah mengusulkan AI Act, kerangka kerja regulasi untuk memastikan penggunaan AI yang etis dan bertanggung jawab. Dan Institut Keamanan AI di Inggris sedang berusaha untuk mengembangkan standar keamanan dan praktik terbaik untuk implementasi AI.
Tanggung jawab untuk menetapkan seperangkat aturan main AI secara umum pada akhirnya ada pada pemerintah, tetapi kita belum sampai di sana. Saat ini, kita memiliki kumpulan pedoman yang tidak konsisten secara regional dan tidak mampu mengikuti laju cepat inovasi AI. Sementara itu, beban untuk penggunaan AI yang aman dan bertanggung jawab akan ada pada kami: vendor AI dan pelanggan perusahaan kami. Memang, kami membutuhkan seperangkat aturan main.
Matriks kewajiban baru
Perusahaan yang berpikir ke depan sedang bersikap proaktif. Mereka menciptakan komite pengarah internal dan kelompok pengawasan untuk mendefinisikan dan menegakkan kebijakan sesuai dengan kewajiban hukum dan standar etis mereka. Saya telah membaca lebih dari seratus permintaan penawaran (RFP) dari organisasi-organisasi ini, dan mereka bagus. Mereka telah memberikan informasi kerangka kerja kami di Writer untuk membangun program kepercayaan dan keamanan kami sendiri.
Satu cara untuk mengorganisir pemikiran kita adalah dalam matriks dengan empat area kewajiban: data, model, sistem, dan operasi; dan plotkan di tiga pihak yang bertanggung jawab: vendor, perusahaan, dan pemerintah.
Aturan main dalam kategori “data” meliputi integritas data, provenans, privasi, penyimpanan, dan kepatuhan hukum dan peraturan. Dalam “model,” mereka adalah transparansi, akurasi, bias, toksisitas, dan penyalahgunaan. Dalam “sistem,” mereka adalah keamanan, keandalan, kustomisasi, dan konfigurasi. Dan dalam “operasi,” mereka adalah siklus pengembangan perangkat lunak, pengujian dan validasi, akses dan kebijakan lainnya (manusia dan mesin), dan etika.
Dalam setiap kategori aturan main, saya merekomendasikan menguraikan kewajiban utama Anda, mengartikulasikan apa yang dipertaruhkan, mendefinisikan seperti apa “baik” itu, dan mendirikan sistem pengukuran. Setiap area akan terlihat berbeda di antara vendor, perusahaan, dan entitas pemerintah, tetapi pada akhirnya mereka harus saling mendukung dan mendukung.
Saya telah memilih pertanyaan sampel dari RFP pelanggan kami dan menerjemahkan masing-masing untuk mendemonstrasikan bagaimana setiap aturan main AI mungkin bekerja.
EnterpriseVendorData → PrivasiPertanyaan kunci: Data mana yang sensitif? Di mana letaknya? Bagaimana mereka bisa terbuka? Apa dampaknya jika mereka terbuka? Apa cara terbaik untuk melindungi mereka?Bahasa RFP: Apakah Anda menganonimkan, mengenkripsi, dan mengontrol akses ke data sensitif?
EnterpriseVendorModel → BiasPertanyaan kunci: Di mana letak bias kita? Sistem AI mana yang memengaruhi keputusan atau output kita? Apa yang dipertaruhkan jika kita salah? Seperti apa “baik” itu? Berapa toleransi kita terhadap kesalahan? Bagaimana kita mengukur diri kita sendiri? Bagaimana kita menguji sistem kita dari waktu ke waktu?Bahasa RFP: Jelaskan mekanisme dan metodologi yang Anda gunakan untuk mendeteksi dan mengurangi bias. Jelaskan metode pengujian bias/keadilan Anda dari waktu ke waktu.
EnterpriseVendorSystem → KeandalanPertanyaan kunci: Keandalan sistem AI kita harus seperti apa? Apa dampaknya jika kami tidak memenuhi SLA waktu aktif kami? Bagaimana cara mengukur waktu tidak aktif dan menilai keandalan sistem kita dari waktu ke waktu?Bahasa RFP: Apakah Anda mendokumentasikan, berlatih, dan mengukur rencana tanggap untuk kejadian waktu tidak aktif sistem AI, termasuk pengukuran tanggapan dan waktu tidak aktif?
EnterpriseVendorOperasi → EtikaPertanyaan kunci: Peran apa yang dimainkan manusia dalam program AI kita? Apakah kita memiliki kerangka kerja atau formula untuk menginformasikan peran dan tanggung jawab kita?Bahasa RFP: Apakah organisasi menetapkan kebijakan dan prosedur yang menentukan dan membedakan berbagai peran dan tanggung jawab manusia ketika berinteraksi dengan atau memantau sistem AI?
Saat kita mengubah bisnis dengan AI generatif, penting untuk mengakui dan mengatasi risiko yang terkait dengan implementasinya. Sementara inisiatif pemerintah sedang berlangsung, saat ini tanggung jawab untuk penggunaan AI yang aman dan bertanggung jawab ada pada pundak kita. Dengan menerapkan proaktif aturan main AI di seluruh data, model, sistem, dan operasi, kita dapat memperoleh manfaat AI sambil meminimalkan kerugian.
May Habib adalah CEO dan pendiri bersama Writer.
Lebih banyak komentar yang harus dibaca yang dipublikasikan oleh Fortune:
Pendapat yang diungkapkan dalam tulisan komentar Fortune.com semata-mata merupakan pandangan dari penulisnya dan tidak selalu mencerminkan pendapat dan kepercayaan dari Fortune.
\”