Sabrina Ortiz/ZDNET
Meskipun teknologi AI yang mampu mengambil alih dunia terbatas pada literatur fiksi ilmiah dan film, kecerdasan buatan yang ada mampu melakukan tindakan yang salah, seperti memunculkan halusinasi, melatih pada data orang, dan menggunakan karya orang lain untuk menciptakan output baru. Bagaimana kekurangan ini sejalan dengan adopsi AI yang cepat?
Pertanyaan tersebut banyak dieksplorasi di SXSW, dengan sebagian besar sesi terkait AI menyentuh atau menjelajahi topik keamanan AI. Para pemimpin perusahaan dari IBM, Meta, Microsoft, dan Adobe, untuk beberapa contoh, memiliki wawasan untuk dibagikan tentang masa depan AI. Kesimpulannya? Tidak semua bencana.
Juga: Microsoft skeptis terhadap AGI, namun apakah ada ketegangan dengan OpenAI?
“AI membutuhkan agen PR yang lebih baik; semua yang kita pelajari berasal dari fiksi ilmiah,” kata Hannah Elsakr, pendiri Firefly for Enterprise di Adobe. “Kita berpikir AI akan mengambil alih hidup kita; itu bukan tujuannya.”
Tanpa memperdulikan panel, para pemimpin dari beberapa perusahaan teknologi AI terbesar membahas tiga tema utama tentang bagaimana keamanan dan tanggung jawab berperan dalam masa depan teknologi tersebut. Apa yang mereka katakan mungkin membantu mengatasi kekhawatiran Anda.
1. Kasus penggunaan penting
Tidak dapat disangkal bahwa sistem AI memiliki kelemahan. Mereka sering mengalami halusinasi dan mencakup bias dalam respons mereka. Sebagai hasilnya, banyak yang khawatir bahwa menggabungkan sistem AI ke dalam tempat kerja akan memperkenalkan kesalahan dalam proses internal, yang berdampak negatif pada karyawan, klien, dan tujuan bisnis.
Kunci untuk mengurangi masalah ini adalah dengan mempertimbangkan dengan seksama tugas mana yang Anda delegasikan kepada AI. Sebagai contoh, Sarah Bird, CPO AI bertanggung jawab di Microsoft, mencari kasus penggunaan yang cocok dengan apa yang teknologi ini bisa lakukan saat ini.
“Anda ingin memastikan Anda memiliki alat yang tepat untuk pekerjaan tersebut, jadi Anda tidak harus menggunakan AI untuk setiap aplikasi,” kata Bird. “Ada kasus lain di mana mungkin kita seharusnya tidak pernah menggunakan AI.”
Sebagai contoh kasus penggunaan AI yang mungkin bermasalah adalah penggunaannya untuk praktik perekrutan. Banyak studi telah menunjukkan bahwa AI memiliki bias bawaan yang membuatnya lebih memihak pada beberapa kewarganegaraan, latar belakang pendidikan, dan jenis kelamin dalam outputnya. Sebagai hasilnya, IBM berhenti menggunakan agen AI untuk proses penyaringan dan pemilihan, dan sebaliknya menggunakan agen untuk membantu mencocokkan kandidat dengan peran pekerjaan potensial.
“Saya tidak bisa cukup menekankan pentingnya benar-benar memastikan bahwa kasus penggunaan AI dan agen Anda sesuai dengan perusahaan dan budaya Anda,” kata Nickle LaMoreaux, chief human resources officer IBM.
Juga: 5 cara cepat untuk menyesuaikan penggunaan AI Anda untuk hasil yang lebih baik – dan pengalaman yang lebih aman
Meskipun AI dapat melakukan banyak tugas, itu tidak berarti harus melakukannya. Memahami batasan dan kelebihan teknologi tersebut adalah kunci untuk memastikan pengguna mendapatkan hasil terbaik dari penerapan AI dan menghindari masalah.
2. Manusia tetap ada
Ketika sistem AI menjadi lebih cerdas dan otonom, orang secara alami khawatir akan potensi teknologi ini untuk berdampak negatif pada dunia kerja dengan membuat manusia lebih mudah tergantikan. Namun, para pemimpin bisnis semua setuju bahwa meskipun AI akan mengubah cara kerja seperti yang kita tahu, itu tidak akan necessarily menggantikannya.
“AI memungkinkan orang melakukan lebih dari sebelumnya, bukan penggantian secara keseluruhan,” kata Ella Irwin, kepala generative AI safety di Meta. “Apakah beberapa pekerjaan akan digantikan? Ya, namun seperti dengan teknologi lainnya, seperti internet, kita akan melihat pekerjaan baru berkembang, dan kita akan melihat orang menggunakan teknologi ini dan melakukan pekerjaan mereka dengan cara yang berbeda dari sebelumnya.”
Juga: Ketika agen AI berkembang, IT menjadi departemen HR baru
Pemimpin dan ahli sepanjang konferensi sering membahas paralel antara AI dan teknologi transformasional lainnya, seperti internet, karena mereka memiliki begitu banyak kesamaan. Misalnya, seperti internet menggantikan jam di perpustakaan, AI Penelitian Mendalam baru dari Google atau OpenAI sekarang dapat menyelesaikan jam penelitian dalam hitungan menit.
“Pikirkan itu seperti email, atau ponsel, atau internet – AI adalah alat, AI adalah platform, setiap pekerjaan telah diubah oleh itu,” kata LaMoreaux.
3. Kepercayaan pengguna akan menjadi salah satu tantangan terbesar
Ketika membahas hambatan untuk pengembangan AI, rintangan yang orang pertimbangkan biasanya melibatkan pengembangan teknis model AI, yaitu, bagaimana model dapat dibangun dengan lebih aman, lebih cepat, dan lebih murah. Namun, bagian dari diskusi yang sering diabaikan adalah sentimen konsumen.
Di SXSW, peran konsumen banyak dibahas karena, pada akhirnya, model-model ini hanya akan bermanfaat dan transformatif jika orang mempercayainya cukup untuk mencoba.
“AI hanya sepercaya orang meletakkan kepercayaan padanya – jika Anda tidak percaya, itu tidak bermanfaat; jika Anda percaya, Anda dapat memulai adopsi itu,” kata Lavanya Poreddy, kepala trust & safety di HeyGen.
Juga: Bisakah AI meningkatkan kreativitas tanpa mencuri dari para seniman?
Seperti yang telah dibahas di atas, teknologi transformatif, seperti internet, awan, atau bahkan kalkulator, disambut dengan kekhawatiran. Irvwin menggunakan contoh kartu debit untuk menggambarkan gagasan ini, karena ketika diluncurkan pertama kali, orang khawatir tentang apa artinya bagi keamanan dana mereka.
“Dengan setiap teknologi baru, ada reaksi awal oleh pembuat kebijakan, oleh pasar, oleh konsumen yang sedikit lebih berbasis pada ketakutan,” tambah Irwin dari Meta.
Untuk mengatasi rintangan ini, perusahaan harus tetap transparan tentang model-model mereka, bagaimana mereka dilatih, kebijakan red-teaming, pendekatan keamanan, dan lainnya. Sudah ada dorongan ke arah itu, dengan lebih banyak perusahaan menambahkan kartu model ke rilis mereka.