Dengarkan dan langgan podcast Opening Bid Unfiltered di Apple Podcasts, Amazon Music, Spotify, YouTube, atau di mana saja kamu temukan podcast favoritmu.
Dengan inovasi AI yang cepat, datang juga bahaya besar — seperti akses tanpa tanding dari agen AI ke data pribadi kita.
“Saya pikir satu bahaya terbesarnya adalah AI punya akses ke semua informasi kita yang paling sensitif, dan sekarang orang-orang memberi izin dan akses untuk agen AI ini agar bisa mengakses segalanya,” kata CEO AlphaTON Capital, Brittany Kaiser, di podcast Opening Bid Unfiltered Yahoo Finance.
Kaiser adalah seorang aktivis hak data yang terkenal — dan juga pelapor Cambridge Analytica yang membongkar bagaimana perusahaan konsultan politik itu mengumpulkan data pribadi dari jutaan pengguna Facebook untuk mempengaruhi pemilu.
Dia bergabung ke Cambridge Analytica pada 2015 sebagai direktur pengembangan bisnis dan bekerja di sana sampai Januari 2018, saat dia kabur ke Thailand dan mulai membongkar praktik perusahaan itu ke Parlemen Inggris, penyelidikan Mueller, dan publik.
Sejak itu, Kaiser telah menulis memoar dan menjadi subjek film The Great Hack, sebuah dokumenter Netflix (NFLX) yang dinominasikan Emmy.
“Mereka [CEO AI] tidak bilang produk mereka aman, tapi mereka juga tidak memberi kekuatan nyata kepada kepala keamanan AI mereka,” tambah Kaiser. “Jadi, saya rasa tidak ada CEO perusahaan AI yang mengatakan apa yang mereka lakukan sepenuhnya aman. Saya pikir mereka sebenarnya cukup transparan tentang risiko dan bahaya besar itu, tapi mereka tidak banyak berbuat untuk itu.”
Risiko untuk perusahaan dan konsumennya mulai menumpuk karena penyebaran AI yang meluas.
Hampir 72% perusahaan S&P 500 (^GSPC) sekarang menyebut AI sebagai risiko material dalam laporan mereka, menurut survei terbaru dari Conference Board. Itu naik tajam dari hanya 12% di tahun 2023.
Risiko reputasi ada di puncak daftar, disebutkan oleh 38% perusahaan. Perusahaan-perusahaan memperingatkan bahwa kegagalan proyek AI, kesalahan di alat yang berinteraksi dengan konsumen, atau rusaknya layanan pelanggan bisa cepat menghancurkan kepercayaan merek.
Risiko keamanan siber menyusul, menurut 20% perusahaan yang disurvei.
“Kami lihat tema yang jelas muncul di berbagai laporan: Perusahaan-perusahaan khawatir tentang dampak AI pada reputasi, keamanan, dan kepatuhan hukum,” kata Andrew Jones, penulis laporan itu dan peneliti utama di Conference Board. “Tugas bagi pemimpin bisnis adalah mengintegrasikan AI ke tata kelola dengan ketat sama seperti keuangan dan operasi, sambil berkomunikasi dengan jelas untuk menjaga kepercayaan pemangku kepentingan.”