Tetaplah terinformasi dengan pembaruan gratis
Cukup daftar ke UK banks myFT Digest — langsung dikirimkan ke kotak masuk Anda.
Penggunaan kecerdasan buatan generatif oleh para pemberi pinjaman semakin berkembang dengan pesat dan menciptakan risiko baru bagi sistem keuangan dan bisa dimasukkan ke dalam uji stres tahunan yang mengeksplorasi ketahanan sektor, kata seorang wakil gubernur Bank of England.
“Kekuatan dan penggunaan AI berkembang dengan cepat, dan kita tidak boleh merasa puas,” kata Sarah Breeden pada hari Kamis, menambahkan bahwa meskipun bank sentral Inggris tersebut khawatir, mereka belum siap untuk mengubah pendekatan mereka dalam mengatur AI generatif.
Sebanyak 75 persen perusahaan keuangan menggunakan teknologi yang berkembang pesat tersebut — naik dari 53 persen dua tahun yang lalu — dan lebih dari setengah dari kasus penggunaan memiliki tingkat pengambilan keputusan otomatis, menurut survei terbaru BoE.
Sistem AI generatif menghasilkan teks, kode, dan video dalam hitungan detik, dan Breeden mengatakan bank sentral tersebut khawatir bahwa, saat digunakan untuk perdagangan, AI dapat menyebabkan “bentuk manipulasi yang canggih atau perdagangan yang lebih ramai dalam kondisi normal yang memperburuk volatilitas pasar dalam situasi stres”.
BoE dapat menggunakan uji stres tahunannya terhadap bank-bank Inggris, yang menilai seberapa siap pemberi pinjaman untuk skenario krisis yang berbeda, “untuk memahami bagaimana model AI yang digunakan untuk perdagangan baik oleh bank maupun non-bank dapat berinteraksi satu sama lain”, kata Breeden, yang mengawasi stabilitas keuangan di bank sentral tersebut.
BoE sedang membentuk “konsorsium AI” dengan para ahli sektor swasta untuk mempelajari risikonya.
Breeden memperingatkan: “Jika perdagangan yang ramai didanai melalui leverage, goncangan yang menyebabkan kerugian bagi strategi perdagangan semacam itu dapat diperkuat menjadi stres pasar yang lebih serius melalui lingkaran umpan balik penjualan paksa dan pergerakan harga yang merugikan.”
Komentarnya dalam sebuah konferensi di Hong Kong mengikuti peringatan IMF dalam laporan stabilitas keuangannya minggu lalu bahwa AI dapat menyebabkan ayunan lebih cepat di pasar keuangan dan volatilitas yang lebih besar dalam situasi stres.
Breeden, yang mulai menjabat pada bulan November tahun lalu, mengatakan bahwa aturan yang membuat bankir senior lebih bertanggung jawab atas area yang mereka awasi dapat disesuaikan untuk memastikan bahwa mereka bertanggung jawab atas keputusan yang diambil otonom oleh sistem AI.
“Kita perlu berfokus terutama pada memastikan bahwa manajer perusahaan keuangan mampu memahami dan mengelola apa yang dilakukan model AI mereka saat mereka berkembang otonom di bawah kaki mereka,” katanya.
Walaupun sebagian besar penggunaan AI dalam layanan keuangan “cukup rendah risiko dari sudut pandang stabilitas keuangan . . . lebih banyak kasus penggunaan yang lebih signifikan dari sudut pandang stabilitas keuangan muncul”, seperti menilai risiko kredit dan perdagangan algoritmik.
Dalam survei mereka, bank sentral menemukan 41 persen perusahaan yang disurvei menggunakan AI untuk mengoptimalkan proses internal, lebih dari seperempat untuk dukungan pelanggan dan setidaknya sepertiga untuk melawan penipuan.
AI digunakan untuk penilaian risiko kredit oleh 16 persen perusahaan, dengan 19 persen lainnya mengatakan mereka berencana melakukannya dalam tiga tahun ke depan, temuan survei tersebut menunjukkan.
Sebelas persen dari kelompok-kelompok tersebut menggunakan teknologi tersebut untuk perdagangan algoritmik, dengan 9 persen lainnya berencana mengadopsinya untuk pekerjaan ini dalam tiga tahun ke depan.
Breeden mengatakan setengah dari penggunaan AI oleh perusahaan keuangan dibagi secara kasar antara “pengambilan keputusan semi-otonom”, dengan sedikit keterlibatan manusia, dan proses yang sepenuhnya otomatis tanpa keterlibatan manusia.
“Itu jelas menimbulkan tantangan bagi manajemen dan tata kelola perusahaan keuangan, serta bagi pengawas,” katanya.