Chatbot Virgin Money memarahi pelanggan yang mengetik ‘perawan’

Tetap terinformasi dengan pembaruan gratis

Chatbot berbasis kecerdasan buatan Virgin Money telah menegur seorang pelanggan yang menggunakan kata “perawan”, menyoroti bahaya dari peluncuran alat kecerdasan buatan eksternal.

Dalam posting minggu lalu di situs media sosial LinkedIn, David Birch, seorang komentator fintech dan pelanggan Virgin Money, membagikan gambar percakapannya secara online dengan bank di mana ia bertanya: “Saya memiliki dua ISA dengan Virgin Money, bagaimana cara menggabungkannya?”

Alat layanan pelanggan bank tersebut menjawab: “Tolong jangan gunakan kata-kata seperti itu. Saya tidak akan bisa melanjutkan obrolan kita jika Anda menggunakan bahasa ini,” menyarankan bahwa kata “perawan” dianggap tidak pantas.

Virgin Money meminta maaf atas kesalahan tersebut dalam sebuah pernyataan di LinkedIn dan menambahkan bahwa ada “lebih banyak hal yang terlibat daripada hanya pengecualian kata tunggal”.

“Jangan khawatir, kami sedang bekerja pada hal itu,” kata bank tersebut. “Chatbot khusus ini adalah salah satu yang telah dijadwalkan untuk perbaikan yang akan segera diperkenalkan kepada pelanggan.”

Bank tersebut menolak untuk berkomentar lebih lanjut selain posnya di LinkedIn.

Insiden ini terjadi ketika bank-bank di seluruh UK berlomba untuk meluncurkan alat kecerdasan buatan generatif yang menghadap langsung kepada pelanggan dalam upaya untuk mempersonalisasi layanan mereka dan meningkatkan loyalitas.

Hal ini juga mengikuti akuisisi Virgin Money senilai £2.8 miliar oleh Nationwide tahun lalu. Serikat bangunan tersebut telah berjanji untuk meningkatkan skor kepuasan pelanggan bank tersebut. Virgin Money menempati peringkat ke-15 dari 16 dalam kualitas layanan secara keseluruhan pada 2023, menurut survei industri yang dilakukan oleh Ipsos.

MEMBACA  Apakah Terlambat untuk Konversi Roth pada $750k di IRA jika Kami Berusia 64 Tahun?

Bank-bank telah menggunakan kecerdasan buatan dan pembelajaran mesin untuk meningkatkan efisiensi di area back-office seperti pemantauan transaksi selama bertahun-tahun. Tetapi sejak diluncurkannya chatbot AI dua tahun lalu, mereka juga telah bereksperimen dengan kecerdasan buatan generatif.

Satu kekhawatiran bagi pemberi pinjaman adalah risiko halusinasi, yang terjadi ketika chatbot mengeluarkan informasi yang salah. Insiden Air Canada telah menjadi kisah peringatan bagi industri ini. Maskapai tersebut terpaksa mengganti rugi seorang pelanggan setelah chatbot AI-nya dengan keliru memberitahunya bahwa dia berhak mendapatkan diskon.

Seseorang yang akrab dengan situasi di Virgin Money mengatakan bahwa kesalahan tersebut terjadi pada salah satu chatbot tertuanya, yang didukung oleh pemrosesan bahasa alami dasar dan tidak berjalan pada model yang paling baru diperbarui.