Mengambil keunggulan kompetitif dari kecerdasan buatan generatif (Gen AI) adalah tentang menerapkan teknologi pada waktu yang tepat. Pergi terlalu awal dan Anda bisa menerapkan layanan yang menciptakan lebih banyak tantangan daripada solusi; pergi terlalu lambat dan bisnis Anda bisa tertinggal.
Wendy Redshaw, chief digital information officer di NatWest Retail Bank, mengakui skala tantangan ini lebih baik daripada kebanyakan orang. Dalam perannya memimpin operasi digital untuk raksasa keuangan tersebut, Redshaw mengelola 4.500 orang di empat lokasi secara global dan mengawasi pengiriman teknologi perbankan ritel untuk Royal Bank of Scotland, NatWest, dan Ulster Bank North.
Tim tersebut fokus pada digitalisasi layanan untuk membuat hidup lebih mudah bagi pelanggan grup tersebut. Pekerjaan mereka didukung oleh investasi yang direncanakan sebesar £3,5 miliar dari 2023 hingga 2025, dengan lebih dari 70% pengeluaran ditargetkan pada data dan teknologi.
Kecerdasan buatan, mulai dari pembelajaran mesin hingga model bahasa besar (LLMs), memainkan peran kunci dalam strategi investasi ini.
Redshaw menyadari bahwa telah banyak kehebohan tentang kecerdasan buatan, dan dengan alasan yang bagus – perusahaan dan pelanggan mereka dapat melihat manfaat potensialnya.
“Ketika Gen AI muncul, semua orang menjadi bersemangat tentang itu,” katanya. “Ini sedang dibicarakan dalam kehidupan pribadi kita. Itu adalah suatu teknologi yang sangat terfederasi.”
Namun, kehebohan terkadang perlu diimbangi, terutama jika Anda menerapkan teknologi dalam industri yang sangat diatur seperti layanan keuangan, yang menggunakan jumlah data pribadi yang besar.
“Ketika Anda berada di lingkungan yang diatur, dan Anda harus menjaga keamanan pelanggan Anda, maka jelas keluar dan menggunakan Gen AI saja tidak aman,” katanya.
Menyerang keseimbangan yang tepat
Pendekatan proaktif Redshaw terhadap Gen AI memungkinkan tim digital untuk berinovasi dengan hati-hati.
“Kami membiarkan rekan-rekan kami menjelajahi teknologi ini dalam ruang yang aman,” katanya. “Eksplorasi awal itu menunjukkan beberapa area yang mungkin kami telusuri. Kami mengumpulkan sekitar 100 kasus penggunaan. Personalisasi adalah tempat yang jelas untuk difokuskan bagi pelanggan kami.”
Untungnya, NatWest memiliki dasar yang kokoh untuk membangun pendekatan personalisasi ini karena bank memperkenalkan Cora, asisten obrolan generasi pertama, pada tahun 2017.
Cora bisa menjawab pertanyaan-pertanyaan dasar, tetapi Redshaw – yang bergabung dengan bank pada tahun 2018 – ingin teknologi itu melakukan lebih banyak.
Jawabannya adalah Cora+, asisten generasi berikutnya NatWest yang didukung oleh Gen AI. “Itu terasa seperti kasus penggunaan yang paling berdampak,” katanya. Itu adalah kasus, ‘Baiklah, mari kita lihat apa yang perlu kita lakukan untuk mengeksplorasi teknologi ini dengan aman dengan cara yang akan bermanfaat bagi pelanggan.'”
Secara internal, timnya menjelajahi teknologi dalam kerangka kerja AI dan data bank. Kerangka kerja ini mencakup prinsip-prinsip kunci, seperti mempertahankan pengawasan manusia, menghilangkan bias, dan mempertimbangkan dampak sosial-ekonomi, termasuk bagaimana model AI mengkonsumsi energi.
Untuk mengembangkan Cora+, tim bekerja dengan para ahli dari tim Rekayasa Klien IBM. Teknologi asisten virtual ini didukung oleh IBM watsonx Assistant dan dibangun di IBM Cloud.
Menyusun platform
Dengan teknologi siap, langkah berikutnya adalah menguji Cora+ dengan klien dalam uji coba 12 minggu yang dimulai pada bulan Juni tahun lalu.
“Kami sangat berani di NatWest tentang hal-hal baru yang dapat bermanfaat bagi pelanggan kami,” kata Redshaw. “Tetapi kami juga sangat berhati-hati tentang bagaimana kami melakukan hal-hal. Jadi, awalnya kami mengusulkan pilot untuk merangkai AI deterministik, Cora, dengan Gen AI, yaitu Cora+.”
Dia memberi contoh bagaimana dua teknologi itu menangani pertanyaan pinjaman. Pelanggan yang bertanya tentang pinjaman diarahkan ke halaman web yang tepat oleh Cora.
Jika seorang pelanggan bertanya lebih detail, Cora akan bertanya kepada pelanggan apakah mereka ingin berinteraksi dengan sekutu generatifnya yang lebih kuat, Cora+.
Pertanyaan itu penting karena bank ingin pelanggannya tahu bahwa Cora+ adalah teknologi uji coba.
“Banyak orang berkata, ‘Saya tidak yakin saya ingin melakukannya,’ dan akan memilih keluar,” katanya. “Dan itu baik-baik saja karena kami memiliki batasan pada jumlah orang yang menggunakan Cora+ selama hari.”
Namun, sebagian besar pelanggan menemukan bahwa Cora+ dapat menjawab pertanyaan mereka secara efektif dalam bahasa alami. Perkiraaan menunjukkan teknologi tersebut menciptakan peningkatan 150% dalam kepuasan untuk beberapa pertanyaan pelanggan.
“Kami terkejut bahwa itu sangat baik diterima,” katanya. “Respon itu memberi kami kepercayaan diri untuk pergi kepada orang-orang yang memberi kami batasan pada jumlah percakapan dan mengatakan bahwa kami ingin menjalankan uji coba ini selama 12 bulan.”
Mempertajam strategi
Redhsaw mengatakan Cora+ dengan cepat menemukan peran penting dalam strategi digitalisasi NatWest dan pendekatan akan disempurnakan saat bank mengembangkan personalisasi berbasis data.
“Melihat kegiatan yang dilakukan tim saya dan cabang-cabang yang kami telusuri, saya tidak melihat bagaimana teknologi tidak akan menjadi norma untuk AI percakapan,” katanya.
“Kami menemukan begitu banyak tentang bagaimana orang dan teknologi berinteraksi. Setiap hari, Cora dan Cora+ belajar hal-hal baru. Dan sebagai hasilnya, kami telah memperluas apa yang mereka bisa lakukan bersama.”
Redshaw mengatakan NatWest menggunakan ChatGPT 3.5 untuk Cora+ bersama model GPT yang tidak disebutkan namanya. Model kedua sedang dilatih untuk menilai output LLM pertama.
“Kami terus bereksperimen tentang elemen-elemen berbeda bagaimana AI bisa membantu,” katanya.
Sementara inovasi ini memberikan hasil positif, ada tantangan yang harus diatasi.
Cora+ memiliki tingkat akurasi 98,5%. Angka yang mengesankan, tetapi bukan tingkat keberhasilan 100% yang ditawarkan oleh AI deterministik, seperti Cora, menggunakan kemampuan dan sumber data yang ketat terbatas.
Redshaw mengatakan tujuannya adalah menciptakan layanan AI generatif yang memberikan akurasi sesuai dengan mungkin tanpa mengambil risiko yang tidak perlu.
“Penerapan teknologi kami menunjukkan janji besar untuk melakukan hal-hal dalam skala,” kata dia. “Saya sangat bersemangat tentang peluang-peluang itu. Saya tidak bisa membahas bagaimana kami akan mengembangkan teknologi itu, tetapi saya sangat bersemangat tentang potensi itu.”
Langkah-langkah selanjutnya
Di luar manfaat pengalaman pelanggan yang ditingkatkan, Redshaw mengatakan menerapkan Cora+ telah mengajarkan bisnis sebuah pelajaran penting: Anda dapat memberikan pengalaman yang lebih memuaskan bagi pelanggan melalui teknologi yang sedang berkembang.
“Itu memberi kami rasa nyaman,” katanya. “Selalu ada kemungkinan bahwa teknologi ini tidak akan skala, tidak akan berperilaku, akan bermimpi-mimpi, dan tidak akan berfungsi dengan baik dalam lingkungan di mana terbatas, terputus dari internet, dan hanya belajar tentang hal-hal terkait bank.”
Timnya juga telah belajar pentingnya untuk tidak menganggap enteng apa pun, terutama saat menerapkan teknologi yang sedang berkembang.
“Ketika pelanggan dihadapkan pada pilihan menggunakan Cora+, mereka tidak selalu memahami istilah tersebut, jadi itu sesuatu yang perlu dipikirkan,” katanya.
“Tetapi kabar baiknya adalah bahwa, ketika mereka menggunakan teknologi tersebut, mereka memiliki pengalaman yang sangat positif. Jadi, itu memberi kami dorongan untuk berpikir, ‘OK, apa lagi yang bisa kita lakukan? Apa lagi yang bisa kita ajarkan kepada Cora+ yang akan baik untuk pelanggan kami?'”