Sebuah wawancara terbaru yang saya lakukan dengan Bret Taylor dan Clay Bavor tentang perusahaan AI baru mereka mungkin secara tidak sengaja telah melukai perasaan mereka. Perusahaan baru mereka, Sierra, sedang mengembangkan agen berbasis AI untuk “meningkatkan pengalaman pelanggan” bagi perusahaan besar. Di antara pelanggan aslinya adalah WeightWatchers, Sonos, SiriusXM, dan OluKai (perusahaan pakaian “terinspirasi dari Hawaii”). Pasar akhir Sierra adalah setiap perusahaan yang berkomunikasi dengan pelanggannya, yang merupakan peluang yang cukup besar. Rencana mereka membuat saya yakin bahwa prediksi yang banyak disuarakan bahwa tahun 2024 akan menjadi tahun di mana model AI yang telah membentuk pikiran kita selama setahun terakhir akan berubah menjadi produk nyata. Jadi ketika saya menyapa kedua pendiri ini, yang telah saya kenal selama bertahun-tahun, saya mencatat bahwa perusahaan mereka tampak “sangat praktis”.
Apakah itu hal yang salah untuk dikatakan? “Saya tidak tahu apakah itu pujian atau kritik atau hanya fakta,” kata Taylor, yang meninggalkan pekerjaannya sebagai co-CEO Salesforce untuk memulai Sierra. Saya meyakinkannya bahwa saya melihatnya lebih sebagai yang terakhir. “Ini bukan seperti Anda membangun pacar!” saya mencatat.
Menarik bahwa dua pemimpin yang lebih visioner di Silicon Valley sedang membangun startup AI bukan untuk mengejar trofi kecerdasan super-nerd tetapi untuk menggunakan kemajuan AI terbaru untuk memfuturkan perusahaan non-teknis, mainstream. Pengalaman mereka membawa mereka berdampingan dengan tokoh-tokoh industri yang lebih dikenal; Taylor adalah pengembang kunci Google Maps pada era 2000-an dan Bavor memimpin upaya VR Google. Mereka bersemangat untuk meyakinkan saya bahwa hati mereka masih dalam mode moonshot. Keduanya merasa bahwa AI percakapan adalah kemajuan sebanding dengan antarmuka pengguna grafis atau ponsel pintar, dan akan memiliki setidaknya dampak yang sama besar pada kehidupan kita. Sierra hanya fokus pada aspek tertentu yang berhubungan dengan perusahaan ini. “Di masa depan, agen AI perusahaan – pada dasarnya versi AI dari perusahaan itu – akan sama pentingnya dengan situs web mereka,” kata Taylor. “Ini akan sepenuhnya mengubah cara perusahaan ada secara digital.”
Untuk membangun bot mereka dengan cara yang efektif, menyenangkan, dan aman, Sierra harus meracik beberapa inovasi yang akan memajukan teknologi agen AI secara umum. Dan untuk menangani mungkin masalah yang paling membuat khawatir – halusinasi yang mungkin memberikan informasi yang salah kepada pelanggan – Sierra menggunakan beberapa model AI yang berbeda sekaligus, dengan satu model bertindak sebagai “pengawas” untuk memastikan agen AI tidak melenceng ke wilayah yang aneh. Ketika sesuatu akan terjadi dengan konsekuensi nyata, Sierra mengambil pendekatan kekuatan dalam angka mereka. “Jika Anda berbincang dengan agen WeightWatchers dan Anda menulis pesan, sekitar empat atau lima model bahasa besar yang berbeda diaktifkan untuk memutuskan apa yang harus dilakukan,” kata Taylor.
Karena kekuatan, pengetahuan yang luas, dan pemahaman AI yang luar biasa dari model bahasa besar, agen digital ini dapat memahami nilai dan prosedur perusahaan sebaik manusia – bahkan mungkin lebih baik daripada beberapa pekerja yang tidak puas di ruang ketel di Dakota Utara. Proses pelatihan lebih mirip dengan onboard seorang karyawan daripada memberi aturan ke dalam sistem. Lebih dari itu, bot ini cukup mampu untuk diberikan beberapa, eh, agensi dalam melayani kebutuhan pemanggil. “Kami menemukan bahwa banyak pelanggan kami memiliki kebijakan, dan kemudian mereka memiliki kebijakan lain di balik kebijakan itu, yang merupakan yang sebenarnya penting,” kata Bavor. Agen Sierra cukup canggih untuk mengetahui hal ini – dan juga cukup cerdas untuk tidak langsung membocorkan rahasia, dan memberikan pelanggan kesepakatan khusus hanya jika mereka mendorongnya. Tujuan Sierra tidak kurang dari mengubah interaksi pelanggan otomatis dari neraka menjadi kebahagiaan.
Ini seperti ambrosia bagi telinga salah satu klien pertama Sierra, WeightWatchers. Ketika Taylor dan Bavor memberi tahu CEO Sima Sistani bahwa agen AI bisa menjadi autentik dan bisa dirasakan, dia tertarik. Tetapi yang menentukan, kata dia kepada saya, adalah ketika para pendiri memberitahunya bahwa AI percakapan bisa melakukan “empati secara massal”. Dia tertarik, dan sekarang WeightWatchers menggunakan agen yang dibuat Sierra untuk interaksi pelanggannya.
Baiklah, tapi empati? Kamus Merriam-Webster mendefinisikannya sebagai “tindakan memahami, menyadari, sensitif, dan merasakan perasaan, pikiran, dan pengalaman orang lain”. Saya bertanya kepada Sistani apakah mungkin kontradiktif untuk mengatakan bahwa robot bisa berempati. Setelah jeda di mana saya hampir bisa mendengar gigi bergulir di otaknya, dia menjawab. “Menarik ketika Anda mengatakannya seperti itu, tetapi kita hidup di dunia 2D. Algoritma membantu kita menentukan koneksi berikutnya yang kita lihat dan hubungan yang kita buat. Kami telah melampaui itu sebagai masyarakat.” Itu artinya gagasan bahwa interaksi dengan robot tidak dapat autentik. Tentu saja IRL adalah yang ideal, katanya, dan agen lebih merupakan pelengkap kehidupan nyata daripada penggantinya. Tetapi dia tidak akan mundur dari klaim empati.
Ketika saya memaksa dia memberikan contoh, Sistani menceritakan satu interaksi di mana anggota WW mengatakan bahwa dia harus membatalkan keanggotaannya karena kesulitan. Agen AI memberinya dukungan: “Saya sangat menyesal mendengarnya … Kesulitan itu bisa sangat menantang … Biarkan saya membantu Anda mengatasinya.” Dan kemudian, seperti peri yang baik, agen membantunya menjelajahi alternatif. “Kami sangat jelas bahwa ini adalah asisten virtual,” kata Sistani. “Tapi jika kami tidak melakukannya, saya rasa Anda tidak bisa membedakannya.”