“
Ada ironi yang aneh dalam bagaimana kita mengevaluasi kecerdasan buatan: Kita telah menciptakan sistem untuk meniru dan meningkatkan kemampuan manusia, namun kita mengukur kesuksesan mereka menggunakan metrik yang menangkap segalanya kecuali apa yang membuat mereka benar-benar berharga bagi manusia.
Dashboard industri teknologi penuh dengan angka-angka impresif tentang kecerdasan buatan: kecepatan pemrosesan, jumlah parameter, skor benchmark, tingkat pertumbuhan pengguna. Para pikiran terbesar di Silicon Valley terus memoles algoritma tanpa henti untuk menaikkan metrik ini. Namun di labirin pengukuran ini, kita telah kehilangan pandangan pada kebenaran mendasar: Kecerdasan buatan paling canggih di dunia tidak berguna jika tidak secara berarti meningkatkan kehidupan manusia.
Perhatikan kisah mesin pencari awal. Sebelum Google, perusahaan bersaing sengit berdasarkan jumlah halaman web yang diindeks. Namun Google berhasil bukan karena memiliki database terbesar, tetapi karena memahami sesuatu yang lebih dalam tentang perilaku manusia—bahwa relevansi dan keandalan lebih penting daripada jumlah mentah.
Kecerdasan buatan yang membangun kepercayaan
Lanskap kecerdasan buatan saat ini terasa sangat mirip, dengan perusahaan berlomba-lomba untuk membangun model yang lebih besar sambil kemungkinan melewatkan elemen-elemen yang lebih halus dari desain berpusat pada manusia yang sebenarnya mendorong adopsi dan dampak.
Jalur menuju evaluasi kecerdasan buatan yang lebih baik dimulai dengan kepercayaan. Penelitian terbaru menunjukkan bahwa pengguna terlibat lebih dalam dan bertahan lebih lama dengan sistem kecerdasan buatan yang dengan jelas menjelaskan alasan mereka, bahkan ketika sistem tersebut kadang-kadang mengalami kegagalan. Ini masuk akal—kepercayaan, baik dalam teknologi maupun manusia, tumbuh dari transparansi dan keandalan daripada metrik kinerja murni.
Namun kepercayaan hanyalah fondasi. Sistem kecerdasan buatan yang paling efektif membentuk hubungan emosional yang nyata dengan pengguna dengan mendemonstrasikan pemahaman yang sejati tentang psikologi manusia. Penelitian mengungkap pola yang menggugah: Ketika sistem kecerdasan buatan menyesuaikan diri dengan kebutuhan psikologis pengguna daripada hanya mengeksekusi tugas, mereka menjadi bagian integral dari kehidupan sehari-hari orang. Ini bukan tentang memprogram keramahan yang dangkal—ini tentang menciptakan sistem yang benar-benar memahami dan merespons pengalaman manusia.
Kepercayaan lebih penting daripada kecakapan teknis ketika berkaitan dengan adopsi kecerdasan buatan. Studi chatbot kecerdasan buatan yang mengesankan hampir 1.100 konsumen menemukan bahwa orang bersedia memaafkan kegagalan layanan dan mempertahankan kesetiaan merek bukan berdasarkan seberapa cepat kecerdasan buatan menyelesaikan masalah mereka, tetapi pada apakah mereka percaya pada sistem yang mencoba membantu mereka.
Kecerdasan buatan yang mengerti Anda
Para peneliti menemukan tiga elemen kunci yang membangun kepercayaan ini: Pertama, kecerdasan buatan perlu menunjukkan kemampuan yang sejati untuk memahami dan mengatasi masalah. Kedua, perlu menunjukkan kebaikan hati—keinginan yang tulus untuk membantu. Ketiga, harus mempertahankan integritas melalui interaksi yang konsisten dan jujur. Ketika chatbot kecerdasan buatan mewujudkan kualitas-kualitas ini, pelanggan jauh lebih mungkin memaafkan masalah layanan dan kurang cenderung mengeluh kepada orang lain tentang pengalaman mereka.
Bagaimana membuat sistem kecerdasan buatan dapat dipercaya? Studi tersebut menemukan bahwa hal-hal sederhana membuat perbedaan besar: mengatributkan sifat manusia pada kecerdasan buatan, memprogramnya untuk menyatakan empati melalui tanggapannya (“Saya memahami betapa frustasinya ini”), dan menjadi transparan tentang privasi data. Sebagai contoh yang menggambarkan, seorang pelanggan yang menghadapi keterlambatan pengiriman lebih mungkin tetap setia ketika chatbot bernama Russell mengakui kekecewaan mereka dan dengan jelas menjelaskan baik masalah maupun solusi, dibandingkan dengan bot tanpa nama yang hanya menyatakan fakta.
Wawasan ini menantang asumsi umum bahwa kecerdasan buatan hanya perlu cepat dan akurat. Di bidang kesehatan, layanan keuangan, dan dukungan pelanggan, sistem kecerdasan buatan generatif yang paling sukses tidak selalu yang paling canggih—mereka yang membangun hubungan emosional yang nyata dengan pengguna. Mereka menghabiskan waktu untuk menjelaskan alasan mereka, mengakui kekhawatiran, dan mendemonstrasikan nilai yang konsisten bagi kebutuhan pengguna.
Dan namun metrik tradisional tidak selalu menangkap dimensi-dimensi penting ini dari kinerja. Kita memerlukan kerangka kerja yang mengevaluasi sistem kecerdasan buatan tidak hanya berdasarkan kecakapan teknis mereka, tetapi juga berdasarkan kemampuan untuk menciptakan keamanan psikologis, membangun hubungan emosional yang nyata, dan yang paling penting, membantu pengguna mencapai tujuan mereka.
Metrik kecerdasan buatan baru
Di Cleo, di mana kami fokus pada meningkatkan kesehatan keuangan melalui asisten kecerdasan buatan, kami sedang menjelajahi pengukuran-pengukuran baru ini. Ini mungkin berarti mengukur faktor-faktor seperti kepercayaan pengguna, kedalaman dan kualitas keterlibatan pengguna, serta melihat seluruh perjalanan percakapan. Penting bagi kami untuk memahami apakah Cleo, asisten keuangan kecerdasan buatan kami, dapat membantu pengguna dengan apa yang mereka coba capai dengan setiap interaksi tertentu.
Kerangka evaluasi yang lebih halus tidak berarti meninggalkan metrik kinerja—mereka tetap menjadi indikator vital kesuksesan komersial dan teknis. Namun, mereka perlu seimbang dengan ukuran-ukuran yang lebih dalam tentang dampak manusia. Itu tidak selalu mudah. Salah satu tantangan dengan metrik-metrik ini adalah subjektivitas mereka. Itu berarti manusia yang masuk akal bisa tidak setuju tentang seperti apa yang baik. Namun, mereka layak untuk diteruskan.
Saat kecerdasan buatan semakin dalam teranyam ke dalam kain kehidupan sehari-hari, perusahaan yang memahami pergeseran ini akan menjadi yang berhasil. Metrik-metrik yang membawa kita ke sini tidak akan mencukupi untuk kemana kita akan pergi. Sudah waktunya untuk mulai mengukur apa yang benar-benar penting: tidak hanya seberapa baik kecerdasan buatan berkinerja, tetapi seberapa baik ia membantu manusia berkembang.
Pendapat yang diungkapkan dalam tulisan komentar Fortune.com adalah pandangan penulis mereka sendiri dan tidak selalu mencerminkan pendapat dan kepercayaan Fortune.
Baca lebih lanjut:
CEO Genesys: Bagaimana kecerdasan buatan yang empatik dapat meningkatkan keberanian kita selama ketidakpastian ekonomi
Ketika kecerdasan buatan membangun kecerdasan buatan: Penemu hebat berikutnya mungkin bukan manusia
Kolaps biaya kecerdasan buatan sedang mengubah apa yang mungkin—dengan implikasi besar bagi startup teknologi
Saya telah menghabiskan bertahun-tahun membantu pendiri perempuan mengakses modal. Sekarang mereka memiliki kecerdasan buatan, mereka mungkin tidak perlu lagi
Cerita ini awalnya ditampilkan di Fortune.com
“