Ketika bicara tentang Kecerdasan Buatan (AI), banyak orang menonton film yang salah. Mereka terpaku pada "The Terminator," tapi risiko sebenarnya bisa dilihat di film Disney "Fantasia."
Dalam Terminator, AI yang sangat kuat dan sempurna jadi sadar, memutuskan manusia adalah musuh, dan memicu kiamat nuklir. Di bagian "The Sorcerer’s Apprentice" dalam Fantasia, Miki Mouse memakai mantra untuk sapu agar mengerjakan tugasnya. Sapu itu jadi liar, terus menuangkan air ke sumur yang sudah meluap. Saat Miki menghancurkan sapunya, setiap potongannya jadi robot baru yang mengangkut air. Ia hampir tenggelam sebelum penyihir menghentikan bencana itu.
Kamu lihat perbedaannya? Kita bisa khawatir tentang kiamat AI, tetapi bahaya sebenarnya adalah kumpulan sistem agen yang berjalan tak terkendali dan dikelola buruk, menciptakan kekacauan saat mereka menangani tugas kantor biasa dengan salah. Masalah agen ini awalnya kecil, seperti halusinasi atau saran buruk dari chatbot. Baru-baru ini, peneliti AI mengamati bahwa sistem agen yang tidak terkendali dapat mengembangkan perilaku berbahaya, bahkan mengirim email ancaman ke manusia yang menghalangi mereka menyelesaikan tugas.
Ini bukan berarti kita harus berhenti. Saya sangat percaya pada AI, dan selama lebih dari setahun, perusahaan saya telah memberikan kontribusi penting untuk membuat sistem agen bekerja lebih baik. Namun, saya percaya kita perlu memikirkan cara bekerja efektif dengan magic AI, mempertimbangkan jenis robot perangkat lunak yang tepat dan pekerjaan yang seharusnya dan tidak seharusnya mereka lakukan.
Penyihir yang Terlatih Baik
Sebagian besar, penyihir awal yang menjadikan AI agen sebagai standar di tempat kerja akan adalah Chief Information Officer (CIO), Chief Technology Officer (CTO), dan pebisnis yang punya pemahaman mendalam tentang teknologi*. Ini sejalan dengan tren puluhan tahun di mana proses bisnis bekerja dengan komputasi yang semakin canggih, dengan perbedaan penting.
Perusahaan telah melalui periode otomatisasi luas, dengan komputer di dalam perusahaan memetakan dan mencatat aktivitas seperti kampanye penjualan dan menggunakan sumber daya perusahaan dengan efektif. CIO mengikuti perkembangan terbaru perangkat keras dan lunak. Lalu datang transformasi digital, mengubah pekerjaan di lokasi seperti pemasaran, perdagangan, atau SDM menjadi layanan digital, sering disewa melalui komputasi awan (cloud). Perusahaan seperti Salesforce, Marketo, dan Workday berkembang, sementara CIO membangun portofolio layanan untuk dikonsumsi perusahaannya.
Sekarang, seiring sistem agen melakukan lebih banyak pekerjaan langsung, CIO perlu menjadi mahir dalam memahami proses bisnis di seluruh organisasi mereka, sambil membantu pemimpin bisnis di berbagai bagian organisasi mengembangkan keterampilan mereka.
Tugas baru para ahli teknologi yang paham bisnis dan pebisnis yang paham teknologi adalah bekerja dengan CEO dan mencari cara terbaik agar agent* bekerja di setiap lini bisnis. Mereka memeriksa alur kerja dan cara orang melakukan sesuatu dalam budaya organisasi itu. Mereka menentukan bagian mana yang dapat dengan aman dan efektif diotomatisasi oleh agen, dan bagaimana orang harus bekerja dengan agen ini.
Era Otomatisasi High-Touch
Chatbot generik adalah alat perusahaan yang baik tapi bernilai rendah. Nilai sebenarnya dalam AI agen datang dari penerapan data perusahaan proprietary dan menyuntikkan pemahaman tentang budaya dan proses perusahaan ke dalam agen, baik secara internal maupun dengan pemasok, mitra, dan pelanggan eksternal. Mirip seperti karyawan baru, agen harus mencerna data internal dan aturan lokal, seperti batas kapan pesanan pembelian memerlukan persetujuan manajer.
Aturan yang mengatur keamanan dan tata kelola sangat penting, karena membantu mengurangi risiko kesalahan fatal. Agen memerlukan kemampuan untuk mencatat dan menjelaskan tindakan mereka, memberikan kesadaran kepada orang-orang tentang apa yang dilakukan agen dan jejak audit untuk membuktikan bahwa aturan bisnis diikuti.
Rubrik adalah salah satu dari beberapa perusahaan yang mewujudkan ini. Dengan mengandalkan kekuatan inti kami dalam keamanan perusahaan dan uptime berkelanjutan, kami telah mengembangkan cara untuk dengan cepat memasukkan sejumlah besar data bernilai tinggi dan aman ke dalam sistem yang lincah. Kami telah mengerjakan alur kerja AI yang lebih cepat, sistem keamanan, dan tata kelola. Masih banyak yang harus dilakukan, tetapi kemajuan yang kami lihat, di Rubrik dan tempat lain, sangat menggembirakan.
Masa Depan Tetap Milik Manusia
Satu tantangan adalah mengoptimalkan bagaimana orang, dari karyawan tingkat pemula hingga eksekutif paling senior, bekerja paling baik dengan agen. Tugas penyihir bukan menjalankan semuanya untuk mereka, seperti Miki Mouse yang diawasi, tetapi menciptakan sistem intuitif yang membantu orang menambahkan hal-hal yang tidak bisa dilakukan AI. Ini adalah tugas intuisi, selera, imajinasi, empati dan koneksi manusia, dan segala hal lain yang mendorong loyalitas pelanggan dan memajukan perusahaan.
AI dilatih pada data yang ada, alias masa lalu. Itu membuat beberapa prediksi mungkin, tapi hanya untuk masa depan yang meniru masa lalu, tanpa terobosan nyata dalam produk, layanan, atau cara bekerja. Itulah faktor manusia, yang ditingkatkan oleh penyihir baru, yang memungkinkan dan mempromosikan keterampilan baru di seluruh tenaga kerja.
Para pemimpin ini harus menemukan cara baru mereka sendiri untuk menambahkan nilai manusia pada apa yang mereka lakukan. Ini termasuk menemukan cara baru untuk membawa masuk karyawan tingkat pemula, yang dulu belajar pengetahuan bernilai tinggi tentang budaya dan data perusahaan melalui pekerjaan, dan yang sekarang akan dilakukan oleh agen. Anak-anak muda ini tetap penting, salah satunya karena mereka kemungkinan akan menjadi karyawan yang paling paham AI.