J Studios/DigitalVision via Getty Images
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
**Poin Penting ZDNET:**
* Perusahaan mengadopsi alat AI meski tingkat kepercayaannya rendah.
* Tata kelola, keterampilan, dan infrastruktur data menentukan tingkat kepercayaan.
* Ketidaksejajaran ini dapat menghambat ROI dari inisiatif AI.
Sudah menjadi rahasia umum bahwa banyak perusahaan kesulitan mencapai ROI yang nyata dari inisiatif AI mereka. Sebuah studi terkini dari MIT bahkan menemukan bahwa hingga 95% penggunaan teknologi ini di tingkat perusahaan pada dasarnya sama sekali tak membuahkan hasil.
**Juga:** 43% pekerja mengaku telah membagikan informasi sensitif ke AI – termasuk data keuangan dan klien
Lantas, apa penyebab tingginya angka kegagalan ini?
Berdasarkan studi baru yang dilakukan oleh perusahaan analitik data SAS dan International Data Corporation (IDC), salah satu faktor penyebabnya adalah meluasnya rasa ketidakpercayaan di kalangan bisnis terhadap alat AI yang justru mereka terapkan secara internal. Hal ini, ditambah dengan sifat sistem AI itu sendiri yang pada dasarnya sulit dipercaya, merupakan penghalang utama yang mencegah tercapainya ROI, menurut studi tersebut.
Mengapa Hal Ini Penting
Sepintas, hal ini mungkin tampak jelas: Tentu saja, jika Anda tidak memiliki keyakinan penuh pada suatu teknologi, dan jika teknologi itu pada dasarnya tidak andal, Anda tidak akan mengintegrasikannya terlalu dalam ke dalam bisnis Anda.
**Ingin lebih banyak cerita tentang AI?** Daftar untuk AI Leaderboard, buletin mingguan kami.
Namun, faktanya perusahaan-perusahaan telah mengadopsi AI, dan dalam skala masif: Lebih dari setengah (65%) responden survei SAS-IDC menyatakan organisasi mereka saat ini menggunakan AI dalam kapasitas tertentu, sementara tambahan 32% lainnya berencana untuk mulai melakukannya dalam tahun depan. Pada Juni lalu, Gartner memperkirakan bahwa hingga separuh dari seluruh proses pengambilan keputusan bisnis internal dapat sepenuhnya diotomatisasi atau setidaknya ditunjang sebagian oleh agen-agen AI.
**Juga:** Terlalu banyak alat AI? Platform ini mengelolanya semua dalam satu tempat
Kejutan terbesar dari studi SAS yang baru ini adalah bahwa adopsi komersial yang meluas ini terjadi meskipun bisnis-bisnis tersebut tampaknya tidak memiliki banyak kepercayaan terhadap teknologinya.
Berdasarkan survei global terhadap lebih dari 2.300 profesional IT dan pemimpin bisnis, studi baru ini menemukan bahwa lebih dari dua pertiga (78%) responden memiliki “kepercayaan penuh pada AI,” sementara jauh lebih sedikit (40%) yang benar-benar telah menerapkan pengawasan tata kelola dan penjelasan untuk memastikan bahwa sistem AI internal mereka dapat dipercaya.
“Ketidaksejajaran ini menyisakan banyak potensi AI yang belum tergali, dengan ROI yang lebih rendah di mana ada kekurangan dari segi dapat dipercaya,” ujar Chris Marshall, Wakil Presiden Data, Analitik, AI, Keberlanjutan, dan Riset Industri di IDC, dalam pernyataan mengenai studi baru tersebut.
**Juga:** AI adalah realitas baru setiap pengembang – 5 cara untuk memanfaatkannya secara maksimal
Studi ini menyusul data terkini yang menunjukkan bahwa banyak orang tidak pernah mempercayai informasi yang mereka terima dari fitur AI Overviews milik Google, meskipun perusahaan tersebut terus menjadikan AI generatif sebagai komponen yang semakin sentral dan mencolok dalam mesin pencari propertinya, serta dalam peramban Chrome dan alat-alat berorientasi konsumen lainnya.
Tiga Kendala Utama
Para penulis studi baru ini mengidentifikasi tiga faktor utama yang menghalangi bisnis saat ini untuk mempercayai kemampuan AI internal mereka, dan karenanya menghambat kapasitas mereka untuk mencapai ROI maksimal: infrastruktur cloud yang lemah, tata kelola yang tidak memadai, dan kurangnya keterampilan spesifik AI di antara tenaga kerja yang ada.
Meskipun dua yang pertama sebagian besar dapat diatasi melalui kemitraan pihak ketiga dan lebih banyak teknologi, yang ketiga bisa jadi sedikit lebih rumit — dan juga, mungkin, memicu kekhawatiran akan kehilangan pekerjaan.
**Juga:** Tidak, AI tidak mencuri pekerjaan teknologi Anda – AI hanya mengubahnya
Beruntung bagi para karyawan, data terkini menunjukkan bahwa sebagian besar pemimpin bisnis lebih memprioritaskan inisiatif pelatihan daripada pemutusan hubungan kerja. Selain itu, menambahkan hanya satu keterampilan terkait AI ke resume Anda dapat meningkatkan gaji Anda secara signifikan di peran berikutnya.
Bias yang Sangat Manusiawi
Studi SAS-IDC mengungkap fenomena menarik lainnya mengenai hubungan yang berkembang antara manusia dan AI: Responden survei cenderung lebih mempercayai sistem AI generatif dibandingkan model *machine learning* tradisional, meskipun faktanya yang terakhir lebih tua dan lebih transparan — dibangun dengan parameter yang lebih sedikit dan dilengkapi mekanisme bawaan yang memudahkan untuk memahami bagaimana mereka sampai pada outputnya — sementara yang pertama jauh lebih tidak tembus pandang, belum lagi rentan terhadap halusinasi sesekali.
**Juga:** AI memperkuat kekuatan tim Anda – dan kelemahannya, temuan laporan Google
Menurut para penulis studi, ini adalah bukti dari keunikan psikologis pada manusia: bahwa kita cenderung secara reflektif lebih mempercayai sistem AI yang terkesan manusiawi dibandingkan dengan yang lebih mekanis.
Alat AI generatif seperti ChatGPT, Gemini, dan Claude unggul dalam menghasilkan bahasa yang mirip manusia, yang dapat menciptakan ilusi bahwa mereka entah bagaimana lebih dari sekadar algoritma yang mendeteksi dan mereplikasi pola dari sekumpulan data pelatihan. Dalam beberapa kasus ekstrem, ilusi ini dapat memiliki konsekuensi psikologis yang serius, membuat pengguna membentuk ikatan emosional atau bahkan romantis dengan chatbot atau kategori sistem baru yang dipasarkan oleh perusahaan teknologi sebagai “pendamping AI.”
Kapasitas ini, menurut para penulis, memberi sistem-sistem tersebut aura otoritas.
“Semakin ‘manusiawi’ sebuah AI terasa, semakin kita mempercayainya, terlepas dari keandalan sebenarnya,” tulis mereka.