Setelah menemukan bahwa konsultan IT dari perusahaan Boston Consulting Group lebih produktif menggunakan alat GPT-4 dari Open AI dalam laporan 2023 mereka, perusahaan tersebut mendapat kritik karena seharusnya menggunakan ChatGPT secara gratis daripada mempertahankan jasanya dengan biaya jutaan dolar.
Alasannya adalah konsultan hanya akan mendapatkan jawaban atau saran dari ChatGPT, jadi sebaiknya menghindari pihak ketiga dan langsung menggunakan ChatGPT.
Ada pelajaran berharga bagi siapa pun yang mempekerjakan atau mencari pekerjaan yang berkaitan dengan AI-intensif, baik itu pengembang, konsultan, atau pengguna bisnis. Pesan dari kritik ini adalah bahwa siapa pun, bahkan dengan keterampilan terbatas atau tidak mencukupi, sekarang dapat menggunakan AI untuk maju atau terlihat seperti mereka menguasai situasi. Karena itu, lapangan permainan telah di levelkan. Diperlukan orang yang dapat memberikan sudut pandang dan pemikiran kritis terhadap informasi dan hasil yang disediakan oleh AI.
Bahkan ilmuwan terampil, teknolog, dan ahli subjek mungkin jatuh ke dalam perangkap terlalu bergantung pada AI untuk output mereka – dibandingkan dengan keahlian mereka sendiri.
Solusi AI juga dapat mengeksploitasi keterbatasan kognitif kita, membuat kita rentan terhadap ilusi pemahaman di mana kita percaya bahwa kita memahami lebih banyak tentang dunia daripada yang sebenarnya kita lakukan, menurut penelitian tentang topik tersebut yang diterbitkan di Nature.
Bahkan ilmuwan yang terlatih untuk meninjau informasi secara kritis jatuh ke dalam daya tarik wawasan yang dihasilkan oleh mesin, peringatkan peneliti Lisa Messer dari Yale University dan M. J. Crockett dari Princeton University.
Messer dan Crockett menyatakan bahwa di luar kekhawatiran tentang etika, bias, dan penggusuran pekerjaan AI, risiko ketergantungan berlebihan pada AI sebagai sumber keahlian baru mulai diketahui.
Di pengaturan bisnis utama, ada konsekuensi dari ketergantungan pengguna pada AI, dari produktivitas yang hilang dan kepercayaan yang salah. Misalnya, pengguna “dapat mengubah, mengganti, dan beralih tindakan mereka untuk sejalan dengan rekomendasi AI,” amati Samir Passi dan Mihaela Vorvoreanu dari Microsoft dalam tinjauan studi tentang topik tersebut. Selain itu, pengguna “akan kesulitan mengevaluasi kinerja AI dan memahami bagaimana AI memengaruhi keputusan mereka.”
Itu adalah pemikiran dari Kyall Mai, chief innovation officer di Esquire Bank, yang melihat AI sebagai alat kritis untuk keterlibatan pelanggan, sambil memperingatkan terhadap penggunaan berlebihan sebagai pengganti pengalaman dan pemikiran kritis manusia. Esquire Bank menyediakan pembiayaan khusus untuk firma hukum dan menginginkan orang-orang yang memahami bisnis dan apa yang dapat dilakukan AI untuk memajukan bisnis. Saya baru saja bertemu dengan Mai di konferensi New York Salesforce, yang berbagi pengalaman dan pandangannya tentang AI.
Mai, yang naik pangkat dari coder menjadi CIO multi-faset sendiri, tidak berpendapat bahwa AI mungkin merupakan salah satu alat peningkat produktivitas yang paling berharga yang pernah ada. Tetapi ia juga khawatir bahwa terlalu bergantung pada AI generatif – baik untuk konten maupun kode – akan mengurangi kualitas dan ketajaman pemikiran orang.
Ketika Mai merasa tingkat ketergantungan pada AI berlebihan, “saya akan membawa mereka ke kantor saya, mengatakan ‘saya membayar Anda untuk sudut pandang Anda, bukan prompt dan tanggapan dalam AI yang akan Anda berikan kepada saya untuk dibaca. Hanya mengambil hasil dan memberikannya kembali kepada saya bukanlah yang saya cari, saya mengharapkan pemikiran kritis Anda.”
Namun, ia mendorong anggota tim teknologinya untuk melepaskan tugas pengembangan yang membosankan ke alat dan platform AI generatif, dan melepaskan waktu mereka sendiri untuk bekerja lebih dekat dengan bisnis. “Coder menemukan bahwa 60 persen waktu yang mereka habiskan untuk menulis adalah untuk kode administratif yang tidak benar-benar inovatif. AI dapat melakukannya untuk mereka, melalui petunjuk suara.”
Akibatnya, ia melihat “garis pemisah antara coder klasik dan analis bisnis semakin menyatu, karena coder tidak menghabiskan waktu yang sangat besar untuk melakukan sesuatu yang benar-benar tidak menambah nilai. Itu juga berarti analis bisnis dapat menjadi pengembang perangkat lunak.”
“Saat saya dapat duduk di depan platform dan mengatakan, ‘saya ingin sistem yang melakukan ini, ini, ini, dan ini,’ dan itu melakukannya.”