Kyle Orland dari ArsTechnica menulis postingan blog mengenai istilah “penyerahan kognitif” pada 3 April. Mungkin saya seharusnya menyadarinya lebih awal karena istilah itu sudah beredar sejak setidaknya Januari, ketika istilah itu, tampaknya, dicetuskan dalam konteks ini oleh peneliti pemasaran dari Wharton Business School, Steven Shaw dan Gideon Nave. Makalah mereka sangat mengkhawatirkan, dan setelah Anda membaca temuan ini, istilah “penyerahan kognitif” akan juga terngiang di kepala Anda.
Jika otak Anda terlalu lembek karena menyerahkan pemikiran pada chatbot, dan sekarang Anda tak bisa membaca temuan itu secara rinci, ini video para penulis yang membahasnya:
Yang dilakukan Shaw dan Nave adalah memberikan tes kepada 1.372 orang, serta akses ke chatbot AI untuk meminta bantuan—dengan twist bahwa chatbot terkadang memberikan jawaban salah. Tes ini merupakan versi “adaptasi” dari sesuatu yang disebut Tes Refleksi Kognitif, artinya setiap pertanyaan adalah sejenis teka-teki otak yang pernah Anda lihat sebelumnya:
“Jika 5 mesin membutuhkan 5 menit untuk membuat 5 widget, berapa lama waktu yang dibutuhkan 100 mesin untuk membuat 100 widget?”
Jawabannya adalah “5 menit,” yang mengharuskan Anda menggunakan “nalar lambat, deliberatif, dan analitis,” alih-alih “pemrosesan cepat, intuitif, dan afektif.” Intuisi cepat Anda mungkin memberitahu jawabannya adalah 100 menit. Konsep-konsep ini menjadi terkenal oleh sebuah buku bandara yang bagus (meski tak sempurna) berjudul *Thinking, Fast and Slow* karya mendiang Daniel Kahneman.
Hasil tesnya, tentu saja, mengerikan. Meski saya harus menambahkan sebelum kita melanjutkan bahwa Anda sebaiknya membaca tentang krisis replikasi sebelum menerima hasil eksperimen apa pun sebagai kebenaran mutlak. Validitas hasil eksperimen, khususnya dalam psikologi, terkadang dipertanyakan dalam beberapa tahun terakhir karena tidak dapat direplikasi. Bukan berarti saya melihat masalah dalam karya para penulis ini (saya jauh dari memenuhi kualifikasi untuk melakukannya), ini sekadar tren yang perlu diperhatikan.
Bagaimanapun, dalam bagian studi di mana subjek diizinkan berkonsultasi dengan chatbot, mereka melakukannya sekitar separuh waktu. Ketika chatbot memberikan jawaban benar, mereka menerimanya 93 persen dari waktu. Sayangnya, ketika chatbot salah, mereka menerima jawaban 80 persen dari waktu. Dan ingat, mereka sama sekali tidak harus menggunakannya. Mereka membiarkan saran buruk mengalahkan otak mereka sendiri. Lebih parah lagi, mereka yang menggunakan AI menilai kepercayaan diri mereka 11,7 persen lebih tinggi daripada yang tidak, meskipun AI-nya salah.
Para penulis menulis bahwa selain “sistem” kognitif cepat dan lambat milik Kahneman, penopang buatan baru ini menciptakan apa yang mereka sebut “Sistem 3.”
Para penulis menulis:
Temuan kami menunjukkan bahwa orang dengan mudah memasukkan keluaran yang dihasilkan AI ke dalam proses pengambilan keputusan mereka, sering kali dengan gesekan atau skeptisisme minimal. Keterlibatan mulus dengan Sistem 3 ini menggarisbawahi potensinya untuk meningkatkan kognisi sehari-hari dengan mengurangi upaya kognitif, mempercepat keputusan, serta melengkapi atau menggantikan kognisi internal dengan wawasan bertenaga AI yang diproses secara eksternal dan sangat kaya sumber daya.
Penyerahan kognitif dalam pandangan mereka tidak selalu sepenuhnya buruk. Hal itu “menggambarkan nilai dan integrasi Sistem 3, tetapi juga menyoroti kerentanan penggunaan Sistem 3.”
Ini bukan pertama kalinya frasa penyerahan kognitif ada. Teolog Peter Berger menggunakannya dalam konteks religius pada 1990-an, tetapi maknanya lebih seperti menyerahkan iman kepada Tuhan untuk meredakan disonansi kognitif. Dan jika Anda seperti saya, Anda mungkin menyadari bahwa penyerahan kognitif berbantuan AI terlihat mirip dengan bentuk-bentuk kemalasan mental yang lebih lama.
Misalnya, dalam sitkom klasik *Home Improvement*, Tim “The Toolman” Taylor sering meminta nasihat tetangganya, Wilson, setiap minggu ketika suatu situasi dalam hidupnya tidak bisa diselesaikan dengan “lebih banyak tenaga.” Wilson yang bijak akan mengucapkan kebijaksanaan kuno berdebu dari orang-orang terdahulu, dan Tim selalu menerimanya sepenuhnya.
Tetapi seseorang bisa berargumen bahwa Tim hanya menggunakan Wilson sebagai “alat” penghemat waktu lainnya (jika boleh dikatakan demikian), dan bahwa dia melakukan sedikit penyerahan kognitifnya sendiri tanpa AI. Nasihat Wilson mungkin masuk akal, tetapi ketika Tim mencoba mengulangnya, dia akan mengacaukannya sedemikian buruk sehingga sering mempertanyakan apakah dia telah melakukan refleksi kognitif sama sekali, atau memang hanya mengandalkan sistem intuitif cepatnya, dan menerima kecerdasan Wilson secara membabi buta.
Mungkin sebentar lagi, AI akan mengubah kita menjadi masyarakat yang terdiri dari Tim Taylor-Tim Taylor, menyerah secara kognitif kepada Wilson-Wilson AI kita. Saya bisa memikirkan nasib yang lebih buruk dari itu untuk spesies kita.