Sejak model bahasa besar seperti ChatGPT dapat diakses publik dan makin banyak digunakan, muncul kesan yang perlahan menguat bahwa orang-orang mulai menulis dan terdengar semakin mirip konten yang dihasilkan AI. (Tentu saja, AI sebenarnya hanya meniru kesan dari gabungan materi buatan manusia, jadi ada hubungan sebab-akibat yang tak jelas di sini.) Kini, ada bukti yang mendukung kecurigaan terselubung tersebut. Dalam makalah yang diterbitkan Rabu di jurnal Trends in Cognitive Sciences, peneliti dari University of Southern California memperingatkan bahwa penggunaan LLM berisiko mematikan pemikiran dan kreativitas manusia.
Tim peneliti menganalisis lebih dari 130 studi untuk memahami lebih baik bagaimana model bahasa besar memengaruhi keanekaragaman kognitif, dengan menelaah riset dari berbagai bidang mulai dari linguistik hingga ilmu komputer. Tim menemukan bahwa, meskipun model AI mengambil data dari basis informasi yang sangat luas, output yang mereka hasilkan secara konsisten kurang beragam dibandingkan pemikiran manusia.
Hal ini sebagian karena, meskipun model-model ini dilatih dengan pasokan pemikiran dan gagasan manusia yang tampak tak terbatas, mereka tidak mampu memproses semua materi itu dengan cara yang mempertimbangkan keragaman pendapat yang ada. Sebaliknya, LLM cenderung mengutamakan pola-pola konsisten yang dapat mereka identifikasi dalam data pelatihan, yang menjadi alasan bagi beberapa kritik yang menyebut model ini sebagai penyempurna otomatis yang diagung-agungkan.
“Karena LLM dilatih untuk menangkap dan mereproduksi keteraturan statistik dalam data pelatihan mereka—yang sering kali melebih-lebihkan bahasa dan ideologi dominan—output mereka kerap mencerminkan sepotong sempit dan tidak seimbang dari pengalaman manusia,” ungkap penulis dan ilmuwan komputer Zhivar Sourati dari University of Southern California dalam sebuah pernyataan.
Beberapa LLM bahkan secara terang-terangan mengakui fakta ini. Misalnya, OpenAI secara eksplisit menyatakan bahwa ChatGPT “condong ke pandangan Barat,” dan xAI, dengan cukup jelas, telah menyesuaikan chatbot Grok-nya untuk mencerminkan pandangan CEO Elon Musk pada lebih dari satu kesempatan.
Namun, hasil dari berinteraksi dengan model yang sangat mengutamakan perspektif tertentu adalah manusia kemudian mulai menginternalisasi dan memantulkan perspektif tersebut. Ini bisa sesederhana seseorang menggunakan chatbot untuk memoles tulisannya dan menghilangkan beberapa pilihan gaya khas mereka, tetapi riset sebelumnya menunjukkan bahwa berinteraksi dengan LLM dapat benar-benar mengubah cara berpikir orang agar lebih selaras dengan informasi yang diberikan chatbot kepada mereka. LLM juga menggunakan penalaran rantai pemikiran, yang merefleksikan bentuk berpikir linear. Mereka tidak mampu melakukan gaya penalaran yang lebih abstrak, yang mungkin memerlukan lompatan logika tidak langsung namun bisa sangat efektif.
Mungkin salah satu observasi paling menarik yang dibuat peneliti adalah, sementara individu yang menggunakan LLM untuk menghasilkan ide seringkali menghasilkan volume lebih banyak (meski dengan kreativitas yang lebih rendah), sekelompok orang justru menghasilkan lebih sedikit ide ketika menggunakan LLM dibandingkan ketika mereka hanya ditugaskan untuk berkolaborasi dan saling bertukar pikiran. Pada dasarnya, penggunaan model ini mengunci orang pada cara berpikir tertentu dan mengurangi keragaman perspektif yang mungkin muncul dari diskusi dan berbagi pengalaman.
Sudah lama dipahami bahwa keberagaman pemikiran dan pengalaman menghasilkan hasil yang lebih baik bagi kelompok dan organisasi. Hal ini juga berlaku terkait LLM, yang pada dasarnya didorong untuk mencari pemikiran konsensus ketimbang keberagaman. Jangan berharap masalah ini akan segera diperbaiki, mengingat pemerintahan Trump mengeluarkan perintah eksekutif yang efektif menghukum perusahaan mana pun yang menciptakan model AI yang mendukung keberagaman.