AI tidak hanya akan mengubah pekerjaan dan pasar, kata Joseph Stiglitz. AI akan perlahan-lahan merusak informasi yang dibutuhkan sistem-sistem itu. Saat model bahasa besar (LLM) mengambil komentar sarkas kita dari Reddit dan suara-suara ekstrem di forum, pemenang Nobel ini memperingatkan tentang dunia di mana semuanya terlihat lebih berbasis data, namun data dasarnya semakin menjadi “sampah”.
“Dalam kasus AI, ada beberapa masalah lain yang lebih dalam,” kata ekonom itu kepada Fortune. “Kita tidak hanya punya masalah di pasar tenaga kerja … tapi ada sisi lain yang saya sebut eksternalitas informasi,” yang Stiglitz jelaskan sederhana: sampah masuk, sampah keluar (GIGO).
Risikonya bukan cuma kehilangan pekerjaan; tapi juga rusaknya hubungan antara kebenaran dan sistem yang kita pakai untuk memahami realitas—dari pasar prediksi hingga model keuangan sampai debat politik. Intinya, AI hanya sepintar data yang diterimanya. Kalau ia terus mengambil informasi yang tidak akurat, hasilnya akan sama rusaknya dengan informasi itu.
Menurutnya, model-model sekarang dibangun dengan kesepakatan yang salah: Mereka rakus mengambil jurnalisme, penelitian, dan obrolan online, sambil melemahkan institusi yang sebenarnya menghasilkan pengetahuan berkualitas. Hasilnya, dia khawatir, adalah dunia di mana orang digerakkan oleh retorika online yang diperkuat AI—seperti penurunan pasar karena makalah Citrini Research tentang “PDB hantu” atau esai viral AI kiamat karya Matt Shumer—bukan berdasarkan realitas sebenarnya.
AI ‘mencuri informasi’ dari sumber yang dibutuhkannya
Stiglitz ingin berterima kasih karena Anda membaca artikel ini, meski pendapatnya blak-blakan. “AI pada dasarnya mencuri informasi dari media lama,” katanya, “dan itu artinya media lama tidak punya sumber daya atau motivasi untuk menghasilkan informasi.” Memang, beberapa perusahaan AI membayar untuk jurnalisme tertentu. OpenAI, contohnya, punya perjanjian konten dengan News Corp pemilik Wall Street Journal.
Tapi, kata Stiglitz, AI tidak punya minat atau kemampuan untuk menghasilkan informasi berkualitas baru. “Dan hasil dari semua ini adalah ada risiko nyata memburuknya ekosistem informasi secara keseluruhan.”
Jika sumber informasi terbaik perlahan tidak didanai, sementara bentuk informasi termurah—seperti komentar online, meme partisan, dan konten rendah usaha—berkembang biak, data latihan AI akan condong ke apa yang paling banyak dan murah. Artinya, chatbot akan banyak memuntahkan kembali apa yang mereka ambil dari forum online.
Itulah cara pertama kelaparan AI akan konten online bisa berakibat buruk: dengan memakan bisnis model yang mendukung karya serius dan mengubah campuran apa yang tersedia untuk diambil.
Sampah masuk, sampah keluar, dalam skala industri
Stiglitz, yang membahas ekosistem informasi dalam bukunya tahun 2024, The Road to Freedom: Economics and the Good Society, mengulang istilah klise GIGO. “Kalau kamu memproses dan menyebarkan sampah, yang kamu dapat akhirnya ya sampah—sampah masuk, sampah keluar, GIGO.”
Frasa itu mungkin tua, tapi Stiglitz bilang masih cukup relevan. Sistem AI sangat hebat dalam memproses apa yang kita beri, tapi tidak begitu ahli membedakan pengetahuan dari noise. “Ada risiko nyata bahwa meski potensi teknologi baru untuk memperbaiki ekosistem informasi di area kritis … kita malah mungkin berakhir dalam situasi lebih buruk,” katanya. Semakin banyak sampah masuk—klaim tidak terverifikasi, konspirasi, kampanye astroturf, komentar rendah kualitas—semakin banyak sampah halus yang keluar.
Dia khawatir pengguna akan mengira hasil halus itu sebagai kebenaran. “Mereka akan pikir mereka dapat informasi yang diproses tinggi, tanpa sadar sepenuhnya bahwa yang mereka lakukan hanya memproses ulang sampah,” katanya. “AI memproses sampah bukan pengganti untuk satu pun makalah penelitian yang bagus.”
Saat anti-vaksin lebih banyak daripada ilmuwan
Risiko itu paling jelas terlihat di sudut-sudut jauh internet di mana pandangan ekstrem sering paling keras. Bayangkan papan pesan komunitas stereotip tentang topik tertentu. Berkat anonimitas internet, pengguna sangat dipersilakan menyuarakan pendapat tentang keputusan politik atau kejadian budaya terbaru. Alhasil, sudut-sudut ini adalah area di mana misinformasi lebih subur—dan sains yang menyangkal misinformasi itu hampir tidak disebut. Vaksin adalah studi kasus sempurna, kata Stiglitz.
“Para anti-vaksin jauh lebih aktif di internet daripada orang yang bilang vaksin bekerja,” katanya. Ilmuwan menjalankan uji coba, publikasi beberapa makalah padat, dan lanjut. Teoris konspirasi membanjiri forum dan platform sosial setiap hari.
“Jadi mungkin ada lebih banyak artikel di sisi anti daripada satu artikel kritis yang bilang, ‘Ini tes vaksinnya, dan ini bekerja … Ini efektivitasnya,'” jelas Stiglitz. “Apakah AI sekarang punya kemampuan untuk bilang satu artikel itu yang kita butuhkan? Tidak.”
Untuk model yang dilatih berdasarkan frekuensi dan keterlibatan mentah, suara paling keras menang. Kelaparan AI akan informasi lebih banyak dapat memutar realitas dengan mendorong minoritas yang bersemangat di atas mayoritas yang hati-hati, terutama di domain di mana kepentingan publik bergantung pada kepercayaan terhadap sains yang lambat dan metodis.
Pasar prediksi berdasarkan kurangnya informasi
Dalam makalah tahun 1980 dengan Sanford Grossman, Stiglitz berargumen ada paradoks di jantung pasar efisien: Jika harga mencerminkan semua informasi yang tersedia sepenuhnya, maka tidak ada yang punya insentif untuk bayar mengumpulkan informasi itu, jadi informasi yang membuat pasar “efisien” itu menghilang.
Dia bilang AI dan pasar prediksi modern mengulangi cerita itu dalam skala lebih besar. “Menarik kamu sebut Grossman-Stiglitz,” katanya kepada Fortune, “karena saya menulis makalah dengan salah satu mahasiswa saya, Max Ventura, memperluas Grossman-Stiglitz ke AI, dan hasil yang saya jelaskan tadi tentang bagaimana kita bisa memperburuk ekosistem informasi sebenarnya mengacu pada perluasan itu.”
Ketika “kamu tidak memaksa perusahaan AI yang mengambil data dari Fortune dan dari setiap produsen media lain” untuk membayar apa yang mereka ambil, “mereka tidak dapat imbalannya, jadi insentif untuk melakukan penelitian berkualitas dasar yang menuju ekosistem informasi baik akan melemah.” Pasar prediksi dan algoritma perdagangan kemudian mengandalkan keluaran model-model itu, semakin memisahkan taruhan mereka dari investasi dasar dalam kebenaran.
“AI telah melemahkan insentif untuk menghasilkan informasi berkualitas tinggi, meningkatkan kemampuan untuk menghasilkan informasi berkualitas rendah, dan karena itu ada lebih banyak sampah masuk, dan lebih banyak sampah keluar,” katanya. Sistem yang seharusnya mengumpulkan pengetahuan malah menguatkan apa yang paling murah dan paling banyak.
AI sebagai alat bantu, bukan oracle
Meski semua ini, Stiglitz tidak pikir jawabannya adalah melarang atau mengabaikan AI. Dia sendiri menggunakannya, dan dia mencoba mengajar murid-muridnya cara melakukan hal sama—tanpa mengira jawaban halus sebagai argumen kuat.
“Kami coba ajari mereka menggunakan AI sebagai alat penelitian,” katanya. “Jadi, kami tidak menjauhi AI. Saya pakai AI sebagai bagian penelitian saya. Jadi ia adalah alat penelitian luar biasa, tapi bukan pengganti pemikiran, dan bukan pengganti analisis.”
“AI bisa bantu kamu temukan sumber, kembangkan ide,” tambahnya. “Tapi akhirnya, kamu harus lakukan kerja keras.” Baginya, keluaran model adalah “alat bantu bagi saya untuk mulai berpikir tentang hal-hal mungkin sedikit berbeda,” bukan keputusan yang harus diterima apa adanya.
Tapi, dia percaya harus ada intervensi di tingkat pemerintah untuk mencegah memburuknya informasi. “Tanpa regulasi pemerintah,” dia peringatkan, “setidaknya ada risiko signifikan bahwa kita akan berakhir dengan ekosistem informasi lebih buruk di sejumlah area yang mengkhawatirkan.”