Peneliti di Universitas Stanford Baru-baru Ini Menguji Beberapa Alat AI Populer
Para peneliti di Universitas Stanford baru-baru ini menguji beberapa alat AI paling populer di pasar, dari perusahaan seperti OpenAI dan Character.ai, untuk melihat seberapa baik mereka dalam mensimulasikan terapi.
Hasilnya, ketika peneliti meniru seseorang dengan niat bunuh diri, alat-alat ini tidak hanya tidak membantu—mereka bahkan gagal menyadari bahwa mereka sedang membantu orang tersebut merencanakan kematiannya sendiri.
"Sistem AI digunakan sebagai teman, mitra berpikir, tempat curhat, pelatih, dan terapis," ungkap Nicholas Haber, asisten profesor di Stanford Graduate School of Education dan penulis senior studi ini. "Ini bukan penggunaan yang niche—ini terjadi dalam skala besar."
AI semakin tertanam dalam kehidupan manusia dan digunakan dalam penelitian ilmiah di berbagai bidang, mulai dari kanker hingga perubahan iklim. Namun, ada juga perdebatan bahwa teknologi ini bisa mengancam keberadaan manusia.
Seiring adopsi AI untuk berbagai tujuan, pertanyaan besar yang muncul adalah bagaimana dampaknya pada pikiran manusia. Interaksi rutin dengan AI adalah fenomena baru sehingga belum ada cukup waktu bagi ilmuwan untuk meneliti efeknya pada psikologi manusia. Namun, para ahli psikologi sudah khawatir dengan potensi dampaknya.
Salah satu contoh mengkhawatirkan terjadi di Reddit. Menurut 404 Media, beberapa pengguna baru-baru ini dilarang dari subreddit fokus AI karena mulai percaya bahwa AI seperti dewa atau bisa membuat mereka seperti dewa.
"Ini mirip dengan seseorang yang memiliki masalah fungsi kognitif atau kecenderungan delusi terkait mania atau skizofrenia saat berinteraksi dengan model bahasa besar," kata Johannes Eichstaedt, asisten profesor psikologi di Stanford. "Pada skizofrenia, orang bisa membuat pernyataan absurd tentang dunia, dan LLM ini terlalu bersifat membenarkan. Ada interaksi penguatan antara psikopatologi dan model bahasa besar."
Karena pengembang AI ingin pengguna menikmatinya, mereka mendesainnya agar cenderung setuju dengan pengguna. Meski bisa mengoreksi kesalahan fakta, AI berusaha terlihat ramah dan mendukung. Ini bisa bermasalah jika pengguna sedang mengalami spiral negatif.
"Ai bisa memicu pemikiran yang tidak akurat atau tidak berdasar realitas," jelas Regan Gurung, psikolog sosial di Oregon State University. "Masalah AI—model bahasa besar yang meniru percakapan manusia—adalah sifatnya yang memperkuat. Mereka memberi apa yang program anggap harus dikatakan selanjutnya. Di situlah masalahnya."
Seperti media sosial, AI bisa memperburuk kondisi orang dengan masalah kesehatan mental seperti kecemasan atau depresi. Hal ini mungkin semakin jelas seiring integrasi AI dalam berbagai aspek kehidupan.
"Jika Anda berinteraksi dengan AI sambil memiliki masalah kesehatan mental, kekhawatiran itu bisa semakin parah," kata Stephen Aguilar, profesor pendidikan di University of Southern California.
Perlunya Lebih Banyak Penelitian
Ada juga masalah dampak AI pada pembelajaran dan memori. Siswa yang sepenuhnya bergantung pada AI untuk menulis makalah tidak akan belajar sebanyak yang tidak. Bahkan penggunaan ringan bisa mengurangi retensi informasi, dan aktivitas harian dengan AI bisa mengurangi kesadaran akan apa yang sedang dilakukan.
"Kami melihat kemungkinan orang menjadi kognitif malas," ujar Aguilar. "Jika Anda bertanya dan mendapat jawaban, langkah berikutnya harusnya menguji jawaban itu, tapi langkah tambahan itu sering dilewati. Terjadi atrofi berpikir kritis."
Banyak orang menggunakan Google Maps untuk navigasi, membuat mereka kurang sadar dengan rute dibanding sebelumnya. Masalah serupa bisa muncul pada pengguna AI.
Para ahli menekankan perlunya lebih banyak penelitian. Eichstaedt menyarankan ahli psikologi mulai meneliti dampak AI sebelum menimbulkan bahaya tak terduga. Masyarakat juga perlu diedukasi tentang kelebihan dan keterbatasan AI.
"Kita butuh lebih banyak penelitian," tegas Aguilar. "Dan semua orang harus memahami dasar model bahasa besar."