Makalah ilmiah sangat bergantung pada kepercayaan pembaca terhadap informasi yang disajikan. Oleh karena itu, cukup meresahkan bahwa sebuah studi baru oleh para peneliti terkait Cornell dan UCLA menemukan 146.900 sitasi palsu hasil kecerdasan buatan (AI) dalam makalah ilmiah yang tersebar di empat basis data riset utama.
Keterbatasan utama dari model bahasa besar seperti Gemini dan ChatGPT adalah kecenderungannya untuk menghasilkan informasi yang terdengar masuk akal tetapi salah, sebuah fenomena yang dikenal sebagai halusinasi. Jika seorang peneliti menggunakan chatbot untuk menyusun sitasi tanpa memverifikasinya, model tersebut dapat menghasilkan referensi yang sepenuhnya palsu.
Meskipun makalah ilmiah sering kali tersembunyi dari pandangan publik, riset yang dilaporkan memiliki dampak mendalam pada kehidupan kita. Segala hal mulai dari internet hingga baterai litium-ion bermula dari sebuah makalah riset.
Namun, ketika ilmuwan mengirimkan makalah yang mengutip halusinasi AI, hal ini dapat menggerus kepercayaan terhadap kualitas riset tersebut.
Sains yang asal-asalan
Tim peneliti menganalisis 111 juta referensi dari 2,5 juta makalah ilmiah. Mereka mencari sitasi dengan judul yang tidak dapat dicocokkan dengan publikasi mana pun. Meskipun beberapa di antaranya hanya kesalahan ejaan, tim juga menemukan halusinasi.
Peneliti yang tidak bertanggung jawab telah memalsukan sitasi jauh sebelum kemunculan chatbots, sehingga tim juga memeriksa tingkat sitasi yang tak terverifikasi dalam riset yang diterbitkan sebelum 2023, saat chatbots belum menjadi lazim.
“Kami temukan3lonjakan tajam referensi yang tidak ada setelah adopsi LLM secara luas,” tulis para penulis dalam makalah tersebut.
Tim juga menemukan bahwa sitasi palsu tersebar di banyak makalah, bukan terkonsentrasi pada beberapa saja. Hal ini menunjukkan masalahnya meluas, dengan banyak peneliti yang bergantung pada referensi hasil AI tanpa memverifikasinya sepenuhnya.
Tanda-tanda peringatan
Usha Haley, profesor manajemen di Wichita State University, mengatakan kepada CNET melalui email bahwa ia menganggap proliferasi sitasi palsu sebagai sebuah peringatan serius.
“Sitasi palsu atau hasil AI merusak kepercayaan pada catatan ilmiah yang menjadi fondasi bagi tinjauan sejawat dan pengetahuan kumulatif,” kata Haley. “Yang meresahkan, skeptisisme ini kini datang dari dalam akademisi itu sendiri dan dari para peneliti karier awal.”
Empat basis data tempat para peneliti menemukan sitasi palsu adalah arXiv, bioRxiv, SSRN, dan PubMed Central. Organisasi-organisasi ini, yang dikenal sebagai repositori ilmiah, memainkan peran besar di dunia riset.
Sebelum sebuah makalah diterbitkan di jurnal ilmiah, para penulis sering mengunggahnya ke repositori ilmiah, meningkatkan visibilitasnya dan memungkinkan komunitas ilmiah global untuk mengaksesnya secara langsung. Makalah baru tentang AI yang menghalusinasikan sitasi saat ini disimpan di arXiv.
Baru-baru ini, arXiv telah mengambil langkah untuk membendung arus sitasi palsu. Organisasi tersebut baru mengumum pada Selasa bahwa mereka akan melarang penulis yang mengirimkan karya dengan sitasi halusinator atau dengan tanda-tanda konten AI yang belum diperiksa secara cermat.
“Korpus ilmu pengetahuan semakin terdilusi. Banyak materi AI yang entah secara akktif salah atau tidak bermakna. Itu hanya kebisingan,” kata direktur ilmiah arXiv, Steinn Sigurdsson, kepada CNET’s Katelyn Chedraoui pada Februari lalu. “Ini menyulitkan untuk menemukan apa yang sebenarnya terjadi, dan dapat menyesatkan orang.”