Minggu ini, jurnal ilmiah Frontiers in Cell and Developmental Biology menerbitkan penelitian yang menampilkan gambar palsu yang dibuat dengan Midjourney, salah satu generator gambar AI yang paling populer.
Artikel akses terbuka ini mengeksplorasi hubungan antara sel punca dalam testis mamalia dan jalur sinyal yang bertanggung jawab dalam memediasi peradangan dan kanker dalam sel. Konten tulisan artikel ini tidak terlihat palsu, tetapi aspek yang paling mencolok bukanlah penelitiannya itu sendiri. Sebaliknya, gambar-gambar yang tidak akurat dan aneh dari testis tikus, jalur sinyal, dan sel punca-lah yang menarik perhatian.
Diagram tikus yang dihasilkan oleh AI menggambarkan seekor tikus (diberi label dengan benar) yang bagian atas tubuhnya diberi label “sel punca senctolic.” Apa yang tampak seperti penis tikus yang sangat besar diberi label “Dissilced,” dengan penjelasan di sebelah kanan untuk menyoroti “sel iollotte sserotgomar,” “dck,” dan “Retat.” Hmm.
Menurut panduan editor Frontiers, naskah-naskah ini akan melalui “pemeriksaan kualitas awal” oleh tim integritas penelitian dan editor yang menanganinya sebelum melalui proses peer-review. Dengan kata lain, banyak mata yang seharusnya telah meninjau karya ini sebelum gambar-gambarnya diterbitkan.
Bagi para peneliti, mereka menyatakan dalam artikel bahwa gambar-gambar dalam artikel ini dihasilkan oleh Midjourney. Tetapi situs Frontiers untuk kebijakan dan etika publikasi mencatat bahwa koreksi dapat diajukan jika “ada kesalahan dalam gambar yang tidak mengubah kesimpulan” atau “ada gambar yang diberi label salah,” di antara faktor-faktor lain. Gambar-gambar yang dibuat oleh AI ini jelas termasuk dalam kategori-kategori tersebut. Dingjun Hao, seorang peneliti di Universitas Xi’an Jiaotong dan co-author dari studi ini, belum memberikan tanggapan atas permintaan komentar dari Gizmodo.
Gambar tikus ini jelas salah, meskipun Anda belum pernah membuka alat kelamin tikus. Tetapi gambar-gambar lain dalam artikel ini mungkin terlihat meyakinkan bagi mata yang tidak terlatih, setidaknya pada pandangan pertama. Namun, bahkan seseorang yang belum pernah membuka buku teks biologi akan melihat, setelah diperiksa lebih lanjut, bahwa label pada setiap diagram tidak sepenuhnya dalam bahasa Inggris – tanda jelas bahwa teks yang dihasilkan oleh AI ada dalam gambar-gambar tersebut.
Artikel ini diedit oleh seorang ahli dalam reproduksi hewan di National Dairy Research Institute di India, dan ditinjau oleh peneliti di Northwestern Medicine dan National Institute of Animal Nutrition and Physiology. Jadi bagaimana gambar-gambar aneh ini bisa diterbitkan? Frontiers in Cell and Developmental Biology belum memberikan tanggapan atas permintaan komentar.
Generator teks ChatGPT dari OpenAI cukup mahir untuk menyusupkan penelitian yang palsu ke mata para reviewer yang seharusnya cermat. Sebuah studi yang dilakukan oleh peneliti di Northwestern University dan University of Chicago menemukan bahwa para ahli manusia tertipu oleh abstrak ilmiah yang dihasilkan oleh ChatGPT sebesar 32% dari waktu.
Jadi, meskipun ilustrasinya jelas adalah omong kosong yang menyamar sebagai ilmu pengetahuan, kita tidak boleh mengabaikan kemampuan mesin AI untuk menjual kebohongan sebagai sesuatu yang nyata. Para penulis studi tersebut memperingatkan bahwa artikel yang dihasilkan oleh AI dapat menyebabkan krisis integritas ilmiah. Sepertinya krisis tersebut sudah dimulai.
Alexander Pearson, seorang ilmuwan data di University of Chicago dan co-author dari studi tersebut, mencatat pada saat itu bahwa “Teknologi teks generatif memiliki potensi besar untuk mendemokrasikan ilmu pengetahuan, misalnya membuat lebih mudah bagi ilmuwan yang tidak berbahasa Inggris untuk berbagi karya mereka dengan masyarakat luas,” tetapi “sangat penting bagi kita untuk berpikir dengan hati-hati tentang praktik terbaik penggunaannya.”
Popularitas AI yang semakin meningkat telah menyebabkan gambar-gambar yang tidak akurat secara ilmiah masuk ke dalam publikasi ilmiah dan artikel berita. Gambar-gambar AI mudah dibuat dan sering kali memikat secara visual – tetapi AI sama sulitnya seperti manusia, dan tidaklah mengherankan sulit untuk menyampaikan semua nuansa keakuratan ilmiah dalam permintaan untuk diagram atau ilustrasi.
Artikel terbaru ini jauh dari artikel palsu di masa lalu, seperti “Apa yang Terjadi dengan Burung?” dan karya bertema Star Trek “Perubahan Morfologi Genetik dan Perkembangan yang Cepat Setelah Kecepatan Ekstrem.”
Kadang-kadang, sebuah artikel yang lolos dari proses peer-review hanya lucu. Kadang-kadang, itu adalah tanda bahwa “pabrik kertas” menghasilkan penelitian yang tidak memiliki keberhasilan ilmiah. Pada tahun 2021, Springer Nature terpaksa mencabut 44 artikel di Arabian Journal of Geosciences karena tidak ada makna ilmiahnya.
Dalam kasus ini, penelitian mungkin baik, tetapi seluruh studi ini dipertanyakan karena gambar-gambar yang dihasilkan oleh Midjourney. Pembaca rata-rata mungkin akan kesulitan mempertimbangkan jalur sinyal ketika mereka masih sibuk menghitung berapa banyak bola yang seharusnya dimiliki oleh tikus.
Lebih lanjut: ChatGPT Menulis dengan Cukup Baik untuk Menipu Para Reviewer Ilmiah