Wartawan tertangkap menggunakan Kecerdasan Buatan untuk membuat cerita dan kutipan palsu

“

Kutipan dari gubernur Wyoming dan jaksa lokal adalah hal pertama yang terasa sedikit aneh bagi reporter Powell Tribune, CJ Baker. Kemudian, beberapa frasa dalam cerita-cerita itu terasa hampir seperti robot.

Namun, yang menjadi tanda pasti bahwa seorang reporter dari media saingan menggunakan kecerdasan buatan generatif untuk membantu menulis ceritanya muncul dalam artikel 26 Juni tentang komedian Larry the Cable Guy yang dipilih sebagai grand marshal dalam sebuah parade lokal. Artikel itu berakhir dengan penjelasan tentang piramida terbalik, pendekatan dasar dalam menulis berita yang mendadak.

“Parade Cody Stampede 2024 menjanjikan perayaan kemerdekaan Amerika yang tak terlupakan, dipimpin oleh salah satu figur komedi paling dicintai,” lapor Cody Enterprise. “Struktur ini memastikan informasi paling krusial disajikan lebih dulu, sehingga lebih mudah bagi pembaca untuk memahami poin-poin utama dengan cepat.”

Setelah melakukan penyelidikan, Baker, yang telah menjadi reporter selama lebih dari 15 tahun, bertemu dengan Aaron Pelczar, yang berusia 40 tahun dan baru dalam jurnalisme, yang menurut Baker mengakui bahwa dia telah menggunakan AI dalam ceritanya sebelum dia mengundurkan diri dari Enterprise.

Penerbit dan editor di Enterprise, yang didirikan bersama tahun 1899 oleh Buffalo Bill Cody, sejak itu meminta maaf dan berjanji akan mengambil langkah-langkah untuk memastikan hal itu tidak terjadi lagi. Dalam sebuah editorial yang diterbitkan Senin, Editor Enterprise Chris Bacon mengatakan bahwa dia “gagal menangkap” salinan AI dan kutipan palsu.

“Tidak masalah bahwa kutipan palsu itu tampaknya kesalahan seorang reporter rookie yang terburu-buru dan mempercayai AI. Itu adalah tugas saya,” tulis Bacon. Dia meminta maaf karena “AI diizinkan untuk menyusun kata-kata yang tidak pernah diucapkan ke dalam cerita.”

Para jurnalis telah merusak karier mereka dengan membuat kutipan atau fakta palsu dalam cerita jauh sebelum AI muncul. Namun skandal terbaru ini menggambarkan potensi masalah dan bahaya yang dihadapi AI dalam berbagai industri, termasuk jurnalisme, karena chatbot dapat menghasilkan artikel palsu namun cukup masuk akal dengan hanya beberapa prompt.

AI telah menemukan peran dalam jurnalisme, termasuk dalam otomatisasi tugas-tugas tertentu. Beberapa ruang berita, termasuk The Associated Press, menggunakan AI untuk membebaskan para reporter untuk melakukan pekerjaan yang lebih berdampak, namun sebagian besar staf AP tidak diizinkan menggunakan AI generatif untuk membuat konten yang dapat dipublikasikan.

AP telah menggunakan teknologi untuk membantu dalam artikel-artikel tentang laporan keuangan sejak 2014, dan baru-baru ini untuk beberapa cerita olahraga. Mereka juga sedang bereksperimen dengan alat AI untuk menerjemahkan beberapa cerita dari bahasa Inggris ke Spanyol. Di akhir setiap cerita semacam itu terdapat catatan yang menjelaskan peran teknologi dalam produksinya.

Menjadi terbuka tentang bagaimana dan kapan AI digunakan telah terbukti penting. Sports Illustrated dikritik tahun lalu karena menerbitkan ulasan produk online yang dihasilkan AI yang disajikan seolah-olah ditulis oleh reporter yang sebenarnya tidak ada. Setelah berita tersebut tersebar, SI mengatakan akan memecat perusahaan yang memproduksi artikel-artikel tersebut untuk situs webnya, namun insiden itu merusak reputasi publikasi yang dulunya kuat.

Dalam cerita Powell Tribune yang mengungkap penggunaan AI oleh Pelczar dalam artikel-artikelnya, Baker menulis bahwa dia mengadakan pertemuan yang tidak nyaman namun bersahabat dengan Pelczar dan Bacon. Selama pertemuan itu, Pelczar mengatakan, “Jelas saya tidak pernah bermaksud untuk memalsukan kutipan siapapun” dan berjanji untuk “memperbaikinya dan mengeluarkan permintaan maaf serta mengatakan bahwa itu adalah pernyataan yang keliru,” tulis Baker, mencatat bahwa Pelczar bersikeras bahwa kesalahannya tidak boleh mencerminkan editor Cody Enterprise.

Setelah pertemuan itu, Enterprise memulai tinjauan penuh terhadap semua cerita yang ditulis oleh Pelczar untuk koran dalam dua bulan dia bekerja di sana. Mereka telah menemukan tujuh cerita yang mencakup kutipan AI dari enam orang, kata Bacon Selasa. Dia masih meninjau cerita-cerita lainnya.

“Kutipannya sangat masuk akal,” kata Bacon, mencatat bahwa orang-orang yang dia ajak bicara selama peninjauan artikel-artikel Pelczar mengatakan bahwa kutipan itu terdengar seperti sesuatu yang akan mereka katakan, namun sebenarnya mereka tidak pernah berbicara dengan Pelczar.

Baker melaporkan bahwa tujuh orang mengatakan kepadanya bahwa mereka telah dikutip dalam cerita yang ditulis oleh Pelczar, namun sebenarnya tidak pernah berbicara dengannya.

Pelczar tidak merespons pesan suara AP yang ditinggalkan di nomor yang terdaftar sebagai miliknya untuk membicarakan apa yang terjadi. Bacon mengatakan Pelczar menolak untuk membicarakan masalah tersebut dengan surat kabar Wyoming lain yang telah menghubungi.

Baker, yang secara rutin membaca Enterprise karena itu pesaingnya, mengatakan kepada AP bahwa kombinasi frasa dan kutipan dalam cerita-cerita Pelczar membangkitkan kecurigaannya.

Cerita Pelczar tentang penembakan di Taman Nasional Yellowstone termasuk kalimat: “Kejadian ini menjadi pengingat tegas tentang sifat yang tidak terduga dari perilaku manusia, bahkan di lingkungan yang paling tenang.”

Baker mengatakan kalimat itu terdengar seperti ringkasan ceritanya yang tampaknya dihasilkan oleh chatbot tertentu, karena menambahkan semacam “pelajaran hidup” di akhirnya.

Cerita lain — tentang vonis perburuan liar — mencakup kutipan dari pejabat satwa liar dan jaksa yang terdengar seperti berasal dari rilis berita, kata Baker. Namun, tidak ada rilis berita dan lembaga-lembaga yang terlibat tidak tahu dari mana kutipan itu berasal, katanya.

Dua cerita yang dipertanyakan termasuk kutipan palsu dari Gubernur Wyoming Mark Gordon yang stafnya baru mengetahuinya ketika Baker menelepon mereka.

“Dalam satu kasus, (Pelczar) menulis cerita tentang aturan OSHA baru yang mencakup kutipan dari Gubernur yang sepenuhnya dipalsukan,” kata Michael Pearlman, juru bicara gubernur, dalam sebuah email. “Dalam kasus kedua, dia tampaknya memalsukan sebagian kutipan, dan kemudian menggabungkannya dengan sebagian kutipan yang disertakan dalam rilis berita yang mengumumkan direktur baru Departemen Game dan Perikanan Wyoming kita.”

Salinan AI paling jelas terlihat dalam cerita tentang Larry the Cable Guy.

Tidak sulit untuk membuat cerita AI. Pengguna bisa memasukkan afidavit kriminal ke program AI dan meminta program tersebut menulis artikel tentang kasus tersebut termasuk kutipan dari pejabat lokal, kata Alex Mahadevan, direktur proyek literasi media digital di Poynter Institute, lembaga pemikir jurnalisme terkemuka.

“Chatbot AI generatif ini diprogram untuk memberi Anda jawaban, tanpa memedulikan apakah jawaban itu benar-benar sampah atau tidak,” kata Mahadevan.

Megan Barton, penerbit Cody Enterprise, menulis editorial yang menyebut AI sebagai “bentuk plagiarisme baru dan canggih dan dalam bidang media dan penulisan, plagiarisme adalah sesuatu yang setiap media harus perbaiki pada satu waktu atau lainnya. Itu adalah bagian jelek dari pekerjaan. Namun, perusahaan yang bersedia untuk memperbaiki (atau benar-benar menulis) kesalahan-kesalahan ini adalah perusahaan yang terhormat.”

Barton menulis bahwa koran telah belajar dari kesalahannya, memiliki sistem untuk mengenali cerita-cerita yang dihasilkan AI, dan akan “membicarakan lebih lama tentang bagaimana cerita-cerita yang dihasilkan AI tidak dapat diterima.”

Enterprise tidak memiliki kebijakan AI, sebagian karena tampak jelas bahwa jurnalis tidak boleh menggunakannya untuk menulis cerita, kata Bacon. Poynter memiliki template dari mana outlet berita dapat membangun kebijakan AI mereka sendiri.

Bacon berencana untuk memiliki kebijakan tersebut pada akhir minggu ini.

“Ini akan menjadi topik diskusi sebelum perekrutan,” katanya.

“