Zoë Schiffer: Wah, ya ampun.
Leah Feiger: Iya, bener banget. Orang yang udah dekat sama Trump. Ini jadi viral. Nah, kita tadi ngomongin orang-orang yang buka Grok dari X terus nanya, “Grok, ini apaan sih?” Terus Grok jawab apa? Engga, engga. Grok bilang gambar-gambar itu bukan dari protes di LA. Katanya itu dari Afghanistan.
Zoë Schiffer: Duh. Grok, jangan gitu dong.
Leah Feiger: Mereka kayak, “Ngga ada bukti yang valid. Ini salah sumber. Parah banget. Beneran parah. Terus ada lagi kasus dimana orang-orang ngeshare foto-foto ini ke ChatGPT, terus ChatGPT juga bilang, “Iya, ini Afghanistan. Ini ngga akurat,” dan seterusnya. Ngga bagus deh.
Zoë Schiffer: Maksudku, jangan sampe aku mulai bahas soal ini—setelah platform-platform ini udah bubarin program fact-checking mereka, sengaja ngasih lebih banyak konten yang ngga valid. Terus ditambah lagi dengan chatbot yang, meskipun berguna, tapi terlalu percaya diri. Kalau mereka salah, mereka ngomongnya kayak bener banget. Aku ngga akan belain Google Search sih. Jelek banget, ngeselin, tapi setidaknya lebih keliatan kalo sumbernya ngga kredibel, beda sama Grok yang ngasih info salah tapi kayak yakin banget itu foto Afghanistan padahal engga.
Leah Feiger: Ngeri sih. Maksudku, ini halusinasi. Bener-bener halusinasi, tapi kayak bocah mabuk di pesta yang sok paling tau padahal ngga jelas.
Zoë Schiffer: Ngeri. Beneran ngeri.
Leah Feiger: Mereka kayak, “Ngga, ngga. Aku yakin banget. Ngga pernah seyakin ini sebelumnya.”
Zoë Schiffer: Bener banget. Oke, jadi kenapa chatbot jawabnya salah tapi kayak pede banget? Kenapa ngga bilang aja, “Aku ngga tau, mungkin kamu cek di tempat lain. Ini beberapa sumber kredibel yang bisa kamu lihat.”
Leah Feiger: Soalnya mereka ngga ngaku kalo ngga tau. Aneh banget. Udah banyak penelitian soal ini, di salah satu riset terbaru dari Tow Center for Digital Journalism di Columbia University, ketemu kalo chatbot “umumnya buruk dalam menolak menjawab pertanyaan yang tidak bisa dijawab dengan akurat. Malah ngasih jawaban salah atau spekulatif.” Gila banget, apalagi inget waktu pemilu dulu banyak artikel bilang, “Maaf, aku ChatGPT dan ngga bisa komentar soal politik.” Lah sekarang kok berani banget.
Zoë Schiffer: Oke, kayaknya kita pause dulu di sini—di note yang ngeri banget—dan kita lanjut lagi sebentar. Selamat datang kembali di Uncanny Valley. Hari ini aku ditemani Leah Feiger, Senior Politics Editor di WIRED. Nah, selain masalah verifikasi informasi, ada juga laporan soal video AI yang menyesatkan. Ada akun TikTok yang upload video prajurit National Guard palsu namanya Bob, katanya dikirim ke protes LA, terus ngomong hal-hal provokatif kayak “pendemo melempar balon berisi minyak.” Salah satu videonya ditonton hampir satu juta kali. Jadi, kayaknya orang harus lebih jeli identifikasi konten palsu, tapi susah juga soalnya platform kayak X atau TikTok emang ngga ada konteksnya.