Sebuah berita mengejutkan dipromosikan di “halaman depan” atau feed utama X milik Elon Musk pada hari Kamis:
“Iran Menyerang Tel Aviv dengan Rudal Berat,” demikian bunyi headline.
Tertangkap trending di X pada 4 April 2024.
Kredit: Tangkapan layar dari Mashable
Ini pasti merupakan perkembangan berita dunia yang mengkhawatirkan. Pekan sebelumnya, Israel telah melakukan serangan udara terhadap kedutaan Iran di Suriah, yang menyebabkan kematian dua jenderal serta beberapa perwira lainnya. Balasan dari Iran tampaknya merupakan kemungkinan yang masuk akal.
Namun, ada satu masalah besar: Iran tidak menyerang Israel. Headline tersebut palsu.
Yang lebih mengkhawatirkan, headline palsu tersebut ternyata dihasilkan oleh chatbot AI resmi X sendiri, Grok, dan kemudian dipromosikan oleh produk berita trending X, Explore, pada hari pertama versi terbaru fitur tersebut.
Bagaimana Musk membiarkan hal ini terjadi
Beberapa tahun sebelum Elon Musk mengakuisisi platform yang saat itu dikenal sebagai Twitter, perusahaan tersebut meluncurkan fitur baru yang menyediakan konteks tertulis untuk topik-topik yang sedang tren. Teknologi yang menggerakkan deskripsi tren tertulis tersebut? Manusia.
Sebelumnya ketika sebuah berita muncul, algoritma Twitter akan menangkap kata kunci yang relevan yang diposting dan membagikan tren tersebut, tetapi terkadang tidak jelas mengapa sekumpulan kata tertentu sedang tren.
Namun, pada tahun 2020, Twitter membentuk tim editor manusia untuk mengkurasi berita dan memberikan konteks pada tren. Selain itu, tweet teratas yang muncul di bawah topik yang sedang tren tidak lagi hanya diurutkan secara algoritma, tetapi juga mencakup kurasi manusia. Setahun kemudian, Twitter bermitra dengan AP dan Reuters untuk memperkuat upaya mereka dalam menyediakan konteks yang diberikan oleh manusia pada topik-topik yang sedang tren.
Namun, setelah Musk membeli perusahaan tersebut pada Oktober 2022, deskripsi tertulis tentang topik yang sedang tren di Twitter menghilang. Musk telah mem-PHK editor manusia Twitter. Seperti yang dilaporkan oleh Reuters pada November 2022, “Tim kurasi Twitter, yang bertanggung jawab atas ‘mengunggulkan dan memberikan konteks terbaik untuk peristiwa dan cerita yang berkembang di Twitter,’ telah dipecat.”
Halaman Explore X yang baru diperbarui
Pekan sebelumnya, beberapa akun penggemar X seperti @XDaily membagikan tangkapan layar dari pembaruan ulang halaman Explore X yang akan datang. Halaman Explore X mencakup daftar topik yang sedang tren di platform yang terkenal itu bersama dengan pemecahan khusus seperti “Berita” dan “Olahraga” untuk memberikan pengguna cerita yang sedang tren dalam setiap kategori subjek tertentu.
Halaman Explore yang diperbarui oleh Musk tampaknya akan membawa kembali konteks tertulis yang diberikan pada topik dan cerita yang sedang tren.
Pada 4 April, X mulai meluncurkan halaman Explore yang baru diperbarui. Pembaruan ini menyediakan posting pengguna teratas pada setiap topik yang sedang tren serta ringkasan yang mudah dipahami tentang materi subjek di atas konten pengguna. Di bagian paling atas halaman, headline yang dibuat oleh X menyajikan informasi kepada pembaca seolah-olah mereka akan membaca artikel tentang topik tersebut.
Selain itu, pembaruan ini juga memberikan lokasi baru dan menonjol pada platform. Cerita-cerita tren Explore sekarang muncul tertanam langsung di bilah sisi kanan halaman utama X, di mana daftar topik yang sedang tren biasanya terletak, yang dilihat oleh ratusan juta pengguna X setiap hari.
Namun, Musk tidak membawa kembali tim kurasi Twitter, dan juga tidak mempekerjakan editor manusia baru untuk menulis konteks yang saat ini disediakan oleh X.
Konteks ditulis oleh chatbot AI X, Grok.
Bahaya X bergantung pada AI
Kita tahu bahwa Grok, fitur AI yang dipromosikan oleh Musk, menggerakkan ringkasan kontekstual X karena X menyatakan demikian di catatan kaki pada setiap halaman Explore.
“Grok adalah fitur awal dan bisa melakukan kesalahan,” tulis catatan kecil dari X di bawah konteks tertulis yang disediakan di halaman Explore. “Verifikasi keluarannya.”
Mashable mengamati halaman X “Iran Menyerang Tel Aviv dengan Rudal Berat” yang menyebar berita palsu saat itu sedang tren pada hari Kamis.
Berdasarkan observasi kami, tampaknya topik tersebut mulai tren karena lonjakan tiba-tiba akun bercentang biru (pengguna yang membayar langganan bulanan ke X untuk fitur Premium termasuk lencana verifikasi) yang menyebarkan misinformasi salinan dan tempel tentang Iran menyerang Israel. Posting yang dikurasi oleh X penuh dengan akun yang diverifikasi ini menyebarkan berita palsu bersama video yang belum terverifikasi yang menggambarkan ledakan.
Dari situ, tampaknya algoritma X memperhatikan tren cerita potensial dalam posting pengguna ini, dan halaman cerita Explore dibuat. Kita dapat menyimpulkan dari klaim X sendiri tentang cara kerjanya bahwa Grok kemudian harus membuat narasi tertulis yang terlihat resmi, bersama dengan headline yang menarik. Semua ini dilakukan oleh Grok berdasarkan sejumlah pengguna yang membagikan berita palsu, dalam upaya otomatis untuk memberikan konteks untuk apa yang platform itu sendiri tampaknya menganggap sebagai cerita nyata.
Ini bukan kali pertama Grok memberikan pengguna dengan informasi yang salah. Pelaporan sebelumnya tentang versi awal chatbot X menemukan bahwa seringkali membuat berita palsu dalam obrolan pribadi dengan beberapa pengguna yang memiliki akses ke sana. Namun, insiden terbaru ini dikombinasikan dengan fitur Explore yang baru adalah kali pertama X mengambil informasi salah Grok, mengemasnya sebagai cerita berita tren nyata, dan mempromosikannya kepada seluruh basis pengguna, secara asumsi sebagai konteks untuk suatu peristiwa nyata.
Di bawah kepemimpinan Musk, disinformasi meroket di platform yang dikenal sebagai X. Berkat produk Explore yang baru, perusahaan mempromosikan kebohongan, diseminasi oleh aktor buruk yang membayar yang berpotensi menghasilkan uang sebagai imbalan untuk menghasilkan keterlibatan.
Satu hari setelah Grok menciptakan cerita palsu ini yang kemudian dipromosikan oleh X melalui halaman Explore-nya, perusahaan meluncurkan Grok ke semua pengguna X yang berlangganan Premium agar mereka dapat menggunakan chatbot AI pembuat misinformasi tersebut juga.