Dampak dari perubahan moderasi konten terbaru Meta mulai terungkap sendiri.
Bulan lalu, Meta mengumumkan akan mencabut program pemeriksaan fakta di Facebook, Instagram, dan Threads mulai musim semi ini demi pendekatan Catatan Komunitas, di mana pengguna individu menjadi sukarelawan untuk memberikan komentar pada posting dengan konteks tambahan atau informasi yang berbeda. Seperti program Catatan Komunitas X, persyaratan untuk apa yang harus disertakan oleh sukarelawan dalam sebuah catatan sangat sedikit dibandingkan dengan fakta sebenarnya; mereka hanya perlu mengikuti Standar Komunitas Meta, tetap di bawah 500 karakter, dan menyertakan tautan.
Juga: Cara menghapus Facebook, Messenger, atau Instagram – jika Anda ingin Meta keluar dari hidup Anda
Meta akan tetap menjadi otoritas atas konten yang masuk ke dalam wilayah ilegal, termasuk penipuan, eksploitasi seksual anak, dan penipuan. Hal ini meninggalkan konten yang kontroversial, menyesatkan, dan dihasilkan oleh kecerdasan buatan yang berada di luar kategori-kategori tersebut dalam area abu-abu, dengan pengawasan yang sedikit terukur.
Pada hari Senin, ProPublica menerbitkan analisis yang menunjukkan perubahan lain: Pada bulan Oktober, Meta meluncurkan program monetisasi baru yang menghadirkan Bonus Kinerja kembali, sebuah program yang menawarkan uang tunai untuk posting yang mencapai metrik keterlibatan tertentu. Meskipun hingga saat ini hanya ditawarkan kepada para pembuat konten yang diundang, program ini akan melebarkan ketersediaannya suatu saat dalam tahun ini.
Di masa lalu, Meta tidak membalas konten yang dicap oleh pemeriksa fakta; namun, ProPublica mencatat, kebijakan tersebut tidak akan berpengaruh ketika tanda-tanda tersebut berhenti ada. Hal ini secara efektif memberikan insentif kepada pengguna untuk membuat konten “hoax” yang viral demi uang – meskipun Meta mengatakan bahwa “mereka mungkin tetap mengurangi distribusi konten hoax tertentu yang penyebarannya menciptakan pengalaman pengguna atau produk yang sangat buruk (misalnya, hoax komersial tertentu).”
Juga: Cara menjadi editor Catatan Komunitas Meta
Sebagai contoh dari apa yang bisa diperkuat oleh hal ini, ProPublica menemukan 95 halaman Facebook “yang secara rutin memposting judul-judul palsu yang dirancang untuk menarik perhatian – dan, seringkali, memicu perpecahan politik,” yang mayoritas dikelola oleh orang di luar AS untuk audiens kolektif lebih dari 7,7 juta pengikut. Setelah ditinjau, Meta memberi tahu ProPublica bahwa mereka telah menghapus 81 dari halaman-halaman ini, tetapi tidak mengonfirmasi apakah mereka menerima pembayaran konten viral.
Tidak jelas apakah Meta akan dengan cara apa pun menyuntikkan kebijakan tanpa bayaran tersebut ke dalam program Catatan Komunitas; dengan kriteria evaluasi yang sangat berbeda, sulit untuk melihat bagaimana hal itu akan berfungsi.
Sementara skandal Cambridge Analytica tahun 2018 berpusat pada manipulasi data pengguna Facebook yang dapat diakses, hal itu juga mengungkapkan betapa mudahnya kampanye yang ditargetkan, terlepas dari faktualitasnya, dapat beredar di platform-platform sosial. Penggunaan algoritma personalisasi oleh perusahaan media sosial membuat hal ini terutama efektif.
Baru-baru ini, chatbot Grok xAI tertangkap secara tidak sengaja menekan informasi yang merugikan tentang Elon Musk dan Presiden Trump dalam tanggapan kepada pengguna. OpenAI baru-baru ini memperbarui Spesifikasi Modelnya untuk memungkinkan ChatGPT untuk berinteraksi dengan pertanyaan yang sebelumnya tidak akan dia tanggapi. Administrasi Trump sedang dalam proses mengurangi kekuasaan badan regulasi AI AS, yang memonitor perusahaan dan alat AI untuk keamanan dan penggunaan yang tepat.
Meskipun ini adalah insiden-insiden terpisah, mereka juga merupakan pergeseran terkait dalam jaringan alat internet dari mana banyak warga AS mendapatkan sebagian besar atau seluruh informasi mereka; seperti yang ditemukan oleh Pew Research, satu dari lima orang dewasa di AS mendapatkan kontennya dari “pengaruh berita” (namun tidak bisa secara tepat menyebutkannya).
Insiden Grok menyoroti bagaimana sistem-sistem ini dapat dimanipulasi untuk kepentingan individu, meskipun perusahaan teknologi mengklaim sedang menciptakan lebih banyak “kebebasan berpikir” dan mengurangi sensor.
Juga: Yikes: Grok 3 yang dijebol dapat diatur untuk mengucapkan dan mengungkapkan hampir apa pun
Media sosial belum pernah menjadi sumber informasi yang hermetis, dan studi-studi telah mengidentifikasi batasan-batasan terhadap efektivitas pemeriksaan fakta di platform-platform sosial. Namun demikian, pergeseran ini dapat lebih mendalamkan kesenjangan kualitas informasi. Menempatkan tanggung jawab untuk memverifikasi posting bahkan lebih pada pengguna menghadapi ancaman unik karena lubang literasi media yang sangat dalam di AS. Hal ini juga dapat memaksa informasi yang lebih andal di balik rintangan, termasuk tembok pembayaran.
Apakah seorang pengguna melihat berita sesungguhnya di feed mereka – atau memperhatikan Catatan Komunitas pada suatu posting – akan tergantung pada bagaimana konten itu bersaing dalam algoritme Meta, di mana konten tersebut akan semakin bersaing dengan posting yang diincentifkan, provokatif.