Meta, perusahaan induk Instagram, meminta maaf pada hari Kamis untuk konten kekerasan dan grafis yang beberapa pengguna lihat di feed Instagram Reels mereka. Meta mengaitkan masalah tersebut dengan kesalahan yang menurut perusahaan telah diatasi. “Kami telah memperbaiki kesalahan yang menyebabkan beberapa pengguna melihat konten di feed Instagram Reels mereka yang seharusnya tidak direkomendasikan,” kata juru bicara Meta dalam pernyataan yang diberikan kepada CNET. “Kami minta maaf atas kesalahan tersebut.” Meta melanjutkan dengan mengatakan bahwa insiden tersebut merupakan kesalahan yang tidak terkait dengan perubahan kebijakan konten yang perusahaan telah lakukan. Pada awal tahun, Instagram membuat beberapa perubahan signifikan dalam kebijakan pengguna dan pembuatan konten, tetapi perubahan tersebut tidak secara khusus menangani penyaringan konten atau konten yang tidak pantas muncul di feed. Meta melakukan perubahan moderasi konten sendiri baru-baru ini dan telah membongkar departemen pemeriksaan fakta demi moderasi yang didorong oleh komunitas. Amnesty International memperingatkan awal bulan ini bahwa perubahan Meta dapat meningkatkan risiko pendorong kekerasan. Meta mengatakan bahwa sebagian besar gambar grafis atau mengganggu yang ditandai akan dihapus dan digantikan dengan label peringatan yang harus diklik pengguna untuk melihat gambar tersebut. Beberapa konten juga difilter untuk mereka yang berusia di bawah 18 tahun. Perusahaan mengatakan bahwa kebijakan seputar gambar kekerasan dan grafis dikembangkan dengan bantuan para ahli internasional dan penyempurnaan kebijakan tersebut adalah proses yang sedang berlangsung. Pengguna memposting di media sosial dan di forum pesan, termasuk Reddit, tentang beberapa gambar yang tidak diinginkan yang mereka lihat di Instagram, diduga karena glitch. Mereka termasuk penembakan, pemenggalan kepala, orang yang tertabrak kendaraan, dan tindakan kekerasan lainnya. Brooke Erin Duffy, seorang peneliti media sosial dan profesor muda di Universitas Cornell, mengatakan bahwa dia tidak yakin dengan klaim Meta bahwa isu konten kekerasan tidak terkait dengan perubahan kebijakan. “Sistem moderasi konten – baik yang didukung oleh AI atau tenaga kerja manusia – tidak pernah sempurna,” kata Duffy kepada CNET. “Dan sementara banyak yang berspekulasi bahwa revisi moderasi Meta (diumumkan bulan lalu) akan menciptakan risiko dan kerentanan yang lebih tinggi, ‘glitch’ kemarin memberikan bukti langsung tentang biaya dari platform yang kurang terkendali.” Duffy menambahkan bahwa meskipun memoderasi platform media sosial sulit, “panduan moderasi platform telah berfungsi sebagai mekanisme keamanan bagi pengguna, terutama mereka dari komunitas yang terpinggirkan. Penggantian sistem yang ada oleh Meta dengan fitur ‘catatan komunitas’ merupakan langkah mundur dalam hal perlindungan pengguna.”
