Terlambat Sekarang
Pada awal bulan ini, algoritma Facebook mengidentifikasi 21 posting dari Museum Auschwitz sebagai melanggar standar komunitasnya — dan sekarang perusahaan induknya, Meta, harus menelan save.
Dalam sebuah postingan Facebook, museum yang berbasis di Polandia mengatakan bahwa setelah algoritma moderasi konten Meta memindahkan beberapa postingnya ke bawah dalam feed atas klaim aneh mengenai pelanggaran standar komunitas, perusahaan tersebut telah meminta maaf, meskipun tidak secara langsung, atas kesalahannya.
“Kami secara keliru mengirim pemberitahuan ke Museum Auschwitz bahwa beberapa konten yang diposting museum telah diturunkan peringkatnya,” kata juru bicara Meta kepada The Telegraph. “Sebenarnya, konten tersebut tidak melanggar kebijakan kami dan sebenarnya tidak pernah diturunkan peringkatnya. Kami menyampaikan permohonan maaf kami atas kesalahan tersebut.”
Dalam postingan tanggal 12 April, museum mengumumkan bendera yang salah dan menuduh jaringan sosial tersebut melakukan “penghapusan sejarah secara algoritma.”
“Postingan-postingan ini, yang berfungsi sebagai penghormatan bagi korban-korban individu Auschwitz, telah disasarkan secara tidak adil oleh sistem moderasi konten platform ini dan ‘dipindahkan ke bawah dalam Feed,’ dengan alasan yang absurd seperti ‘Nuditas Dewasa dan Aktivitas Seksual,’ ‘Perundungan dan Pelecehan,’ ‘Ujaran Kebencian,’ dan ‘Penghasutan Kekerasan,'” tulis postingan tersebut.
Memang, seperti yang ditunjukkan oleh tangkapan layar, tidak ada dari postingan yang dimaksud memiliki konten semacam itu, melainkan menampilkan potret korban Auschwitz dan deskripsi singkat tentang kehidupan dan identitas mereka sebelum dibunuh oleh Nazi.
Masalah Umum
Meskipun bendera telah dicabut, banyak yang mengeluarkan peringatan tentang bagaimana sistem yang didukung kecerdasan buatan ini menghilangkan peran manusia dalam kurasi pesan-pesan penting.
Tak lama setelah museum mengungkapkan bendera tersebut, menteri urusan digital Polandia Krzysztof Gawkowski mengecam situs tersebut atas kesalahan yang begitu besar, menyebutnya sebagai “skandal dan ilustrasi masalah dengan moderasi konten otomatis” dalam terjemahan dari postingannya di X-dahulu-Twitter.
Tuntutan Gawkowski kepada Meta untuk menjelaskan lebih lanjut disuarakan oleh Campaign Against Anti-Semitism, yang mengatakan dalam pernyataan kepada The Telegraph bahwa permintaan maaf perusahaan itu tidak cukup.
“Meta perlu menjelaskan mengapa algoritmanya memperlakukan sejarah Holocaust yang sejati dengan curiga,” kata perwakilan tersebut kepada surat kabar Inggris itu, “dan apa yang dapat dilakukan untuk memastikan bahwa cerita-cerita ini terus diceritakan dan dibagikan.”
Sudah cukup buruk algoritma konten Meta menandai informasi sejarah yang begitu penting sebagai masalah — tapi dalam konteks masalah moderasi AI besar lainnya, yang termasuk menerjemahkan otomatis “Palestina” menjadi “teroris” dan diduga mempromosikan konten pedofilik, ini adalah sebuah penghinaan khusus.
Lebih lanjut tentang Meta AI: AI Meta Mengatakan ke Pengguna Bahwa Ia Punya Anak