Meta memberikan keistimewaan kepada beberapa pengiklan teratasnya dari proses moderasi konten biasa, melindungi bisnis multibilion dolarnya di tengah kekhawatiran internal bahwa sistem perusahaan secara keliru mempidanakan merek-merek teratas.
Menurut dokumen internal tahun 2023 yang dilihat oleh Financial Times, pemilik Facebook dan Instagram memperkenalkan serangkaian “guardrails” yang “melindungi pengeluar tinggi”.
Memo yang sebelumnya tidak dilaporkan mengatakan bahwa Meta akan “menekan deteksi” berdasarkan seberapa banyak pengiklan menghabiskan uang di platform tersebut, dan bahwa beberapa pengiklan teratas akan ditinjau oleh manusia.
Satu dokumen menyarankan bahwa kelompok yang disebut “P95 spenders” – mereka yang menghabiskan lebih dari $1.500 per hari – “dikecualikan dari pembatasan iklan” tetapi akan “akhirnya dikirim untuk ditinjau oleh manusia”.
Dokumen-dokumen tersebut sebelum pengumuman minggu ini oleh Chief Executive Mark Zuckerberg bahwa Meta akan mengakhiri program fact-checking pihak ketiga dan mengurangi moderasi konten otomatisnya, saat mempersiapkan kembalinya Donald Trump sebagai presiden.
Dokumen-dokumen tahun 2023 menunjukkan bahwa Meta menemukan bahwa sistem otomatisnya secara keliru telah menandai beberapa akun pengeluar teratas karena melanggar aturan perusahaan.
Perusahaan mengatakan kepada FT bahwa akun pengeluar tinggi secara proporsional lebih mungkin menerima pemberitahuan kelalaian tentang pelanggaran aturan perusahaan. Perusahaan tidak merespons pertanyaan mengenai apakah langkah-langkah dalam dokumen tersebut bersifat sementara atau berkelanjutan.
Ryan Daniels, juru bicara Meta, mengatakan laporan FT “sederhana tidak akurat” dan “berdasarkan pembacaan dokumen yang dipilih-pilih yang dengan jelas menyatakan upaya ini dimaksudkan untuk mengatasi sesuatu yang kami sangat publikkan: mencegah kesalahan dalam penegakan aturan”.
Periklanan menyumbang sebagian besar pendapatan tahunan Meta, yang hampir mencapai $135 miliar pada tahun 2023.
Raksasa teknologi ini biasanya menyaring iklan menggunakan kombinasi kecerdasan buatan dan moderator manusia untuk menghentikan pelanggaran standar-standarnya, dalam upaya untuk menghapus materi seperti penipuan atau konten berbahaya.
Dalam dokumen berjudul “pencegahan kesalahan pengeluar tinggi”, Meta mengatakan bahwa ada tujuh guardrails yang melindungi akun bisnis yang menghasilkan lebih dari $1.200 dalam pendapatan selama periode 56 hari, dan pengguna individu yang menghabiskan lebih dari $960 untuk periklanan selama periode yang sama.
Perusahaan menulis bahwa guardrails membantu perusahaan “memutuskan apakah deteksi harus dilanjutkan ke penegakan” dan dirancang untuk “menekan deteksi… berdasarkan karakteristik, seperti tingkat pengeluaran iklan”.
Sebagai contoh, perusahaan memberikan contoh bisnis yang “berada di 5% teratas dalam hal pendapatan”.
Meta mengatakan kepada FT bahwa mereka menggunakan “pengeluaran yang lebih tinggi” sebagai guardrail karena hal ini seringkali berarti iklan perusahaan akan memiliki jangkauan yang lebih luas, dan oleh karena itu konsekuensinya bisa lebih serius jika sebuah perusahaan atau iklannya secara keliru dihapus.
Perusahaan juga mengakui bahwa mereka telah mencegah beberapa akun pengeluar tinggi dari dinonaktifkan oleh sistem otomatisnya, dan malah mengirimkannya untuk ditinjau oleh manusia, ketika perusahaan khawatir tentang akurasi sistem mereka.
Namun, perusahaan mengatakan bahwa semua bisnis masih tunduk pada standar periklanan yang sama dan tidak ada pengiklan yang dikecualikan dari aturan mereka.
Dalam memo “pencegahan kesalahan pengeluar tinggi”, perusahaan memberi peringkat berbagai kategori guardrails sebagai “rendah”, “sedang” atau “tinggi” dalam hal apakah mereka “dapat dibela”.
Staf Meta menetapkan praktik memiliki guardrails yang terkait dengan pengeluaran sebagai memiliki tingkat “defensibilitas” yang “rendah”.
Guardrails lain, seperti menggunakan pengetahuan tentang kepercayaan bisnis untuk membantu perusahaan memutuskan apakah deteksi pelanggaran kebijakan harus otomatis dilakukan, dinilai memiliki tingkat “defensibilitas” yang “tinggi”.
Meta mengatakan bahwa istilah “dapat dibela” mengacu pada kesulitan menjelaskan gagasan guardrails kepada pemangku kepentingan, seandainya mereka salah menafsirkannya.
Dokumen tahun 2023 tidak menyebutkan pengeluar tinggi yang masuk dalam guardrails perusahaan, tetapi ambang pengeluaran tersebut menunjukkan bahwa ribuan pengiklan mungkin dianggap dikecualikan dari proses moderasi biasa.
Estimasi dari firma intelijen pasar Sensor Tower menunjukkan bahwa 10 pengiklan teratas di AS di Facebook dan Instagram termasuk Amazon, Procter & Gamble, Temu, Shein, Walmart, NBCUniversal, dan Google.
Meta telah mencapai pendapatan rekor dalam beberapa kuartal terakhir dan sahamnya diperdagangkan pada level tertinggi sepanjang masa, mengikuti pemulihan perusahaan dari penurunan pasca-pandemi di pasar periklanan global.
Tetapi Zuckerberg telah memperingatkan adanya ancaman terhadap bisnisnya, dari kebangkitan AI hingga saingan TikTok yang dimiliki oleh ByteDance, yang telah meningkatkan popularitasnya di kalangan pengguna muda.
Seorang yang familier dengan dokumen tersebut berpendapat bahwa perusahaan “memprioritaskan pendapatan dan keuntungan di atas integritas dan kesehatan pengguna”, menambahkan bahwa kekhawatiran telah diutarakan secara internal tentang cara menghindari proses moderasi standar.
Zuckerberg mengatakan pada hari Selasa bahwa kompleksitas sistem moderasi konten Meta telah menyebabkan “terlalu banyak kesalahan dan terlalu banyak sensor”.
Komentarnya datang setelah Trump menuduh Meta tahun lalu atas penyensoran pidato konservatif dan menyarankan bahwa jika perusahaan itu campur tangan dalam pemilihan 2024, Zuckerberg akan “menghabiskan sisa hidupnya di penjara”.
Dokumen internal juga menunjukkan bahwa Meta mempertimbangkan mengejar pengecualian lain untuk beberapa pengiklan teratas.
Dalam satu memo, staf Meta mengusulkan “lebih agresif menawarkan perlindungan” dari over-moderasi kepada apa yang disebutnya sebagai “pengeluar platinum dan emas”, yang bersama-sama menghasilkan lebih dari setengah dari pendapatan iklan.
“Penegakan integritas positif palsu terhadap Pengiklan Nilai Tinggi mengakibatkan Meta kehilangan pendapatan [dan] merusak kredibilitas kami,” bunyi memo tersebut.
Itu menyarankan opsi kekecualian menyeluruh bagi pengiklan-pengiklan ini dari penegakan tertentu, kecuali dalam “kasus yang sangat langka”.
Memo tersebut menunjukkan bahwa staf menyimpulkan bahwa pengiklan platinum dan emas “bukan segmen yang cocok” untuk kekecualian secara umum, karena perkiraan 73 persen dari penegakan mereka dianggap beralasan, menurut uji coba perusahaan.
Dokumen internal juga menunjukkan bahwa Meta telah menemukan beberapa akun yang dihasilkan oleh AI dalam kategori pengeluar besar.
Meta sebelumnya pernah menjadi sorotan karena memberikan pengecualian bagi pengguna penting. Pada tahun 2021, pengungkap dokumen Facebook Frances Haugen bocor menunjukkan bahwa perusahaan memiliki sistem internal yang disebut “cross-check”, yang dirancang untuk meninjau konten dari politisi, selebriti, dan jurnalis untuk memastikan postingan tidak secara keliru dihapus.
Menurut dokumen Haugen, ini kadang-kadang digunakan untuk melindungi beberapa pengguna dari penegakan, bahkan jika mereka melanggar aturan Facebook, praktik yang dikenal sebagai “whitelisting”.
Dewan pengawas Meta – badan independen mirip “Mahkamah Agung” yang didanai oleh perusahaan untuk mengawasi keputusan moderasi paling sulit – menemukan bahwa sistem cross-check telah meninggalkan konten berbahaya online. Mereka menuntut perbaikan pada sistem tersebut, yang sejak itu dilakukan oleh Meta.