Laporan Menemukan bahwa Facebook dan Instagram adalah Platform yang Digunakan oleh Orangtua yang Memanfaatkan Seksual secara Maujud

Seorang jurnalis yang berpengalaman telah melakukan investigasi terhadap akun “influencer anak-anak” di Facebook dan Instagram dan menemukan bahwa Meta dengan sengaja membiarkan orangtua yang memanfaatkan seksual anak-anak mereka demi keuntungan finansial di platform tersebut – dan dalam beberapa kasus, menggunakan alat langganan berbayar Meta untuk melakukannya.

Menurut laporan terpisah yang diterbitkan oleh The New York Times dan The Wall Street Journal pada hari Kamis, Facebook dan Instagram telah menjadi usaha yang potensial menguntungkan bagi orangtua yang menjalankan akun media sosial untuk anak-anak – terutama anak perempuan – yang belum cukup tua untuk memenuhi persyaratan usia minimum 13 tahun dari platform tersebut. Beberapa dari “akun minor yang dikelola orangtua” yang diselidiki menjual materi kepada audiens besar mereka yang terdiri dari pria dewasa, termasuk foto anak-anak mereka dengan pakaian terbuka, sesi obrolan eksklusif, dan pakaian renang dan seragam cheer anak-anak mereka.

Staf Meta menemukan bahwa beberapa orangtua dengan sengaja membuat konten anak-anak mereka untuk pedofil.

Menurut The Wall Street Journal, meskipun akun yang dikelola oleh orangtua ini tidak menampilkan konten ilegal atau telanjang, staf Meta menemukan bahwa beberapa orangtua dengan sengaja membuat materi anak-anak mereka yang akan memuaskan secara seksual para pedofil. Ini termasuk orangtua yang memiliki percakapan yang bernuansa seksual tentang anak-anak mereka sendiri dan membuat mereka berinteraksi dengan pesan seksual yang dikirim oleh pelanggan. Staf Meta juga diduga mengetahui bahwa algoritma perusahaan mempromosikan langganan untuk akun yang menampilkan model anak kepada para pedofil yang dicurigai dan bahwa beberapa orangtua menawarkan konten tambahan dari anak-anak mereka di platform lain.

Meta tidak segera merespons permintaan komentar dari The Verge.

Karena cara kerja algoritma media sosial Meta, bahkan akun yang tidak secara sengaja jahat – seperti akun untuk model anak-anak, atlet, dan penghibur – mendapat manfaat dari mendapatkan audiens besar pria dewasa. Times melaporkan bahwa 5.000 akun yang diperiksa memiliki 32 juta koneksi ke pengikut pria. Akun dengan jumlah pengikut tinggi memiliki visibilitas yang ditingkatkan oleh Instagram, yang dapat mengarah ke diskon dan insentif keuangan dari merek. Beberapa perusahaan membayar influencer anak-anak $3.000 untuk satu posting, dan penghasilan enam angka dapat diperoleh melalui langganan bulanan, menurut Times.

Rekomendasi yang diajukan oleh staf Meta untuk mengatasi masalah ini – seperti mewajibkan akun yang menjual langganan berfokus pada anak-anak untuk mendaftarkan diri mereka untuk dimonitor atau melarang langganan ke akun tersebut sepenuhnya – tampaknya tidak dikejar oleh perusahaan. Sebaliknya, Meta fokus pada membangun sistem otomatis untuk mencegah pedofil yang kemungkinan akan berlangganan ke akun yang dikelola orangtua, meskipun ini terbukti tidak dapat diandalkan dan mudah dihindari dengan membuat akun baru, kata Journal.

Alat moderasi Meta sendiri membatasi orangtua yang memblokir terlalu banyak akun dari memblokir predator yang dicurigai.

Sementara membangun sistem ini, Meta memperluas program langganan dan fitur “gifts” tipping, dengan argumen bahwa program-program tersebut dimonitor dengan baik. Journal juga menemukan bahwa alat pemberian hadiah ini telah disalahgunakan dan upaya yang dilakukan oleh beberapa orangtua untuk mengelola siapa yang berinteraksi dengan anak-anak mereka berhasil dihalangi oleh alat moderasi Meta sendiri – dengan akun yang memblokir terlalu banyak pengikut dalam sehari memiliki kemampuannya untuk memblokir akun dibatasi.

Untuk perbandingan, TikTok mengatakan kepada Journal bahwa platform tersebut melarang penjualan konten pemodelan di bawah usia di pasar TikTok dan melalui layanan monetisasi kreatornya.

Times juga menyoroti upaya moderasi yang tidak memadai dari perusahaan, mencatat bahwa Meta hanya merespons satu dari 50 laporan yang dilakukan oleh publikasi tersebut mengenai konten yang meragukan yang menampilkan anak-anak selama delapan bulan. Sebuah studi internal yang dilakukan oleh Meta pada tahun 2020 dan diungkapkan dalam dokumen pengadilan menemukan bahwa 500.000 akun Instagram anak memiliki interaksi “tidak pantas” setiap hari.