Reddit telah memperkenalkan filter keamanan yang didukung oleh kecerdasan buatan yang akan membantu menyaring postingan yang mengandung konten pelecehan atau lainnya yang tidak pantas. Filter “pelecehan” ini – yang diam-diam ditambahkan ke halaman dukungan platform minggu lalu dan terdeteksi oleh Android Authority – menggunakan Model Bahasa Besar (LLM) “yang dilatih dengan tindakan moderator dan konten yang dihapus oleh alat internal dan tim penegakan Reddit,” jelas Reddit. Alat ini bertujuan untuk mendukung pekerjaan yang sudah sulit bagi moderator Reddit yang bertugas mengawasi komunitas online yang mereka ikuti.
Baru-baru ini, Bloomberg melaporkan bahwa Reddit telah menandatangani kesepakatan lisensi konten dengan “pemain AI” besar, yang akan menawarkan data situs dan pengguna untuk melatih teknologi AI potensial.
Saat sebuah komunitas dan para moderatornya mengaktifkan filter, sebuah tanda baru akan muncul di antrean mod situs yang menunjukkan konten (postingan dan komentar) yang telah ditandai sebagai “potensial pelecehan.” Moderator kemudian dapat menyetujui atau menghapus konten tersebut, dan melaporkan kembali ke Reddit apakah itu terdeteksi dengan benar.
Platform ini telah memperkenalkan berbagai fitur baru dan pengalaman yang diperbarui dalam beberapa bulan terakhir, menjelang debut pasar sahamnya bulan ini. Tahun lalu, Reddit mengumumkan Modmail Harassment Filter, yang berfungsi seperti folder “spam” untuk pesan moderator yang berisi konten berpotensi abusive.
Bagaimana cara mengatur filter pelecehan Reddit: Untuk desktop, pergi ke tab Tentang Komunitas di sidebar kanan dan pilih Mod Tools. Untuk iOS dan Android, klik tombol Mod Tools di bawah banner komunitas Anda. Pergi ke Moderation. Klik pada Safety. Pilih opsi Harassment filter, dan aktifkan. Pilih di antara opsi filter Low atau High. Penyaringan rendah memblokir jumlah konten paling sedikit, tetapi lebih akurat dalam mendeteksi pelecehan. Penyaringan tinggi melakukan pemeriksaan lebih luas terhadap postingan, dan oleh karena itu akan memblokir lebih banyak postingan. Reddit merekomendasikan menggunakan opsi High jika komunitas Anda menghadapi “jumlah konten pelecehan yang signifikan.”
Meskipun Reddit mengatakan administrator akan terus secara otomatis menghapus postingan yang melanggar Kebijakan Konten Reddit, filter pelecehan memberikan pengawasan komunitas atas konten yang tidak pantas namun masih “sesuai kebijakan” yang mungkin lolos.