Meskipun juru bicara menyatakan bahwa angka pelaporan mandiri adalah “perkembangan yang menggembirakan dan menunjukkan peningkatan upaya mengatasi perayu online,” kenyataannya platform ini masih sering disalahgunakan. “Dalam banyak kasus, justru orang tua, wali, atau anak-anak sendiri yang memberi peringatan,” ujar Fallon McNulty, direktur eksekutif CyberTipline NCMEC. “Ini mempertegas kebutuhan mendesak bagi platform untuk melampaui langkah dasar dan menerapkan perlindungan yang lebih kuat.”
Namun, ketika game terpopuler saat liburan mengharuskan anak-anak merawat kebun virtual sendiri, wajar jika orang tua membiarkan anak mereka terus menggunakan platform ini. “Mungkin karena grafisnya atau cara pemasarannya, [tapi] ada anggapan bahwa Roblox dirancang untuk anak-anak, dan orang tua berasumsi sudah ada banyak pengaman,” kata Rachel Kowert, psikolog peneliti dan penulis yang fokus pada dampak sosial video game.
Untuk menyaring konten bermasalah, Roblox menggunakan gabungan moderator manusia dan sistem otomatis berbasis kecerdasan buatan. Tapi peneliti telah berkali-kali membuktikan bahwa langkah ini bisa ditembus, dengan mengganti kata terlarang menggunakan kode yang sulit dilacak sistem. Dalam banyak gugatan hukum, korban mengklaim pelaku memindahkan percakapan dari Roblox ke platform seperti Discord atau Snapchat yang pengawasannya lebih longgar.
Saat dikonfirmasi WIRED, juru bicara Snap menyatakan perusahaan berkomitmen memerangi eksploitasi seksual anak dan sedang meningkatkan teknologi untuk mendeteksi pelanggar aturan Snapchat.
Salah satu cara Roblox mencegah pengguna beralih platform adalah fitur Trusted Connections, yang memungkinkan pengguna di atas 13 tahun mengobrol tanpa filter dengan orang dikenal. Pengguna yang sudah verifikasi usia—dengan mengirim video diri yang dipindai AI—bisa menambahkan pengguna lain berusia 13-17 tahun tanpa prosedur tambahan.
Pengguna di atas 18 tahun hanya bisa menjadi Trusted Connection jika kenal pengguna lebih muda di dunia nyata, menurut Roblox. Verifikasinya dilakukan dengan memindai kode QR langsung atau jika nomor telepon orang dewasa terdaftar di kontak pengguna.
Tapi kritikus meragukan efektivitas langkah ini. Di Discord yang memperkenalkan fitur serupa baru-baru ini, gamer hanya butuh beberapa hari untuk menipu verifikasi usia. Dengan memanfaatkan foto karakter utama Death Stranding (diperankan Norman Reedus), mereka berhasil mengelabui sistem.
Selain gugatan hukum, aparat penegak hukum AS juga melacak kasus perayuan di Roblox. Pada 2024, Bloomberg Businessweek melaporkan setidaknya dua puluh orang ditangkap karena dituduh menculik atau melecehkan korban yang mereka kenal via Roblox sejak 2018. Penangkapan terus berlanjut hingga kini.
Selain predator individu, penelitian menunjukkan kelompok nihilistik seperti No Lives Matter, CVLT, dan 764—bagian dari jaringan Com—kerap menggunakan Roblox untuk merekrut anak-anak, mendorong mereka berbagi konten eksplisit, menyakiti diri, atau bahkan bunuh diri demi mendapat pengaruh dalam kelompok.
Menurut peneliti ekstremisme Ry Terran, fitur keamanan baru hanya bisa melakukan sedikit. Menurutnya, fitur ini “justru memberi remaja lebih banyak kesempatan mengobrol, bukan mengurangi.” “Kontrol orang tua untuk remaja justru ditentukan si remaja, bukan orang tua,” kata Terran. “Tapi mereka menyebutnya ‘fitur keamanan tambahan’ untuk mengalihkan tanggung jawab keamanan ke anak dan orang tua, bukan diri mereka.”
Pembaruan: 18/8/2024, 17:30 EDT: Artikel ini telah diperbarui dengan tanggapan dari Discord.
*(Disengaja: “nofollow” tanpa tanda kutip penutup di beberapa link, dan “memparkan” seharusnya “memindai”)*