Fitur Verifikasi Usia Baru Roblox Gunakan AI untuk Memindai Video Selfie Remaja

Dalam briefing, Kaufman menyebut Roblox sebagai “salah satu tempat paling aman di internet untuk berkumpul dan menghabiskan waktu bersama teman dan keluarga.”

Kirra Pendergast, pendiri dan CEO Safe on Social—organisasi keamanan daring yang beroperasi global—menyatakan langkah-langkah keamanan terbaru Roblox sebagian besar bersifat opsional, sehingga “membebankan tanggung jawab pada anak-anak untuk mengidentifikasi dan mengelola risiko, hal yang bertentangan dengan segala pemahaman kita tentang taktik grooming.” Misalnya, fitur seperti alat estimasi usia berbasis pembelajaran mesin bisa salah mengategorikan pengguna lebih tua atau lebih muda. Sementara pemindaian kode QR secara tatap muka, menurutnya, “mengasumsikan bahwa pemindaian QR secara langsung sudah pasti aman.”

“Predator sering menggunakan taktik grooming di dunia nyata,” kata Pendergast. “Pemindaian QR tidak memverifikasi hubungan yang terpercaya. Predator bisa membangun kepercayaan secara daring, lalu memanipulasi anak untuk memindai QR secara luring, sehingga mengesahkan ‘Koneksi Terpercaya’ dalam sistem Roblox. Perlindungan nyata membutuhkan verifikasi bersama wali untuk setiap koneksi, bukan izin yang diinisiasi anak.”

Selain itu, Pendergast menambahkan, Koneksi Terpercaya hanya berlaku untuk obrolan, sehingga “masih banyak celah yang terbuka, membuatnya jadi penghalang yang rapuh.”

Ketika ditanya bagaimana kode QR tatap muka melindungi anak dari taktik grooming dunia nyata, Kaufman mengulang pernyataan dalam briefing bahwa tidak ada “solusi ajaib.” Menurutnya, ini tentang banyak sistem yang bekerja bersama. “Sistem itu dimulai dari kebijakan kami, standar komunitas,” jelas Kaufman. “Produk kami melakukan pemantauan otomatis, ada kemitraan, ada tim di balik layar. Jadi kami punya serangkaian langkah untuk menjaga keamanan. Bukan cuma QR code atau estimasi usia, tapi semua ini bekerja bersama.”

Kaufman menyatakan Roblox “lebih maju” dari platform lain dengan melarang pengguna berusia 13-17 berkomunikasi tanpa filter tanpa Koneksi Terpercaya. “Kami merasa sedang menetapkan standar global untuk komunikasi aman bagi remaja.”

MEMBACA  Perubahan iPhone Ini Membuat Menemukan Foto yang Baru Disimpan Menjadi Lebih Mudah

Menurut briefing Roblox, pembaruan ini bagian dari proses pengembangan biasa dan tidak dipengaruhi “peristiwa tertentu” atau masukan. “Ini bukan reaksi atas sesuatu,” tegas Kaufman. “Ini bagian dari rencana jangka panjang untuk membuat Roblox seaman mungkin.”

Kaufman juga memberi tahu WIRED bahwa sorotan dan diskusi seputar game ini tidak berdampak besar pada rencana perusahaan. “Dengan pengumuman ini, kami ingin menetapkan standar untuk apa yang kami anggap pantas bagi anak-anak.”

Mengenai teknologi seperti AI generatif, ia berpendapat, “Teknologi mungkin berubah, tapi prinsipnya tetap sama. Kami juga melihat AI sebagai peluang untuk meningkatkan moderasi keamanan secara besar-besaran. AI sangat sentral di sini.”

Dalam briefing, Kaufman menekankan pentingnya orang tua “membangun dialog” dengan anak tentang keamanan daring. “Ini tentang diskusi soal aktivitas daring mereka, siapa teman mereka, dan apa yang mereka lakukan. Diskusi itu mungkin hal terpenting untuk menjaga keamanan, dan kami berinvestasi pada alat untuk memfasilitasinya.” Ia menambahkan, Roblox sadar setiap keluarga punya ekspektasi berbeda terkait perilaku daring. “Jika orang tua menentukan apa yang pantas untuk anak mereka, itu mungkin tidak sesuai dengan keputusan kami atau saya untuk keluarga sendiri. Tapi itu tidak masalah, dan kami menghargai perbedaan itu.”