Hanya beberapa hari setelah diluncurkan, sistem verifikasi usia berbasis AI yang sangat digembar-gemborkan oleh Roblox ternyata sama sekali kacau.
Sistem pemindaian wajah Roblox, yang memperkirakan usia pengguna sebelum mereka dapat mengakses fungsi obrolan platform, diterapkan di AS dan negara-negara lain pekan lalu, setelah awalnnya diluncurkan di beberapa lokasi pada Desember. Roblox menyatakan sistem ini diimplementasikan agar pengguna dapat mengobrol dengan aman bersama pengguna lain yang usianya sebaya.
Namun, para pemain sudah memberontak karena tidak bisa lagi mengobrol dengan teman-teman mereka, para pengembang menuntut Roblox menarik pembaruan tersebut, dan yang terpenting, para pakar menyatakan bahwa tidak hanya AI-nya salah memperkirakan usia pemain muda sebagai dewasa dan sebaliknya, sistem ini juga hampir tidak membantu mengatasi masalah yang seharusnya dipecahkan: maraknya predator yang memanfaatkan platform untuk mengincar anak-anak.
Bahkan, WIRED menemukan beberapa contoh orang yang menjual akun terverifikasi usia untuk anak-anak semuda 9 tahun di eBay dengan harga hanya $4.
Setelah WIRED memberi tahu tentang daftar tersebut, juru bicara eBay Maddy Martinez mengatakan perusahaan akan menghapusnya karena melanggar kebijakan situs.
Roblox tidak menanggapi permintaan komentar. Namun, Roblox menanggapi beberapa kritik dalam sebuah pembaruan pada Jumat, dengan menulis: “Kami menyadari adanya kasus di mana orang tua memverifikasi usia atas nama anak mereka sehingga anak-anak ditetapkan berusia 21+ tahun. Kami sedang mengupayakan solusi untuk masalah ini dan akan segera membagikan informasinya di sini.”
Roblox mengumumkan persyaratan verifikasi usia pada Juli lalu sebagai bagian dari serangkaian fitur baru yang dirancang untuk membuat platform lebih aman. Perusahaan ini mendapat tekanan berat dalam beberapa bulan terakhir setelah sejumlah gugatan hukum menuduh perusahaan gagal melindungi pengguna termuda dan memfasilitasi predator untuk mengincar anak-anak.
Jaksa agung Louisiana, Texas, dan Kentucky juga mengajukan gugatan terhadap perusahaan tahun lalu dengan tuduhan serupa, sementara jaksa agung Florida mengeluarkan surat perintah pemeriksaan kriminal untuk menilai apakah Roblox “membantu predator mengakses dan menyakiti anak-anak.”
Roblox mengklaim bahwa mewajibkan orang memverifikasi usia sebelum mengizinkan mereka mengobrol dengan orang lain akan mencegah orang dewasa berinteraksi secara bebas dengan anak-anak yang tidak mereka kenal.
Meskipun proses ini bersifat opsional, menolak melakukannya berarti seseorang tidak lagi memiliki akses ke fungsi obrolan platform, salah satu alasan utama kebanyakan orang menggunakan Roblox.
Untuk memverifikasi usia, pengguna diminta mengambil video singkat menggunakan kamera perangkat mereka, yang kemudian diproses oleh perusahaan bernama Persona untuk memperkirakan usia. Alternatifnya, pengguna dapat mengunggah foto KTP jika berusia 13 tahun ke atas.
Roblox menyatakan semua informasi pribadi “dihapus segera setelah diproses.” Namun, banyak pengguna di internet mengatakan mereka enggan melakukan verifikasi usia karena kekhawatiran privasi.
Orang yang telah memverifikasi usia mereka hanya diizinkan mengobrol dengan kelompok kecil pemain lain yang usianya sebaya. Misalnya, mereka yang terverifikasi di bawah 9 tahun hanya bisa mengobrol dengan pemain hingga usia 13 tahun. Pemain yang dianggap berusia 16 tahun dapat mengobrol dengan pemain berusia 13 hingga 20 tahun.
Perusahaan awalnya meluncurkan sistem verifikasi usia berbasis AI ini di Australia, Selandia Baru, dan Belanda pada November, tetapi pekan ini Roblox mengungkapkan bahwa hanya separuh dari seluruh pemain yang memverifikasi usia mereka menggunakan sistem tersebut.
Dalam beberapa hari sejak pembaruan diterapkan secara global, pemain dan pengembang telah membanjiri forum, Reddit, dan platform media sosial seperti X dan TikTok dengan keluhan tentang sistem ini.