Meta sedang mengembangkan alat verifikasi usia dengan menggunakan kecerdasan buatan untuk mendeteksi pengguna remaja dan kemudian secara otomatis menempatkannya ke dalam pengaturan Akun Remaja yang lebih ketat bahkan jika pengguna memasukkan ulang tahun dewasa.
Perusahaan mengatakan dalam pos blog Senin bahwa mereka akan secara proaktif mengidentifikasi akun yang dicurigai milik remaja dan memindahkannya ke pengaturan yang lebih ketat ini. Mereka mengakui sistem tersebut mungkin membuat kesalahan, dan pengguna akan memiliki kemampuan untuk mengatur kembali pengaturan mereka jika diperlukan.
“Kami telah menggunakan kecerdasan buatan untuk menentukan usia untuk beberapa waktu, tetapi memanfaatkannya dengan cara ini adalah perubahan besar,” kata Meta.
Langkah ini merupakan bagian dari upaya lebih luas oleh Meta dan platform media sosial lainnya untuk lebih melindungi pengguna muda di tengah tekanan yang meningkat dari orangtua dan pembuat kebijakan yang berpendapat bahwa perusahaan teknologi tidak cukup melakukan untuk menjaga keamanan dan kesehatan mental remaja.
Akun Remaja Instagram, yang diluncurkan tahun lalu, termasuk perlindungan bawaan yang membatasi siapa yang dapat menghubungi remaja, konten apa yang dapat mereka lihat, dan berapa lama mereka dapat menghabiskan waktu di platform. Tahun lalu, perusahaan secara otomatis mengaktifkan fitur keamanan ini untuk semua pengguna remaja, memerlukan persetujuan orangtua atau wali untuk siapa pun di bawah 16 tahun untuk melakukan perubahan.
Perusahaan mengatakan sekitar 97% pengguna di bawah 16 tahun tetap menjaga perlindungan ini tetap berlaku. Mereka juga baru-baru ini memperluas pengalaman Akun Remaja ke Facebook dan Messenger.
Meta mengatakan mereka akan mulai mengirimkan pemberitahuan kepada orangtua Instagram dengan informasi tentang mengapa penting untuk berbicara dengan remaja mereka tentang memberikan informasi usia yang akurat secara online.
“Memahami usia orang secara online adalah tantangan yang meluas di industri,” kata perusahaan. “Kami akan terus berupaya untuk membantu memastikan remaja ditempatkan dalam pengalaman online yang sesuai dengan usia, seperti Akun Remaja, tetapi cara yang paling efektif untuk memahami usia adalah dengan mendapatkan persetujuan orang tua dan memverifikasi usia di toko aplikasi.”
Meskipun beberapa organisasi telah memberikan apresiasi terhadap metode verifikasi usia seperti ini, yang lain seperti Devorah Heitner, penulis Growing Up in Public, menyebut implikasi privasi itu “menakutkan.”
“Agar kecerdasan buatan efektif dalam menentukan usia pengguna, ia harus tahu lebih dari yang seharusnya, terutama untuk pengguna baru dengan jejak digital yang terbatas,” katanya. “Kita perlu melihat aplikasi sosial melakukan lebih banyak untuk melindungi semua pengguna dari algoritma yang invasif dan pelecehan daripada fokus pada pembatasan usia.”