Fenomena yang dikenal sebagai *Friday news dump* — saat perusahaan merilis berita memalukan di hari yang kecil kemungkinannya mendapat sorotan media — kini dibawa Meta ke tingkat baru. Perusahaan itu mengumumkan penonaktifan karakter AI untuk akun remaja, setidaknya hingga karakternya dapat “berperilaku layak”.
Pengumuman ini tak cuma diluncurkan pada Jumat, tetapi melalui pembaruan posting blog dari Oktober tahun lalu. “Kami telah mulai membangun versi baru karakter AI untuk memberikan pengalaman yang lebih baik,” tulis Adam Mosseri dan Alexandr Wang — peningkatan yang telah lama dijanjikan Meta. Lalu, menyusul bagian yang akan membuat Jumat banyak remaja menjadi sangat tidak menyenangkan.
“Selama kami fokus mengembangkan versi baru ini, akses remaja ke karakter AI yang ada akan dijeda sementara secara global. Dalam beberapa minggu mendatang, remaja tak lagi dapat mengakses karakter AI di seluruh aplikasi kami hingga pengalaman yang diperbarui siap. Ini berlaku untuk siapa pun yang memberikan tanggal lahir remaja, serta orang yang mengaku dewasa tetapi diduga remaja berdasarkan teknologi prediksi usia kami.”
Menurut TechCrunch, pembuat Instagram dan Facebook ini ingin menekankan bahwa mereka “tak meninggalkan upayanya” pada karakter AI. Namun, langkah ini jelas pengakuan bahwa ada potensi bahaya serius pada versi AI saat ini, terkait keselamatan dan kesehatan mental remaja.
Meta bukan satu-satunya yang menyadari hal ini. Character.AI dan Google menyelesaikan gugatan hukum bulan ini dari orang tua anak yang meninggal karena bunuh diri. Salah satu korban adalah remaja 14 tahun yang, menurut ibunya, efektif digrooming dan dilecehkan secara seksual oleh chatbot berbasis karakter Daenerys Targaryen dari *Game of Thrones*.
Terdorong oleh laporan pakar keamanan daring, Character.AI menghentikan semua chat untuk pengguna di bawah 18 tahun pada Oktober lalu, dua bulan setelah Meta memutuskan melatih chatbot remajanya agar tak “terlibat dalam percakapan tentang melukai diri, bunuh diri, gangguan makan, atau percakapan romantis yang berpotensi tak pantas”. Rupanya, pelatihan itu tak cukup.
Ini bukan kali pertama Meta mundur dari ambisi akun karakter AI-nya. Pada 2024, mereka menghapus persona AI berbasis selebritas. Januari tahun lalu, semua profil karakter AI diturunkan menyusul kritik atas tuduhan rasisme.
Masalah penggunaan oleh remaja juga bukan hal sepele. Lebih dari separuh remaja 13-17 tahun yang disurvei Common Sense Media tahun lalu mengaku menggunakan pendamping AI lebih dari sekali sebulan. Untuk sekarang, mereka harus melakukannya di tempat selain Meta.
SEE ALSO:
OpenAI luncurkan prediksi usia untuk keselamatan remaja
Topik:
Kecerdasan Buatan
Meta