Video game masa kini kerap melibatkan fitur obrolan, dan ketika pengguna diberi kesempatan untuk mengobrol, tidak selalu percakapan mereka akan terjaga kesopanannya. Platform pembuatan game online populer, Roblox, bersama banyak game lainnya, telah bertahun-tahun menggunakan sistem substitusi sederhana untuk menyensor obrolan. Biasanya, game hanya akan menghapus kata yang bermasalah dan menggantinya dengan serangkaian tanda pagar. Kini, Roblox memanfaatkan Kecerdasan Buatan (AI) untuk menyusun ulang frasa yang tidak pantas, alih-alih sekadar memblokir huruf-hurufnya.
“Penggunaan filter AI untuk memblokir teks bermasalah (yang terlihat oleh pengguna sebagai #####) selalu menjadi inti dari pendekatan kami untuk keamanan dan peningkatan kesopanan,” ujar Rajiv Bhatia, Wakil Presiden Produk Pengguna dan Penemuan di Roblox, dalam sebuah postingan blog. “Hari ini, kami menambahkan fitur tambahan untuk menjaga obrolan teks dalam pengalaman tetap sopan: Kami memanfaatkan AI untuk secara otomatis menyusun ulang pesan, dimulai dari kata-kata kasar.”
Ketika seorang pemain menggunakan kata bermasalah dalam obrolan, AI akan menulis ulang pesan tersebut untuk menghilangkannya sebelum diposting ke chat, sehingga menghilangkan tanda pagar. Jadi, “oh sial, kamu baik-baik saja?” berubah menjadi, “kamu baik-baik saja?” Dan “cepatlah, b*******” menjadi “cepatlah.” (Ya, meski yang terakhir tidak mengejanya, Roblox tahu apa maksud huruf ‘F’ itu.)
Semua orang dalam obrolan akan melihat bahwa AI telah menyusun ulang pesan, tetapi hanya pengirim yang akan menerima peringatan tentang penggunaan bahasa yang tidak pantas.
Perubahan ini datang hanya dua bulan setelah Roblox memperkenalkan verifikasi wajah, yang mengelompokkan pengguna berdasarkan usia untuk membatasi kontak antara anak-anak dan dewasa. Namun, ini tidak menghentikan tindakan hukum. Nebraska mengajukan gugatan pada Rabu yang menyasar dugaan kegagalan keamanan anak di Roblox, bergabung dengan Texas, Florida, Louisiana, Kentucky, dan beberapa kota lainnya.
Pengguna yang mengirimkan kata-kata kasar akan diberitahu bahwa kalimat mereka telah ditulis ulang oleh AI dan diperingatkan untuk mematuhi aturan.
Bahasa yang Terus Berkembang
Orang-orang terus menciptakan slang baru, dan banyak di antaranya dapat dianggap kasar atau berbahaya. Perusahaan menyatakan bahwa AI sedang dilatih pada “seperangkat model (AI) khusus” berdasarkan model yang lebih besar dan sampel obrolan dalam game untuk membantu memblokir istilah kekinian. Slang baru ditangani ketika sistem AI tidak dapat memutuskan apakah sebuah kata atau frasa baru benar-benar buruk, lalu mengirimkannya ke model AI yang lebih besar dan terlatih, yang kemudian dapat menyimpulkan maknanya dari konteks.
Pemain yang berulang kali berusaha mengakali sistem baru atau terus menggunakan kata-kata terlarang tetap akan dikenai sanksi sesuai aturan Standar Komunitas game seperti biasa.
Sistem baru ini mungkin masih menghasilkan kesalahan deteksi dan memerlukan waktu untuk mempelajari slang baru, namun Roblox optimis sistem akan berfungsi dengan benar sebagian besar waktu.
“Eksperimen kami menunjukkan bahwa pendekatan gabungan ini telah meningkatkan filter kami secara signifikan,” kata Bhatia. “Filter kini dapat lebih baik mendeteksi ‘leet-speak’, atau penggantian huruf dengan angka atau simbol, serta upaya yang lebih canggih untuk melewati filter kami.”