Discord menghadapi gugatan baru dari negara bagian New Jersey, yang mengklaim bahwa aplikasi obrolan tersebut terlibat dalam “praktik bisnis yang menipu dan tidak bermoral” yang menempatkan pengguna muda dalam bahaya. Gugatan, yang diajukan pada hari Kamis, datang setelah penyelidikan multi-tahun oleh Kantor Jaksa Agung New Jersey. Kantor AG mengklaim telah menemukan bukti bahwa, meskipun kebijakan Discord untuk melindungi anak-anak dan remaja, aplikasi pesan populer ini mempertaruhkan pemuda “dalam risiko.” “Kami adalah negara bagian pertama di negara ini yang menggugat Discord,” kata Jaksa Agung Matthew Platkin kepada WIRED. Platkin mengatakan ada dua pendorong bagi penyelidikan itu. Salah satunya adalah personal: Beberapa tahun yang lalu, seorang teman keluarga datang kepada Platkin, terkejut bahwa putranya yang berusia 10 tahun dapat mendaftar ke Discord, meskipun platform melarang anak di bawah 13 tahun untuk mendaftar. Yang kedua adalah penembakan massal di Buffalo, di New York tetangga. Pelaku menggunakan Discord sebagai hariannya pribadi menjelang serangan dan menyiarkan langsung ke aplikasi obrolan dan video. (Rekaman tersebut segera dihapus.) “Perusahaan-perusahaan ini secara konsisten, dengan sengaja, menempatkan keuntungan di depan kepentingan dan kesejahteraan anak-anak kita,” kata Platkin. Kantor AG mengklaim dalam gugatan tersebut bahwa Discord melanggar Undang-Undang Penipuan Konsumen negara bagian. Tuduhan-tuduhan itu, yang diajukan pada hari Kamis pagi, bergantung pada serangkaian kebijakan yang diadopsi oleh Discord untuk menjaga anak-anak di bawah 13 tahun dari platform dan menjaga remaja dari eksploitasi seksual dan konten kekerasan. Gugatan ini hanyalah yang terbaru dalam daftar yang semakin panjang dari tuntutan hukum dari negara-negara bagian terhadap perusahaan media sosial besar – tuntutan hukum yang, sejauh ini, terbukti cukup tidak efektif. Kebijakan keamanan anak dan remaja Discord jelas: Anak di bawah 13 tahun dilarang menggunakan aplikasi pesan, sementara secara umum melarang interaksi seksual dengan anak di bawah umur, termasuk “self-endangerment” remaja. Lebih lanjut, ia memiliki filter algoritmik yang beroperasi untuk menghentikan pesan langsung seksual yang tidak diinginkan. Kebijakan keamanan perusahaan yang berbasis di California, yang diterbitkan pada tahun 2023, menyatakan, “Kami membangun Discord agar berbeda dan bekerja tanpa henti untuk menjadikannya ruang yang menyenangkan dan aman bagi remaja.” Tetapi New Jersey mengatakan “janji Discord gagal, dan terus gagal.” Jaksa Agung menunjukkan bahwa Discord memiliki tiga tingkat keamanan untuk mencegah pemuda dari pesan yang tidak diinginkan dan eksploitatif dari orang dewasa: “Jaga saya aman,” di mana platform memindai semua pesan ke kotak masuk pengguna; “teman saya baik,” di mana ia tidak memindai pesan dari teman; dan “jangan memindai,” di mana ia tidak memindai pesan sama sekali. Bahkan untuk pengguna remaja, gugatan tersebut mengklaim, platformnya beralih ke “teman saya baik” secara default. Jaksa Agung mengklaim bahwa ini adalah desain yang disengaja yang merupakan ancaman bagi pengguna muda. Gugatan juga mengklaim bahwa Discord gagal dengan tidak melakukan verifikasi usia untuk mencegah anak di bawah 13 tahun mendaftar untuk layanan tersebut. Pada tahun 2023, Discord menambahkan filter baru untuk mendeteksi dan memblokir konten seksual yang tidak diinginkan, tetapi kantor AG mengatakan perusahaan seharusnya mengaktifkan opsi “jaga saya aman” secara default.