Karyawan Snap sudah sangat menyadari masalah keamanan anak di aplikasi tersebut, keluhan yang baru dibuka mengatakan.

Pada November 2022, karyawan Snap sedang mendiskusikan 10.000 laporan pengguna terkait sextortion setiap bulan, sambil mengakui bahwa laporan-laporan ini ‘mungkin mewakili sebagian kecil dari penyalahgunaan ini’ mengingat rasa malu dan hambatan lainnya untuk melaporkan,” kata versi yang baru diungkapkan dari gugatan yang diajukan oleh jaksa agung New Mexico terhadap Snap. Versi yang kurang diberikan dari pengajuan yang pertama kali kami lihat sebulan yang lalu menambahkan detail baru tentang apa yang diduga diketahui oleh karyawan Snap tentang cakupan masalah sextortion yang dituduhkan dilakukan di platformnya.

Dalam satu kasus yang diduga, karyawan merujuk pada kasus dengan 75 laporan terhadapnya “yang menyebutkan gambar telanjang, anak di bawah umur, dan pemerasan, namun akunnya masih aktif.” Dan pada tahun 2022, penelitian internal Snap diduga menemukan bahwa lebih dari sepertiga remaja perempuan dan 30 persen remaja laki-laki di aplikasinya telah terkena “kontak yang tidak diinginkan di platformnya.” keluhan tersebut mengatakan.

Detail-detail baru tersebut menunjukkan gambaran perusahaan yang menyadari kekurangannya yang diduga ketika datang untuk melindungi anak-anak di layanannya, namun tidak cukup fokus untuk memperbaikinya. “Mantan karyawan kepercayaan dan keselamatan Snap mengeluh bahwa ‘mereka memiliki sedikit kontak dengan manajemen puncak, dibandingkan dengan pekerjaan mereka di perusahaan media sosial lainnya, dan bahwa ada perlawanan dalam mencoba menambahkan mekanisme keamanan di aplikasi karena [CEO Snap] Evan Spiegel lebih memprioritaskan desain,'” keluhan tersebut mengatakan.

Dalam sebuah pernyataan yang diposting di ruang berita mereka, Snap mengatakan aplikasinya dirancang “sebagai tempat untuk berkomunikasi dengan lingkaran teman dekat, dengan pelindung keamanan bawaan, dan telah membuat pilihan desain yang disengaja untuk membuat sulit bagi orang asing untuk menemukan anak-anak di layanan kami. Kami terus mengembangkan mekanisme keamanan dan kebijakan kami, mulai dari memanfaatkan teknologi canggih untuk mendeteksi dan memblokir aktivitas tertentu, hingga melarang pertemanan dari akun yang mencurigakan, hingga bekerja sama dengan penegak hukum dan lembaga pemerintah, dan banyak lagi.”

Menurut keluhan tersebut, karyawan Snap menyebarkan laporan eksternal pada tahun 2021 yang mencakup contoh-contoh predator yang diduga terhubung dengan anak-anak sebanyak delapan tahun melalui Snapchat dan memperoleh materi pelecehan seksual anak. Namun, mereka khawatir langkah-langkah untuk menangkap jenis perilaku ini akan terlalu membebani privasi pengguna dan “membuat biaya administrasi yang tidak proporsional,” keluhan tersebut menuduh.

Karyawan juga diduga mengidentifikasi risiko dengan fitur-fitur Snapchat tertentu, seperti Quick Add, yang menyarankan pengguna lain untuk terhubung. “Kita perlu menemukan pendekatan baru yang melindungi pengguna yang paling rentan kita (anak di bawah umur) dan membuatnya sulit bagi pengguna predator untuk menemukan mereka melalui quick add, pencarian, dll.,” seorang eksekutif menulis, menurut keluhan tersebut. “Kami percaya kita bisa mencapainya tanpa secara signifikan merusak pengalaman produk untuk pengguna ini jika kita mengejar strategi baru dalam pembangkitan / pembatasan inventaris dan teknik lain untuk lebih efektif memisahkan anak di bawah umur dari orang di luar jaringan mereka.” Snap kemudian membuat fitur Quick Add hanya akan muncul untuk akun 13 hingga 17 tahun ketika mereka memiliki “sejumlah teman yang sama dengan orang tersebut.” Namun secara internal, keluhan tersebut mengatakan, karyawan menyadari bahwa pendekatan tersebut masih akan memiliki kekurangan yang signifikan.

Keluhan yang tidak diungkapkan juga mencakup lebih banyak detail tentang bagaimana Snap diduga memfasilitasi penjualan ilegal senjata. Dalam satu presentasi tanpa tanggal, perusahaan mengakui bahwa platformnya melihat “50 posting terkait penjualan senjata ilegal per hari dan 9.000 tampilan per hari dari senjata yang dipasarkan ini.” Dan bahkan ketika konten dilaporkan, “[k]onten yang dilaporkan biasanya dilihat ratusan kali sebelum dilaporkan.”

Streaks membuatnya tidak mungkin untuk melepaskan diri bahkan untuk sehari saja. Ini juga mencakup komunikasi internal yang mengakui ketagihan Snapstreaks, di mana pengguna diberitahu berapa hari mereka terus berkomunikasi dengan pengguna lain. “Wow, kita seharusnya memiliki fitur yang lebih membuat ketagihan seperti ini,” seorang karyawan diduga menulis, menurut email Januari 2017. “Sebagian besar streakers adalah demografi inti kita,” tulis yang lain. Presentasi Oktober 2019 diduga mencatat bahwa “Streaks membuatnya tidak mungkin untuk melepaskan diri bahkan untuk sehari saja.”