Meta sedang menguji alat dan fitur baru untuk melindungi anak muda dari konten telanjang dan penipuan sextortion yang tidak diinginkan, termasuk Perlindungan Telanjang dalam DM, fitur yang secara otomatis memburamkan gambar telanjang.
Bagian dari tindakan tegas ini dilakukan karena Meta mengatakan bahwa mereka melihat adanya tren sextortion finansial, di mana seseorang mendapatkan foto telanjang dari orang lain dan mengancam akan mempostingnya online kecuali korban mengirim uang atau kartu hadiah.
“Ini adalah kejahatan yang sangat mengerikan yang memanfaatkan perasaan kesepian dan malu orang,” kata Antigone Davis, direktur keamanan global Meta, kepada CNN. “Telah terdokumentasikan dengan baik bahwa kejahatan ini semakin meningkat, dan inilah salah satu alasan mengapa kami ingin mengambil langkah proaktif dan memastikan orang menyadari apa yang kami lakukan saat kami terus mengembangkan alat kami.”
Perlindungan Telanjang dalam DM akan menjadi default bagi orang di bawah usia 18 tahun dan akan didorong untuk semua pengguna. Ketika pengguna yang memiliki perlindungan diaktifkan mencoba mengirim foto yang mengandung telanjang, mereka akan diingatkan untuk berhati-hati dan dapat menghapusnya kapan saja. Jika seorang pengguna mencoba meneruskan gambar telanjang, mereka akan didorong untuk mempertimbangkan kembali dan menjadi “bertanggung jawab dan menghormati.” Dan, akhirnya, ketika seorang pengguna menerima gambar yang mengandung telanjang, gambar tersebut akan otomatis diburamkan, dan mereka akan didorong untuk tidak merasa tertekan untuk merespons dengan cara yang sama. Orang juga akan diarahkan ke tips keamanan saat mengirim atau menerima gambar telanjang.
“Fitur ini dirancang tidak hanya untuk melindungi orang dari melihat telanjang yang tidak diinginkan dalam DM mereka tetapi juga melindungi mereka dari penipu yang mungkin mengirimkan gambar telanjang untuk mengecoh orang agar mengirimkan gambar mereka sendiri sebagai balasan,” kata Meta dalam sebuah pos blog.
Meta dapat melihat apakah sebuah gambar mengandung telanjang karena pembelajaran mesin di perangkat, yang mencakup perlindungan enkripsi ujung ke ujung. Jadi, kecuali seseorang memilih melaporkan sebuah gambar dalam DM, Meta mengatakan bahwa mereka tidak akan mengaksesnya.
Meta juga menambahkan upaya mereka untuk menghentikan sextortion di aplikasinya dengan mengembangkan teknologi untuk mengidentifikasi akun yang terlibat dalam sextortion sebagai langkah pencegahan. Jika sebuah akun ditandai sebagai akun sextortion potensial, pesan yang dikirim oleh akun tersebut akan langsung masuk ke folder permintaan tersembunyi penerima. Dan tidak akan ada tombol “Pesan” di profil seorang remaja jika sebuah akun ditandai sebagai akun sextortion potensial, bahkan jika mereka sudah terhubung dengan remaja tersebut. Selain itu, jika seseorang berinteraksi dengan akun yang telah dihapus karena sextortion, mereka akan melihat pesan pop-up yang mengarahkan mereka ke sumber daya lebih lanjut. Akhirnya, ketika remaja melaporkan masalah yang relevan, mereka akan diarahkan ke jalur bantuan keamanan anak lokal.
“Kerjasama industri ini sangat penting karena predator tidak membatasi diri hanya pada satu platform – dan hal yang sama berlaku untuk penipu sextortion,” kata Meta. “Para penjahat ini menargetkan korban di berbagai aplikasi yang mereka gunakan, sering kali memindahkan percakapan mereka dari satu aplikasi ke aplikasi lain. Itulah mengapa kami mulai berbagi sinyal khusus sextortion lebih banyak ke Lantern, untuk memperkuat kerjasama penting ini dan mencoba menghentikan penipuan sextortion tidak hanya di platform individu, tetapi di seluruh internet.”