Meta, Snap, dan TikTok bermitra untuk menghentikan penyebaran konten bunuh diri dan melukai diri.

Meta, Snap, dan TikTok telah mendirikan program baru yang disebut Thrive untuk membantu menghentikan penyebaran konten grafis yang menggambarkan atau mendorong tindakan menyakiti diri dan bunuh diri. Thrive memungkinkan perusahaan yang berpartisipasi untuk berbagi “sinyal” untuk memberi tahu satu sama lain tentang konten yang melanggar di platform mereka.

Thrive dibangun bersama Koalisi Kesehatan Mental, sebuah organisasi amal yang mengatakan bahwa mereka bekerja untuk menghilangkan stigma dalam diskusi kesehatan mental. Meta mengatakan bahwa mereka menyediakan infrastruktur teknis di balik Thrive yang memungkinkan “sinyal untuk dibagikan secara aman.” Mereka menggunakan teknologi berbagi sinyal lintas platform yang sama yang digunakan dalam program Lantern, yang dirancang untuk membantu memerangi penyalahgunaan anak secara online. Perusahaan yang berpartisipasi dapat berbagi hash yang sesuai dengan konten yang melanggar untuk memberi tahu satu sama lain.

Meta mengatakan bahwa mereka sudah membuat konten seperti itu lebih sulit untuk ditemukan di platform mereka tetapi bahwa mereka mencoba meninggalkan ruang bagi orang untuk membahas kesehatan mental, bunuh diri, dan cerita menyakiti diri mereka, selama itu tidak mempromosikannya atau memberikan deskripsi grafis.

Menurut grafik Meta, perusahaan mengambil tindakan terhadap jutaan konten bunuh diri dan menyakiti diri setiap kuartal. Kuartal lalu, mereka mengembalikan sekitar 25.000 postingan tersebut, sebagian besar setelah pengguna mengajukan banding.