TikTok sedang berperang di beberapa front. Tidak hanya terkunci dalam pertempuran untuk hidupnya dengan pemerintah federal saat menunggu hari di Mahkamah Agung minggu depan, tetapi juga memiliki Jaksa Agung Utah menghembuskan napasnya di lehernya. Bloomberg memperoleh versi yang digarisbawahi dari gugatan yang diajukan oleh jaksa utama negara bagian itu yang menuduh TikTok mengetahui bahwa fitur Siaran Langsungnya adalah sarang untuk semua jenis konten yang melanggar hukum dan perilaku berbahaya, termasuk grooming anak-anak.
Gugatan itu mengungkapkan dua penyelidikan internal yang diluncurkan oleh TikTok ke aktivitas di platform Siarannya Langsung. Yang pertama, Proyek Meramec, menemukan bahwa ada pengguna di bawah umur yang melakukan tindakan yang diseksualisasikan dalam siaran langsung, dilakukan sebagai pertukaran hadiah virtual yang diberikan kepada mereka oleh penonton.
Pada saat penyelidikan itu dilakukan, kebijakan TikTok melarang pengguna yang berusia 16 tahun atau lebih muda untuk menyiarkan secara Langsung, dan mencegah pengguna di bawah usia 18 tahun untuk mengirim atau menerima hadiah virtual yang dapat ditukarkan dengan uang. Namun, penegakan itu kurang: tinjauan internal perusahaan menemukan bahwa 112.000 pengguna di bawah umur menjadi tuan rumah siaran langsung selama satu bulan pada tahun 2022. Selain itu, perusahaan menemukan bahwa algoritmanya meningkatkan konten yang diseksualisasikan, jadi para streamer di bawah umur itu kemungkinan direkomendasikan kepada penonton. Tidak ada alasan nyata untuk bertanya mengapa itu terjadi: TikTok mendapatkan bagiannya dari setiap hadiah virtual yang dibeli. Pengguna yang mendapatkan lebih banyak hadiah juga menghasilkan lebih banyak pendapatan bagi TikTok.
Penyelidikan internal kedua, yang disebut Proyek Jupiter, menyelidiki operasi pencucian uang yang dilakukan menggunakan layanan siaran langsung TikTok. Penyelidikan itu menemukan bahwa beberapa operasi kriminal menggunakan TikTok Live untuk memindahkan uang, sementara yang lain menjual narkoba dan layanan ilegal sebagai pertukaran hadiah virtual. Komunikasi internal antara karyawan TikTok menunjukkan percakapan tentang bagaimana Live mungkin telah digunakan untuk mendanai organisasi teroris seperti Negara Islam.
Penyelidikan TikTok terhadap pengguna di bawah umur mengikuti penyelidikan yang diterbitkan oleh Forbes yang menemukan banyak contoh pengguna pria yang lebih tua merayu wanita muda untuk melakukan tindakan seksual di TikTok Live sebagai pertukaran hadiah. Leah Plunkett, dekan asisten di Harvard Law School, mengatakan kepada Forbes bahwa itu “setara digital dengan pergi ke klub tari telanjang yang dipenuhi oleh anak-anak berusia 15 tahun.”
Ini jauh dari kali pertama kurangnya moderasi TikTok, terutama dalam konten yang melibatkan anak-anak, membuat perusahaan masuk dalam masalah. Pada tahun 2022, Departemen Keamanan Dalam Negeri AS meluncurkan penyelidikan terhadap penanganan materi pelecehan seksual anak oleh TikTok. Awal tahun ini, Komisi Perdagangan Federal dan Departemen Kehakiman menuntut perusahaan karena pelanggaran Undang-Undang Perlindungan Privasi Online Anak, dengan tuduhan bahwa perusahaan dengan sengaja membiarkan pengguna di bawah umur membuat akun dan berinteraksi dengan orang dewasa di platform tersebut.
TikTok bukan satu-satunya platform sosial dengan masalah predator anak. Tahun lalu, Wall Street Journal melaporkan bahwa Meta mengalami kesulitan menghapus pedofil dari Facebook dan Instagram dan bahwa algoritmanya secara aktif mempromosikan dan membimbing pengguna ke konten eksploitasi anak. Twitter, di bawah bimbingan Elon Musk, memotong tim moderasi yang bertanggung jawab atas pemantauan penyalahgunaan seksual anak dan melihat jaringan pedagang pornografi anak muncul di platform sambil secara aktif membuka kembali pengguna yang diusir karena memposting konten eksploitasi anak.
Mungkin tidak ada platform yang bagus, sebenarnya.