Perjalanan saya di TikTok Shop bermula dari pencarian “perhiasan hip hop.” Ini adalah kueri pencarian biasa yang mungkin telah diketik banyak pengguna, berharap menemukan sesuatu untuk dipakai. Saat menjelajahi perhiasan murah, saya terkejut dengan apa yang secara berulang disarankan algoritma TikTok sebagai hal yang mungkin juga saya minati: perhiasan dengan simbolisme Nazi yang terang-terangan.
TikTok terus bergulat dengan moderasi seiring toko ecommerce dalam aplikasinya mendapatkan daya tarik di kalangan pengguna muda. Tahun lalu, platform media sosial tersebut menghapus sejumlah produk antisemit dari tokonya. Baru-baru ini, banyak pengguna yang menggulir video di halaman ‘For You’ mereka mengungkapkan kemarahan ketika sebuah kalung dengan lambang swastika, dengan nama “hiphop titanium steel pendant,” dipromosikan kepada mereka akhir Desember lalu sebagai produk obral di TikTok Shop seharga $8.
Platform itu akhirnya menghapus produk tersebut setelah beberapa pengguna yang mengklaim menemukan item yang disarankan di feed mereka, membagikan tangkapan layar dalam postingan media sosial yang viral.
Meskipun TikTok telah menghapus kalung itu, investigasi saya ke dalam TikTok Shop mengungkap jejaring algoritmik saran pencarian produk sayap kanan jauh yang mendorong saya ke arah istilah-istilah terkait nasionalis kulit putih dan Nazi. Di tab belanja khusus di TikTok, saya mencari produk untuk dibeli dan mengikuti rekomendasi algoritma kepada saya di kotak “Yang dicari orang lain”. Kotak rekomendasi ini terkadang muncul di aplikasi seluler TikTok sebagai satu set empat saran pencarian terkait, masing-masing dengan gambar, saat pengguna mencari produk dan menggulir apa yang tersedia di TikTok Shop.
ScreenshotFoto: WIRED Staff
Juru bicara TikTok Glenn Kuper menegaskan bahwa jenis saran pencarian yang terlihat dalam pelaporan saya melanggar kebijakan perusahaan. Ia menyatakan TikTok saat ini berupaya menghapus saran algoritmik ini dari aplikasi, sebagai tanggapan atas daftar pertanyaan terperinci dari WIRED.
Kuper juga menyoroti laporan keamanan TikTok Shop, yang menyatakan bahwa platform ecommerce tersebut menghapus 700.000 penjual dan 200.000 produk yang dibatasi atau dilarang pada paruh pertama 2025.
Umat Buddha telah menggunakan simbol manji, yang seringkali terlihat identik dengan swastika, selama ribuan tahun sebelum Nazi. Meski begitu, kalung yang dipromosikan pada Desember itu mencakup detail yang mengisyaratkan bahwa potongan perhiasan itu banyak dilihat karena kemungkinan merupakan bagian dari upaya *trolling* oleh kalangan ekstremis, alih-alih kesalahpahaman budaya.
Joan Donovan, pendiri Critical Internet Studies Institute dan ko-penulis buku Meme Wars, menemui kalung viral tersebut secara langsung di feed-nya. Dalam konteks ini, Donovan mengatakan, deskripsi kalung itu mengisyaratkan “HH,” singkatan dari slogan “Heil Hitler” yang luas digunakan oleh Nazi. Baginya, yang membedakan kalung swastika tersebut adalah *dog-whistle* yang terselip dalam deskripsi produknya: “hiphop”.