Pada bulan Mei, TikTok mengumumkan bahwa akan secara otomatis memberi label konten yang dihasilkan oleh AI di platformnya. Namun, hal itu tidak berlaku untuk semua versi aplikasi. Sebuah laporan terbaru dari Yayasan Mozilla dan AI Forensics menemukan bahwa versi TikTok Lite-Save Data, yang ditujukan untuk pengguna di pasar yang lebih miskin, tidak hanya meninggalkan konten yang dihasilkan oleh AI tanpa label, tetapi juga tidak memiliki perlindungan lain yang serupa.
“Memberi label adalah taktik yang sangat penting yang digunakan platform untuk memberikan kepercayaan dan keamanan,” kata Odanga Madung, seorang rekan Mozilla dan salah satu penulis laporan tersebut.
Pengguna versi penuh TikTok, misalnya, akan melihat label yang menunjukkan bahwa konten bersifat grafis atau menampilkan perilaku berbahaya. Beberapa konten tentang topik seperti pemilu dan kesehatan, juga termasuk pemberitahuan yang mendorong pengguna untuk mengakses informasi yang kredibel melalui “pusat sumber daya” di aplikasi tersebut.
Pada TikTok Lite, tidak ada satupun dari perlindungan ini yang ada. Di antara hal lain, ini berarti bahwa dengan konten yang dihasilkan oleh AI yang menyesatkan menjadi masalah dalam pemilu di seluruh dunia, pengguna di pasar yang lebih miskin diberikan informasi yang lebih sedikit tentang apa yang palsu dan apa yang nyata daripada pengguna di pasar yang lebih kaya.
Madung mempertanyakan mengapa, dari semua fitur yang bisa dipotong untuk mengoptimalkan aplikasi, perusahaan memasukkan yang membuat platform lebih aman bagi pengguna. “Kita tidak tahu apakah ini merupakan pilihan atau hanya kelalaian,” katanya.
“Ada beberapa ketidakakuratan fakta dalam laporan ini yang secara mendasar salah menggambarkan pendekatan kami terhadap keamanan,” kata juru bicara TikTok dalam sebuah pernyataan. “Faktanya, konten yang melanggar aturan kami dihapus dari TikTok Lite dengan cara yang sama seperti aplikasi utama kami dan kami menawarkan berbagai fitur keamanan.” Perusahaan menolak untuk menunjukkan ketidakakuratan spesifik.
Versi Lite dari aplikasi telah lama menjadi cara bagi perusahaan untuk meningkatkan pangsa pasar di daerah di mana pengguna dikenakan biaya data tinggi atau hanya mampu membeli ponsel yang kurang canggih. Pada tahun 2015, Meta, yang saat itu Facebook, meluncurkan Facebook Lite, versi disederhanakan dari aplikasinya yang lebih kompatibel dengan jaringan data 2G. Pada tahun yang sama, perusahaan juga meluncurkan Free Basics, yang memungkinkan pengguna di Global Selatan mengakses platform dan situs web tertentu lainnya tanpa dikenakan biaya penggunaan data. (Sebuah aplikasi atau layanan yang memenuhi kriteria ini disebut “zero-rated.”) Pada saat itu, proyek tersebut menghadapi kritik luas, terutama di India, karena menciptakan pengalaman tingkat kedua bagi pelanggan yang lebih miskin.
TikTok meluncurkan versi Lite-nya pada tahun 2018 di Thailand, dan dengan cepat melakukan ekspansi ke pasar lain di Asia Tenggara, termasuk Indonesia, Malaysia, dan Filipina. Aplikasi ini, yang berbeda dari versi penuh TikTok dapat berjalan di jaringan 2G dan 3G, kini telah diunduh lebih dari 1 miliar kali, menurut data dari Google Play Store. (TikTok Lite hanya tersedia untuk ponsel Android.)
“Mayoritas pengguna di Global Selatan adalah orang dengan pendapatan rendah dan terbatas sumber daya,” kata Payal Arora, profesor budaya AI inklusif di Universitas Utrecht. Versi Lite dari aplikasi membantu perusahaan mendapatkan orang-orang ini, sesuatu yang katanya lebih kritis daripada yang pernah terjadi di masa lalu karena “data adalah mata uang di pasar yang didorong AI ini dan lapar AI.”