Fitur AI Overviews dari TikTok, yang masih dalam tahap uji coba, sebenarnya dirancang untuk menghasilkan ringkasan teks di bawah setiap unggahan video. Namun, karena banyaknya kesalahan fatal dalam deskripsi buatan AI tersebut—termasuk satu kasus di mana seorang kreator konten terkenal dideskripsikan sebagai bluberry— TikTok akhirnya memutuskan untuk membatasi cakupan uji cobanya. Seorang juru bicara TikTok mengatakan kepada Business Insider bahwa fitur yang diperbarui ini nantinya hanya akan mengidentifikasi produk yang tampil dalam video, dan tidak lagi menyajikan ringkasan-ringkasan aneh yang kadang muncul.
Perwakilan TikTok tidak segera menanggapi permintaan komentar.
Fitur AI Overviews ini sebenarnya mirip dengan rangkuman AI yang digunakan Google dalam algoritma pencariannya. Fungsinya adalah untuk menjelaskan isi video dan memberikan konteks tambahan. Namun, tingkat akurasinya masih inconsistent, hanya berhasil di beberapa kesempatan saja.
Seorang wartawan dari Business Insider menceritakan pengalaman langsungnya menggunakan fitur AI Overviews, dengan menyebutkan sejumlah deskripsi yang keliru. Misalnya, fitur tersebut menggambarkan video personality TikTok, Charli D’Amelio, yang sedang berbicara ke kamera sebagai "sekumpulan bluberry dengan berbagai topping." Di kesempatan lain, video penyanyi Shakira disebut sebagai "rangkaian berulang dari beberapa bentuk berwarna biru yang muncul dan bergerak melintasi layar."
Banyak pengguna TikTok di Reddit yang merasa kecewa dengan fitur ini. Salah satu postingan menampilkan tangkapan layar video berisi dua penari ballroom, namun keterangan AI malah mengidentifikasinya sebagai "seseorang yang memukul kepalanya sendiri berulang kali dengan boneka ayam karet."
Ringkasan buatan AI sebenarnya sudah berkembang pesat sejak pertama kali muncul di internet. Beberapa tahun lalu, Google juga menghadapi masalah akurasi serupa, ketika algoritmanya menyarankan untuk memakan satu batu sehari atau menggunakan lem agar keju tetap menempel di pizza.
Meski begitu, TikTok tidak mundur dari pengembangan AI. Perusahaan ini baru saja meluncurkan alat yang bisa mengubah gambar menjadi video, dan fitur lain yang memungkinkan pengguna mengontrol seberapa banyak konten AI yang muncul di halaman For You mereka. TikTok juga telah merilis alat moderasi untuk mengatasi masalah keamanan yang muncul seiring penerapan AI di platformnya.