Instagram telah mulai secara otomatis menghasilkan judul dan deskripsi untuk unggahan pengguna yang muncul dalam hasil Penelusuran Google — seringkali tanpa sepengetahuan pengguna dan, dalam beberapa kasus, dengan pembingkaian yang menyesatkan atau tidak akurat, menurut laporan dari 404 Media.
Masalah ini pertama kali muncul setelah penulis Jeff VanderMeer menyadari bahwa salah satu unggahan Instgram-nya tanpa keterangan — sebuah video sederhana kelinci memakan pisang — muncul di hasil penelusuran Google dengan judul bergaya clickbait yang bukan tulisannya. Unggahan lain, termasuk dari perpustakaan umum Massachusetts, serupa diberikan judul promosional yang tidak terkait dengan konten aslinya.
Google telah memasukkan lebih banyak konten media sosial dalam hasil penelusurannya selama bertahun-tahun. Mulai 10 Juli, Instagram membuat unggahan publik dari akun profesional dapat dicari di Google.
404 Media mengonfirmasi bahwa perilaku ini memengaruhi banyak pengguna. Dalam contoh lain, video seorang cosplayer muncul di hasil penelusuran dengan judul tentang menemukan lokasi cosplay di Seattle, meskipun pengguna tersebut tidak pernah menulis deskripsi serupa itu. Google memberi tahu 404 Media bahwa mereka tidak menghasilkan judul-judul ini dan justru menarik teks tersebut langsung dari Instagram.
Meta, dalam pernyataan kepada media tersebut, kemudian mengkonfirmasi bahwa Instagram baru-baru ini mulai menggunakan AI untuk menghasilkan judul bagi unggahan yang ditampilkan di mesin pencari, menyatakan bahwa fitur ini dimaksudkan untuk membantu orang lebih memahami konten, sambil mengakui bahwa judulnya tidak selalu akurat. Perusahaan mengarahkan pengguna ke halaman Pusat Bantuan yang menjelaskan cara menyatakan keluar dari pengindeksan mesin pencari.
Para ahli yang dikutip 404 Media menyatakan judul-judul tersebut tampaknya dihasilkan khusus untuk bot penelusur dan disematkan dalam tag judul halaman, yang berarti pengunjung biasa tidak melihatnya di Instagram itu sendiri. Pengguna dan kreator telah mengkritik praktik ini karena menghilangkan konteks dari unggahan mereka, menyalahrepresentasikan karya mereka, dan berkontribusi pada hasil penelusuran berkualitas rendah seperti spam.
Laporan ini memunculkan pertanyaan lebih luas tentang bagaimana metadata yang dihasilkan AI dapat mendistorsi konten daring dan memengaruhi reputasi para kreator.