Ketika jawaban aneh dan menyesatkan terhadap pertanyaan pencarian yang dihasilkan oleh fitur AI Overview baru dari Google menjadi viral di media sosial minggu lalu, perusahaan tersebut mengeluarkan pernyataan yang umumnya meremehkan gagasan bahwa teknologi tersebut memiliki masalah. Kamis malam, kepala pencarian perusahaan Liz Reid mengakui kesalahan tersebut telah menyoroti area yang memerlukan perbaikan, menulis bahwa “kami ingin menjelaskan apa yang terjadi dan langkah-langkah yang telah kami ambil.” Postingan Reid langsung merujuk dua hasil AI Overview yang paling viral, dan sangat salah. Satu melihat algoritma Google mendukung makan batu karena melakukannya “dapat baik untuk Anda,” dan yang lainnya menyarankan menggunakan lem non-toksik untuk mengentalkan saus pizza. Makan batu bukanlah topik yang banyak orang pernah menulis atau bertanya tentang online, jadi tidak banyak sumber yang bisa digunakan oleh mesin pencari. Menurut Reid, alat AI menemukan artikel dari The Onion, sebuah situs web satir, yang telah diposting ulang oleh perusahaan perangkat lunak, dan salah menafsirkan informasi tersebut sebagai fakta. Mengenai Google memberitahu pengguna untuk meletakkan lem di atas pizza, Reid secara efektif mengatributkan kesalahan tersebut pada kegagalan humor. “Kami melihat AI Overviews yang menampilkan konten sarkastik atau troll-y dari forum diskusi,” tulisnya. “Forum seringkali merupakan sumber informasi otentik dan langsung, tetapi dalam beberapa kasus dapat mengarah pada saran yang kurang membantu, seperti menggunakan lem untuk membuat keju menempel pada pizza.” Mungkin lebih baik tidak membuat menu makan malam yang dihasilkan oleh AI tanpa membacanya dengan cermat terlebih dahulu. Reid juga menyarankan bahwa menilai kualitas pencarian baru Google berdasarkan tangkapan layar viral akan tidak adil. Dia mengklaim perusahaan melakukan pengujian yang ekstensif sebelum peluncuran dan bahwa data perusahaan menunjukkan bahwa orang menghargai AI Overviews, termasuk dengan menunjukkan bahwa orang lebih cenderung tinggal di halaman yang ditemukan dengan cara tersebut. Mengapa kegagalan memalukan? Reid menggambarkan kesalahan yang menarik perhatian sebagai hasil dari audit internet yang tidak selalu dimaksudkan dengan baik. “Tidak ada yang seperti memiliki jutaan orang menggunakan fitur dengan banyak pencarian baru. Kami juga melihat pencarian baru yang tidak masuk akal, tampaknya bertujuan untuk menghasilkan hasil yang salah.” Google mengklaim beberapa tangkapan layar AI Overviews yang sangat tersebar salah adalah palsu, yang tampaknya benar berdasarkan pengujian WIRED sendiri. Misalnya, seorang pengguna di X memposting tangkapan layar yang tampaknya AI Overview merespons pertanyaan “Apakah kecoa bisa hidup di penis Anda?” dengan konfirmasi antusias dari mesin pencari bahwa ini normal. Postingan itu telah dilihat lebih dari lima juta kali. Namun, setelah inspeksi lebih lanjut, format tangkapan layar tersebut tidak sejalan dengan bagaimana AI Overviews sebenarnya disajikan kepada pengguna. WIRED tidak dapat membuat kembali hasil yang mendekati itu. Dan bukan hanya pengguna di media sosial yang tertipu oleh tangkapan layar menyesatkan dari fake AI Overviews. The New York Times mengeluarkan koreksi terhadap laporannya tentang fitur tersebut dan menjelaskan bahwa AI Overviews tidak pernah menyarankan pengguna untuk melompat dari Jembatan Golden Gate jika mereka mengalami depresi—itu hanya meme gelap di media sosial. “Orang lain telah mengisyaratkan bahwa kami mengembalikan hasil berbahaya untuk topik seperti meninggalkan anjing di dalam mobil, merokok saat hamil, dan depresi,” tulis Reid pada hari Kamis. “AI Overviews tersebut tidak pernah muncul.” Namun postingan Reid juga menunjukkan bahwa tidak semuanya benar dengan bentuk asli upgrade pencarian besar Google. Perusahaan melakukan “lebih dari selusin perbaikan teknis” pada AI Overviews, tulisnya. Hanya empat yang dijelaskan: deteksi yang lebih baik terhadap “pencarian yang tidak masuk akal” yang tidak layak untuk AI Overview; membuat fitur tersebut bergantung kurang pada konten yang dihasilkan pengguna dari situs seperti Reddit; menawarkan AI Overviews lebih jarang dalam situasi di mana pengguna tidak menemukannya membantu; dan memperkuat pagar yang menonaktifkan ringkasan AI pada topik penting seperti kesehatan. Tidak ada yang disebutkan dalam posting blog Reid tentang secara signifikan menarik kembali ringkasan AI. Google mengatakan akan terus memantau umpan balik dari pengguna dan menyesuaikan fitur-fitur tersebut sesuai kebutuhan.
