Sebulan setelah algoritma-algoritmanya menyarankan orang untuk makan batu dan menempelkan lem di pizza, Google mengakui pada hari Kamis bahwa mereka perlu melakukan penyesuaian terhadap fitur pencarian AI generatif yang baru dan berani. Kejadian ini menyoroti risiko dari dorongan agresif Google untuk mengkomersialisasi AI generatif – dan juga batasan teknologi yang berbahaya dan mendasar itu. Fitur Google AI Overviews mengandalkan Gemini, model bahasa besar seperti yang ada di balik ChatGPT milik OpenAI, untuk menghasilkan jawaban tertulis untuk beberapa pertanyaan pencarian dengan merangkum informasi yang ditemukan online. Boom AI saat ini dibangun di sekitar kefasihan teks LLM yang mengesankan, tetapi perangkat lunak juga dapat menggunakan fasilitas tersebut untuk memberikan kilauan yang meyakinkan pada kebohongan atau kesalahan. Menggunakan teknologi ini untuk merangkum informasi online menjanjikan hasil pencarian yang lebih mudah dicerna, tetapi hal ini berbahaya ketika sumber online tersebut kontradiktif atau ketika orang dapat menggunakan informasi tersebut untuk membuat keputusan penting. “Anda dapat dengan cepat mendapatkan prototipe yang ringkas dengan LLM, tetapi sebenarnya membuatnya tidak memberi tahu Anda untuk makan batu membutuhkan banyak usaha,” kata Richard Socher, yang memberikan kontribusi penting pada AI untuk bahasa sebagai peneliti dan, pada akhir 2021, meluncurkan mesin pencari berbasis AI bernama You.com. Socher mengatakan bahwa mengendalikan LLM membutuhkan usaha yang considerable karena teknologi yang mendasarinya tidak memiliki pemahaman nyata tentang dunia dan karena web dipenuhi dengan informasi yang tidak dapat dipercaya. “Dalam beberapa kasus, lebih baik sebenarnya tidak hanya memberi Anda jawaban, atau menunjukkan kepada Anda beberapa pandangan yang berbeda,” katanya. Kepala pencarian Google Liz Reid mengatakan dalam pos blog perusahaan pada hari Kamis malam bahwa mereka melakukan pengujian yang ekstensif sebelum meluncurkan AI Overviews. Tetapi dia menambahkan bahwa kesalahan seperti contoh makan batu dan pizza lem – di mana algoritma Google menarik informasi dari sebuah artikel satir dan komentar Reddit yang jocoser – telah mendorong perubahan tambahan. Ini termasuk deteksi yang lebih baik dari “pertanyaan-pertanyaan yang tidak masuk akal,” kata Google, dan membuat sistem tersebut lebih sedikit bergantung pada konten yang dihasilkan pengguna. You.com secara rutin menghindari jenis kesalahan yang ditampilkan oleh AI Overviews Google, kata Socher, karena perusahaannya mengembangkan sekitar selusin trik untuk menjaga LLM agar tidak berperilaku buruk saat digunakan untuk pencarian. “Kami lebih akurat karena kami menyediakan banyak sumber daya untuk menjadi lebih akurat,” kata Socher. Di antara hal lain, You.com menggunakan indeks web yang dibangun khusus untuk membantu LLM menghindari informasi yang salah. Ini juga memilih dari beberapa LLM yang berbeda untuk menjawab pertanyaan tertentu, dan menggunakan mekanisme kutipan yang dapat menjelaskan ketika sumber-sumber tersebut bertentangan. Namun, membuat pencarian AI menjadi benar adalah hal yang sulit. WIRED menemukan pada hari Jumat bahwa You.com gagal menjawab pertanyaan yang telah diketahui membuat sistem AI lainnya bingung, menyatakan bahwa “berdasarkan informasi yang tersedia, tidak ada negara Afrika yang namanya dimulai dengan huruf ‘K.'” Dalam tes sebelumnya, itu telah berhasil menjawab pertanyaan tersebut. Pembaruan AI generatif Google untuk produk paling banyak digunakan dan menguntungkan mereka adalah bagian dari reboot industri teknologi yang diilhami oleh rilis chatbot ChatGPT OpenAI pada November 2022. Beberapa bulan setelah ChatGPT debut, Microsoft, mitra kunci OpenAI, menggunakan teknologinya untuk meningkatkan mesin pencari Bing yang juga-ran. Bing yang ditingkatkan diserang oleh kesalahan yang dihasilkan oleh AI dan perilaku aneh, tetapi CEO perusahaan, Satya Nadella, mengatakan bahwa langkah tersebut dirancang untuk menantang Google, katanya, “Saya ingin orang tahu bahwa kami membuat mereka menari.”Hampir tidak mungkin bagi mereka untuk selalu mendapatkan segalanya dengan benar – itulah sifat dari AI. Lily Ray, konsultan SEO Beberapa ahli merasa bahwa Google terburu-buru dalam melakukan peningkatan AI mereka. “Saya kaget mereka meluncurkannya sebagaimana adanya untuk sebanyak pertanyaan – pertanyaan medis, finansial – saya pikir mereka akan lebih berhati-hati,” kata Barry Schwartz, editor berita di Search Engine Land, publikasi yang melacak industri pencarian. Perusahaan seharusnya lebih memperkirakan bahwa beberapa orang akan dengan sengaja mencoba mengacaukan AI Overviews, tambahnya. “Google harus pintar tentang itu,” kata Schwartz, terutama ketika mereka menunjukkan hasilnya sebagai default pada produk terpenting mereka.Lily Ray, konsultan optimisasi mesin pencarian, adalah seorang beta tester selama setahun dari prototipe yang mendahului AI Overviews, yang Google sebut sebagai Pengalaman Pencarian Generatif. Dia mengatakan bahwa dia tidak terkejut melihat kesalahan yang muncul minggu lalu mengingat bagaimana versi sebelumnya cenderung salah. “Saya pikir hampir tidak mungkin bagi mereka untuk selalu mendapatkan segalanya dengan benar,” kata Ray. “Itulah sifat dari AI.”
