Google berusaha keras untuk menghapus jawaban AI aneh secara manual dalam pencarian

Media sosial sedang ramai dengan contoh produk AI baru Google yang mengatakan hal aneh, mulai dari memberi tahu pengguna untuk meletakkan lem di atas pizza mereka hingga menyarankan mereka makan batu. Peluncuran yang berantakan membuat Google terburu-buru untuk menonaktifkan AI Overview secara manual untuk pencarian tertentu saat berbagai meme diposting, itulah sebabnya pengguna melihat begitu banyak dari mereka menghilang segera setelah diposting ke jaringan sosial.

Ini adalah situasi aneh, karena Google telah menguji AI Overview selama setahun sekarang – fitur diluncurkan dalam versi beta pada Mei 2023 sebagai Pengalaman Pencarian Generatif – dan CEO Sundar Pichai telah mengatakan perusahaan melayani lebih dari satu miliar kueri dalam waktu itu.

Tetapi Pichai juga mengatakan bahwa Google telah berhasil menurunkan biaya pengiriman jawaban AI sebesar 80 persen selama periode yang sama, “digerakkan oleh terobosan hardware, rekayasa, dan teknis.” Tampaknya jenis optimasi itu mungkin terjadi terlalu dini, sebelum teknologi siap.

“Sebuah perusahaan yang dulunya dikenal karena berada di garis depan dan mengirimkan produk berkualitas tinggi sekarang dikenal karena output berkualitas rendah yang menjadi meme,” kata seorang pendiri AI, yang ingin tetap anonim, kepada The Verge.

Google terus mengatakan bahwa produk AI Overview-nya sebagian besar menghasilkan “informasi berkualitas tinggi” kepada pengguna. “Banyak contoh yang kami lihat adalah kueri yang jarang terjadi, dan kami juga telah melihat contoh yang dimanipulasi atau yang tidak dapat kami reproduksi,” kata juru bicara Google Meghann Farnsworth dalam sebuah email kepada The Verge. Farnsworth juga mengkonfirmasi bahwa perusahaan sedang “mengambil tindakan cepat” untuk menghapus AI Overview pada kueri tertentu “dimana sesuai dengan kebijakan konten kami, dan menggunakan contoh-contoh ini untuk mengembangkan perbaikan lebih luas pada sistem kami, beberapa di antaranya sudah mulai diluncurkan.”

Gary Marcus, seorang ahli AI dan profesor emeritus sains saraf di New York University, mengatakan kepada The Verge bahwa banyak perusahaan AI “membuat impian” bahwa teknologi ini akan berkembang dari 80 persen menjadi 100 persen. Mencapai 80 persen awal relatif mudah karena melibatkan perkiraan sejumlah besar data manusia, kata Marcus, tetapi 20 persen terakhir sangat menantang. Bahkan, Marcus berpikir bahwa 20 persen terakhir itu mungkin hal terberat dari semuanya.

“Anda sebenarnya perlu melakukan beberapa penalaran untuk memutuskan: apakah hal ini masuk akal? Apakah sumber ini sah? Anda harus melakukan hal-hal seperti yang mungkin dilakukan oleh pemeriksa fakta manusia, yang sebenarnya mungkin membutuhkan kecerdasan buatan umum,” kata Marcus. Dan Marcus serta kepala AI Meta Yann LeCun sepakat bahwa model bahasa besar yang menggerakkan sistem AI saat ini seperti Gemini Google dan GPT-4 OpenAI tidak akan menciptakan AGI.

Lihat, ini posisi sulit bagi Google. Bing mengadakan AI sebelum Google dengan kutipan terkenal Satya Nadella “kami membuat mereka menari”, OpenAI dilaporkan sedang mengerjakan mesin pencari sendiri, sebuah startup pencarian AI baru sudah bernilai $1 miliar, dan generasi pengguna yang lebih muda yang hanya menginginkan pengalaman terbaik beralih ke TikTok. Perusahaan jelas merasakan tekanan untuk bersaing, dan tekanan adalah yang membuat peluncuran AI menjadi berantakan. Marcus menunjukkan bahwa pada tahun 2022, Meta merilis sistem AI bernama Galactica yang harus ditarik tak lama setelah peluncurannya karena, antara lain, memberi tahu orang untuk makan kaca. Terdengar familiar.

Google memiliki rencana besar untuk AI Overview – fitur seperti yang ada saat ini hanyalah sebagian kecil dari apa yang perusahaanumumkan minggu lalu. Penalaran multilangkah untuk kueri kompleks, kemampuan untuk menghasilkan halaman hasil yang diatur oleh AI, pencarian video di Google Lens – ada banyak ambisi di sini. Tetapi saat ini, reputasi perusahaan bergantung pada hanya melakukan dasar dengan benar, dan itu tidak terlihat bagus.

“[Model-model ini] secara konstitusi tidak mampu melakukan pemeriksaan kewarasan pada pekerjaan mereka sendiri, dan itulah yang datang untuk menggigit industri ini,” kata Marcus.