Dalam mencoba mengiklankan fungsionalitas model AI-nya Gemini, Google secara tidak sengaja membuat iklan untuk cacat terbesar dari alat AI: kecenderungan mereka untuk hanya membuat sesuatu yang tidak ada. The Verge baru-baru ini menemukan bahwa Google harus memperbaiki iklan Minggu Super Bowl yang direncanakan untuk mempromosikan Gemini karena teks dari jawaban yang diberikan oleh model AI itu yang sedang diinfuskan oleh perusahaan ke segala hal kebetulan mendapatkan informasi yang salah.ح
Kampanye iklan Google untuk Big Game mendatang akan difokuskan pada bagaimana bisnis kecil di seluruh negeri menggunakan Gemini untuk membantu dalam operasinya, dengan 50 cerita berbeda yang menyoroti bisnis yang berbeda di setiap negara bagian. Dalam iklan Wisconsin, seorang penjual keju menggunakan Gemini untuk membantu menulis copy untuk situs web bisnisnya. Teks yang dihasilkan oleh AI Gemini mengatakan bahwa gouda menyumbang “50 hingga 60 persen dari konsumsi keju dunia,” yang, ternyata, tidak benar.
Masalah ini disebut oleh blogger perjalanan Nate Hake di Twitter, menyebut statistik itu sebagai halusinasi karena Gemini tidak memberikan sumbernya. Itu memanggil Jerry Dischler, Presiden Aplikasi Cloud di Google Cloud, ke dalam komentar untuk membela iklan itu. “Hei Nate – bukan halusinasi, Gemini berlandaskan Web – dan pengguna selalu dapat memeriksa hasil dan referensi,” tulisnya, meskipun tidak ada referensi yang dikutip dalam teks yang ditunjukkan dalam iklan asli. “Dalam kasus ini, banyak situs di seluruh web menyertakan statistik 50-60%.”
Benar bahwa internet mengatakan itu – hampir setiap atribusi statistik itu kembali ke entri di cheese.com, yang tidak mengutip bukti apa pun untuk angkanya. Menyalahkan informasi buruk pada kenyataan bahwa Gemini mengambil dari sumber yang goyah tidak sama sekali menjadi pembelaan yang meyakinkan. Apa yang terjadi dengan “Jangan percaya semua yang Anda baca di internet?”
Juga – dan ini tidak benar-benar relevan dengan apa pun – Dischler mengakhiri tanggapannya dengan mengatakan, “Berita gouda: banyak yang menyukai keju ini! Berita buruk: tidak semua orang menganggapnya sebaik itu,” yang hanya berteriak “Saya meminta Gemini untuk permainan kata-kata keju.” Saya kira dia baik percaya pada produknya tetapi, woof, dia membuatnya terlihat sangat tidak keren.
Bagaimanapun, meskipun mempertahankan informasi yang dihasilkan oleh Gemini dalam iklan, tampaknya Google masih memutuskan untuk kembali dan menyesuaikannya. Versi iklan yang baru menghapus statistik “50-60%.” Tidak jelas apakah penyesuaian itu dilakukan secara manual atau apakah Google kembali dan memberikan prompt yang berbeda kepada Gemini untuk memastikan angka itu tidak muncul, tetapi versi yang diperbaiki akan ditayangkan selama Super Bowl.
Kejadian seluruh ini adalah iklan yang jauh lebih baik untuk apa yang dapat Anda harapkan dari alat seperti Gemini: mereka akan menyalin informasi yang diberikan kepada mereka tanpa mekanisme yang nyata untuk membantu Anda memahami apakah itu memberikan Anda omong kosong atau tidak. Tapi setidaknya itu akan menghemat waktu Anda!