Google tidak bisa menghindari drama terkait kampanye iklan Super Bowl Sunday yang seharusnya mempromosikan model AI Gemini-nya. Apa yang awalnya dianggap sebagai informasi halusinasi dari Gemini—yang sudah buruk pada dirinya sendiri—ternyata sama sekali bukan berasal dari Gemini. Tentu saja, chatbot AI cenderung menjadi mesin plagiarisme, tapi ini sepertinya sepenuhnya kesalahan Google.
Hanya untuk memberitahu Anda: iklan yang direncanakan Google untuk Big Game tahun ini mencakup 50 cerita terpisah yang menyoroti bisnis kecil di semua 50 negara bagian yang telah menggunakan alat Gemini untuk membantu operasional mereka. Iklan Wisconsin berpusat pada toko keju yang disebut Wisconsin Cheese Mart. Dalam iklan, disarankan bahwa perusahaan tersebut menggunakan Gemini untuk menghasilkan penulisan kopi untuk situs webnya. Kopian tersebut mencakup klaim bahwa gouda menyusun “50 hingga 60 persen konsumsi keju dunia,” yang tidak benar. Google mendapat kritik atas hal ini dan akhirnya mengubah teks yang muncul dalam iklan tersebut untuk menghilangkan fakta yang salah tentang keju itu.
Sekarang, ternyata, salinan yang salah itu bahkan bukan dihasilkan oleh Gemini meskipun iklan menyarankan bahwa itu. Berkat Internet Archive, kita bisa melihat bahwa teks yang semula diklaim dihasilkan oleh Gemini telah ada di situs web Wisconsin Cheese Mart sejak tahun 2020.
Jadi, kabar baik: Gemini tidak bertanggung jawab atas kesalahan fakta dalam teks situs web. Kabar buruk: Gemini tidak bertanggung jawab atas teks situs web apapun meskipun Google tampaknya mengklaim bahwa bisnis tersebut menggunakan alat AI untuk menghasilkan teks.
Membuat ini semakin memalukan adalah kenyataan bahwa seorang eksekutif Google secara publik membela teks asli, bukan dihasilkan oleh AI. Jerry Dischler, Presiden Aplikasi Cloud di Google Cloud, bersikeras dalam percakapan di Twitter bahwa teks itu “bukan halusinasi” dan bahwa “Gemini berpegang pada Web.” Itu mungkin benar, tapi bukti menunjukkan bahwa contoh tertentu ini sebenarnya tidak berdasar pada apa pun karena bukan dari Gemini sama sekali.
Jadi sekarang Google berada dalam posisi yang cukup canggung. Mereka membela model AI-nya untuk membagikan informasi palsu, hanya untuk kemudian terungkap bahwa model AI itu bahkan tidak menghasilkan teks itu. Dan perusahaan itu siap menghabiskan jutaan dolar untuk mengiklankan fungsionalitas suite AI-nya dengan contoh yang sebenarnya bukan dari alat itu sendiri. Kita seperti satu langkah dari iklan ini mengikuti jalur trailer permainan video lama yang akan menunjukkan klip promosi yang sangat rapi dengan disclaimer “bukan cuplikan permainan sebenarnya” di bawahnya. “Tentu, ini bukan dihasilkan oleh AI, tapi bayangkan jika itu!”