Google meminta maaf pada hari Jumat mengatakan timnya “salah” dengan fitur generasi gambar baru untuk chatbot AI Gemini setelah berbagai gambar yang diciptakannya tanpa orang kulit putih menjadi viral. Seorang eksekutif perusahaan dengan tegas membantah bahwa mereka sengaja ingin Gemini menolak untuk menciptakan gambar dari kelompok orang tertentu.
“Ini bukan yang kami maksudkan. Kami tidak ingin Gemini menolak untuk menciptakan gambar dari kelompok tertentu. Dan kami tidak ingin itu menciptakan gambar sejarah yang tidak akurat—atau apapun yang lain,” kata wakil presiden senior Google Prabhakar Raghavan.
Dalam sebuah pos blog, Raghavan—yang mengawasi bidang perusahaan yang menghasilkan sebagian besar uangnya, termasuk Google Search dan bisnis iklan—dengan jelas mengakui bahwa generator gambar Gemini “salah” dan bahwa perusahaan akan mencoba melakukan yang lebih baik. Banyak orang marah atas gambar-gambar yang tidak akurat secara historis dari tentara Nazi Kulit Hitam dan Viking Kulit Hitam serta penolakan tampaknya Gemini untuk menghasilkan gambar orang kulit putih, yang beberapa anggap rasialis.
Menurut Raghavan, ini semua terjadi karena Google tidak ingin Gemini melakukan kesalahan yang sama seperti generator gambar lain di masa lalu, seperti menciptakan gambar kekerasan, gambar seksual eksplisit, dan gambar orang nyata.
“Jadi apa yang salah? Singkatnya, dua hal. Pertama, penyetelan kami untuk memastikan Gemini menunjukkan berbagai orang gagal mengakomodasi kasus-kasus yang jelas tidak perlu menunjukkan berbagai orang,” tulis Raghavan, menekankan. “Dan kedua, dari waktu ke waktu, model tersebut menjadi jauh lebih berhati-hati dari yang kami maksudkan dan menolak untuk menjawab beberapa instruksi sepenuhnya—menafsirkan dengan salah beberapa instruksi yang sangat anodin sebagai sensitif.”
Wakil presiden Google melanjutkan dengan mengatakan bahwa kedua faktor ini membuat Gemini berlebihan dalam beberapa kasus dan terlalu konservatif dalam kasus lainnya. Secara keseluruhan, hal ini mengakibatkan penciptaan gambar yang “memalukan dan salah.”
Google mematikan kemampuan Gemini untuk menghasilkan gambar orang pada hari Kamis dan mengatakan akan merilis versi yang diperbaharui segera. Namun, Raghavan tampaknya meragukan bagian “segera” tersebut, mengatakan bahwa perusahaan akan bekerja untuk meningkatkan fitur tersebut secara signifikan melalui pengujian yang ekstensif sebelum mengaktifkannya kembali.
Raghavan menyatakan bahwa ia tidak bisa menjanjikan bahwa Gemini tidak akan menghasilkan hasil yang lebih memalukan, tidak akurat, atau menyinggung di masa depan, tetapi menambahkan bahwa Google akan terus campur tangan untuk memperbaikinya.
“Satu hal yang perlu diingat: Gemini dibangun sebagai alat kreativitas dan produktivitas, dan mungkin tidak selalu dapat diandalkan, terutama ketika menyangkut menghasilkan gambar atau teks tentang peristiwa terkini, berita yang berkembang, atau topik-topik yang sensitif. Ia akan melakukan kesalahan,” kata Raghavan.