Google telah mengonfirmasi bahwa mereka membatasi jenis pertanyaan terkait pemilu yang dapat diajukan pengguna kepada chatbot Artificial Intelligence (AI) mereka bernama Gemini. Dalam sebuah pos blog, perusahaan tersebut mengatakan kebijakan ini telah diterapkan di India, yang akan mengadakan pemilu mulai akhir April. Langkah ini diambil sebagai upaya perusahaan untuk menghindari kontroversi lebih lanjut seputar teknologi AI.
Gemini pada dasarnya adalah versi dari chatbot viral ChatGPT milik Google. Chatbot ini dapat menjawab pertanyaan dalam bentuk teks, dan juga dapat menghasilkan gambar. Seorang juru bicara Google memberitahu BBC bahwa langkah terbaru ini merupakan bagian dari rencana yang diumumkan tahun lalu seputar pendekatan perusahaan terhadap pemilu.
“Seperti yang kami bagikan Desember lalu, sebagai persiapan untuk banyak pemilu yang akan berlangsung di seluruh dunia pada 2024 dan sebagai langkah pencegahan, kami membatasi jenis pertanyaan terkait pemilu yang Gemini akan jawab,” kata mereka.
Pemilu dijadwalkan akan diadakan di berbagai negara di seluruh dunia tahun ini termasuk AS, Inggris, dan Afrika Selatan. Ketika BBC mengajukan pertanyaan seputar pemilu tersebut kepada Gemini, chatbot tersebut selalu merespons dengan: “Saya masih belajar cara menjawab pertanyaan ini. Sementara itu, coba gunakan Google Search.”
Namun, ketika serangkaian pertanyaan lanjutan seputar politik India diajukan kepada Gemini, chatbot tersebut memberikan jawaban yang lebih detail tentang partai-partai besar di negara tersebut. Perkembangan dalam AI generatif telah menimbulkan kekhawatiran akan penyebaran informasi yang salah dan mendorong pemerintah di seluruh dunia untuk mengatur teknologi tersebut.
Dalam beberapa minggu terakhir, India telah memberitahu perusahaan teknologi bahwa mereka memerlukan persetujuan sebelum merilis alat AI yang “tidak dapat diandalkan” atau sedang diuji. Pada bulan Februari, Google meminta maaf setelah generator gambar AI yang baru diluncurkan menciptakan gambar Bapak Pendiri AS yang salah menampilkan seorang pria kulit hitam.
Gemini juga menghasilkan gambar tentara Jerman dari Perang Dunia II, yang salah menampilkan seorang pria kulit hitam dan seorang wanita Asia. Google segera “memberhentikan sementara” alat tersebut, dengan menulis dalam pos blog bahwa alat tersebut “meleset dari sasaran”.