Google telah mengonfirmasi bahwa mereka membatasi jenis pertanyaan terkait pemilihan yang dapat diajukan pengguna pada chatbot Artificial Intelligence (AI) mereka, Gemini.
Dalam sebuah pos blog, perusahaan tersebut mengatakan kebijakan tersebut telah diterapkan di India, yang akan menggelar pemilihan pada akhir April.
Ini dilakukan karena perusahaan berusaha menghindari kontroversi lebih lanjut seputar teknologi AI.
Gemini pada dasarnya merupakan versi chatbot viral ChatGPT milik Google. Chatbot ini dapat menjawab pertanyaan dalam bentuk teks, dan juga dapat menghasilkan gambar.
Jurubicara Google memberitahu BBC bahwa langkah terbaru ini merupakan bagian dari rencana yang diumumkan tahun lalu seputar pendekatan perusahaan terhadap pemilihan.
“Seperti yang kami bagikan Desember lalu, dalam persiapan untuk banyak pemilihan yang akan berlangsung di seluruh dunia pada tahun 2024 dan sebagai tindakan pencegahan, kami membatasi jenis pertanyaan terkait pemilihan yang akan dijawab oleh Gemini,” kata mereka.
Pemilihan dijadwalkan akan dilaksanakan di berbagai negara di dunia tahun ini, termasuk AS, Inggris, dan Afrika Selatan.
Ketika BBC mengajukan pertanyaan pada Gemini seputar pemilihan tersebut, chatbot tersebut selalu menjawab: “Saya masih belajar cara menjawab pertanyaan ini. Sementara itu, coba gunakan Google Search.”
Namun, ketika serangkaian pertanyaan tindak lanjut seputar politik India diajukan pada Gemini, chatbot tersebut memberikan respons yang lebih detail tentang partai-partai besar di negara tersebut.
Perkembangan dalam AI generatif telah menimbulkan kekhawatiran seputar disinformasi dan mendorong pemerintah di seluruh dunia untuk mengatur teknologi tersebut.
Dalam beberapa pekan terakhir, India telah memberitahu perusahaan teknologi bahwa mereka memerlukan persetujuan sebelum merilis alat AI yang “tidak dapat diandalkan” atau sedang diuji coba.
Pada bulan Februari, Google meminta maaf setelah AI generator gambar yang baru diluncurkan menciptakan gambar para Pendiri Amerika Serikat yang secara tidak akurat mencantumkan seorang pria kulit hitam.
Gemini juga menghasilkan gambar tentara Jerman dari Perang Dunia II, dengan tidak tepat menampilkan seorang pria kulit hitam dan wanita Asia.
Perusahaan tersebut segera “menghentikan sementara” alat tersebut, dengan menulis dalam pos blog bahwa alat tersebut “meleset dari sasaran”.