Sundar Pichai, CEO dari Google dan Alphabet, berbicara tentang kecerdasan buatan selama konferensi think tank Bruegel di Brussels, Belgia, pada 20 Januari 2020.
Google mengumumkan akan membatasi jenis pertanyaan terkait pemilihan yang pengguna dapat ajukan pada chatbot Gemini-nya, menambahkan bahwa perubahan tersebut telah diterapkan di India, di mana pemilih akan menuju ke tempat pemungutan suara pada musim semi ini.
“Kami telah mulai menerapkan pembatasan pada jenis pertanyaan terkait pemilihan untuk yang Gemini akan memberikan respons,” tulis Google dalam sebuah pos blog pada Selasa. “Kami sangat serius dalam tanggung jawab kami untuk menyediakan informasi berkualitas tinggi untuk jenis pertanyaan tersebut, dan terus bekerja untuk meningkatkan perlindungan kami.”
Jurubicara Google mengatakan kepada CNBC bahwa perubahan tersebut sesuai dengan pendekatan yang direncanakan perusahaan untuk pemilihan, dan bahwa mereka mengenalkan pembatasan Gemini “sebagai persiapan untuk banyak pemilihan yang akan terjadi di seluruh dunia pada tahun 2024 dan sebagai tindakan pencegahan.”
Pengumuman ini datang setelah Google menarik alat generasi gambar kecerdasan buatan mereka bulan lalu setelah serangkaian kontroversi, termasuk ketidakakuratan sejarah dan respons yang kontroversial. Perusahaan telah memperkenalkan generator gambar tersebut pada bulan Februari melalui Gemini — rangkaian model kecerdasan buatan utama Google — sebagai bagian dari sebuah rebranding yang signifikan.
“Kami telah menonaktifkan fitur tersebut sementara kami memperbaikinya,” kata Demis Hassabis, CEO dari DeepMind Google, bulan lalu saat berbicara pada sebuah panel di konferensi Mobile World Congress di Barcelona. “Kami berharap dapat mengembalikannya secara online dalam beberapa minggu ke depan, beberapa minggu.” Dia menambahkan bahwa produk tersebut tidak “berfungsi sebagaimana yang kami inginkan.”
Berita ini juga datang saat platform teknologi bersiap untuk tahun pemilihan besar di seluruh dunia yang memengaruhi lebih dari empat miliar orang di lebih dari 40 negara. Meningkatnya konten yang dihasilkan AI telah menimbulkan kekhawatiran serius terkait misinformasi terkait pemilihan, dengan jumlah deepfakes yang dihasilkan meningkat 900% dari tahun ke tahun, menurut data dari perusahaan pembelajaran mesin Clarity.
Misinformasi terkait pemilihan telah menjadi masalah besar sejak kampanye presiden 2016, ketika aktor Rusia berupaya untuk menyebarkan konten yang tidak akurat melalui platform sosial. Para pembuat kebijakan saat ini bahkan lebih khawatir dengan meningkatnya cepatnya penggunaan AI.
“Ada alasan untuk kekhawatiran serius tentang bagaimana AI bisa digunakan untuk menyesatkan pemilih dalam kampanye,” kata Josh Becker, seorang senator negara Demokrat di California, kepada CNBC bulan lalu dalam sebuah wawancara.
Teknologi deteksi dan watermaking yang digunakan untuk mengidentifikasi deepfakes belum berkembang dengan cepat. Bahkan jika platform di balik gambar dan video yang dihasilkan AI setuju untuk menyertakan watermarks tak terlihat dan jenis metadata tertentu, masih ada cara untuk menghindari langkah-langkah perlindungan tersebut. Terkadang, tangkapan layar bahkan bisa memperdaya detektor.
Dalam beberapa bulan terakhir, Google telah menegaskan komitmennya dalam mengejar — dan menginvestasikan banyak uang dalam — asisten atau agen AI. Istilah tersebut sering menggambarkan alat mulai dari chatbot hingga asisten kode dan alat produktivitas lainnya.
CEO Alphabet Sundar Pichai menyoroti agen AI sebagai prioritas selama panggilan pendapatan perusahaan pada 30 Januari. Pichai mengatakan bahwa ia akhirnya ingin menawarkan agen AI yang dapat menyelesaikan lebih banyak tugas untuk pengguna, termasuk dalam Google Search — meskipun ia mengatakan masih ada “banyak pelaksanaan di depan.” Begitu juga, para eksekutif utama dari raksasa teknologi mulai dari Microsoft hingga Amazon memperkuat komitmen mereka untuk membangun agen AI sebagai alat produktivitas.
Rebranding Gemini Google, peluncuran aplikasi, dan ekspansi fitur merupakan langkah awal untuk “membangun asisten AI sejati,” kata Sissie Hsiao, seorang wakil presiden di Google dan manajer umum untuk Google Assistant dan Bard, kepada para wartawan dalam sebuah panggilan pada bulan Februari.