Giant Teknologi Meta bersiap untuk pemilihan dunia pada tahun 2024, dengan merancang rencana untuk “melindungi pemilihan secara online” karena demokrasi global akan melakukan pemungutan suara tahun ini. India, sering disebut sebagai demokrasi terbesar di dunia, termasuk di antara negara-negara tersebut, dan Meta sedang berupaya untuk melawan epidemi deepfakes dan disinformasi menjelang pemilihan di musim semi.
Pada hari Senin, perusahaan mengumumkan jalur bantuan pemeriksaan fakta yang didedikasikan di WhatsApp untuk pengguna di India, diluncurkan dalam kemitraan dengan Aliansi Kombat Misiinformasi (MCA) negara tersebut. Jalur bantuan ini akan bekerja khusus untuk menilai media yang dihasilkan oleh kecerdasan buatan, yang juga dikenal sebagai deepfakes. Orang-orang akan dapat melaporkan deepfakes ke chatbot WhatsApp yang tersedia dalam bahasa Inggris dan tiga bahasa India: Hindi, Tamil, dan Telugu. MCA akan bekerja bersama Unit Analisis Deepfakes-nya, jaringan pemeriksa fakta independen, lembaga penelitian, dan mitra industri untuk mengidentifikasi dan memverifikasi konten tersebut, sehingga melaporkan dan membantah disinformasi.
Mulai bulan Maret, jalur bantuan ini akan tersedia untuk publik. India dilaporkan memiliki 535,8 juta pengguna aktif bulanan di WhatsApp, menjadikannya negara dengan jumlah pengguna terbanyak di dunia.
Meta mengatakan program ini difokuskan pada mendeteksi, mencegah, dan melaporkan disinformasi, tetapi juga menarik perhatian dan kesadaran akan “penyebaran deepfakes yang semakin meningkat.”
Shivnath Thukral, direktur kebijakan publik Meta di India, mengatakan, “Kami menyadari kekhawatiran seputar misinformasi yang dihasilkan oleh kecerdasan buatan dan percaya bahwa untuk melawan hal ini diperlukan langkah-langkah konkret dan kerjasama di seluruh industri.”
Sentimen ini dipertegas oleh presiden MCA Bharat Gupta, yang mengatakan, “Unit Analisis Deepfakes (DAU) akan berfungsi sebagai intervensi penting dan tepat waktu untuk menghentikan penyebaran disinformasi yang diaktifkan oleh kecerdasan buatan di antara pengguna media sosial dan internet di India.”
Konten yang dihasilkan oleh kecerdasan buatan telah dianggap sebagai ancaman bagi pemilihan yang akan datang di mana-mana, dan India tidak terkecuali. Sebuah studi baru oleh Universitas George Washington memprediksi frekuensi hampir setiap hari dari “aktivitas AI aktor jahat” pada tahun 2024 — bahaya yang dapat “mempengaruhi hasil pemilihan di lebih dari 50 negara” yang akan melakukan pemungutan suara tahun ini. Ancaman-ancaman ini bervariasi mulai dari video yang dihasilkan oleh kecerdasan buatan yang diposting di platform media sosial hingga peretas yang mempengaruhi hasil, menurut lembaga pemikir urusan internasional Chatham House.
Konten yang dihasilkan oleh kecerdasan buatan telah menjadi semacam epidemi dalam politik India: sebuah penyelidikan terbaru oleh Al Jazeera menyoroti bahwa anggota Partai Bharatiya Janata dari Perdana Menteri Narendra Modi — yang siap untuk memenangkan pemilihan tahun ini — dan Kongres, partai oposisi terkemuka, telah menjadi target deepfakes, yang sebagian besar disebarkan di WhatsApp. Juga telah terjadi insiden di mana teknologi tersebut digunakan oleh anggota partai sendiri. Pada tahun 2020, seorang anggota parlemen BJP terkemuka menggunakan teknologi deepfake untuk membuat video kampanye dalam berbagai bahasa India.
Di India, deepfakes sudah merasuki kegiatan politik, dan telah dinyatakan sebagai “ancaman bagi demokrasi” oleh menteri teknologi informasi negara tersebut Ashwini Vaishnaw. Saat ini India belum memiliki undang-undang yang secara jelas menangani atau mendefinisikan deepfakes, tetapi sedang bekerja untuk merancang aturan untuk membatasi penyebaran konten berbahaya. Seorang pejabat senior dalam partai Modi memperingatkan bahwa perusahaan media sosial akan bertanggung jawab atas deepfakes yang diposting di platform mereka.
“Kami adalah demokrasi terbesar di dunia [dan] tentu saja kami sangat prihatin tentang dampak dari aktor lintas batas yang menggunakan disinformasi, menggunakan misinformasi, menggunakan deepfakes untuk menyebabkan masalah dalam demokrasi kami,” Rajeev Chandrasekhar, menteri negara untuk elektronik dan TI, mengatakan kepada Financial Times. “Kami telah waspada terhadap hal ini lebih awal daripada kebanyakan negara karena ini mempengaruhi kami dengan cara yang lebih buruk daripada negara-negara lebih kecil.”
Modi sendiri juga telah mengutip kekhawatiran ini, meminta para pemimpin global untuk mengatur kecerdasan buatan kembali pada November 2023; namun, para kritikusnya telah menegaskan bahwa politisi tersebut menyadari kekuatan teknologi dan media sosial untuk terhubung dengan pemilih India, membangun merek digital yang jelas dan memobilisasi pendukung untuk menyuarakan pendapatnya.