Pada November tahun lalu, Muralikrishnan Chinnadurai sedang menonton siaran langsung acara berbahasa Tamil di Inggris ketika dia melihat sesuatu yang aneh. Seorang wanita yang diperkenalkan sebagai Duwaraka, putri ​​Velupillai Prabhakaran, pemimpin militan Tamil Tiger, sedang memberikan pidato. Masalahnya adalah bahwa Duwaraka meninggal lebih dari satu dekade yang lalu, dalam serangan udara pada tahun 2009 selama hari-hari terakhir perang saudara Sri Lanka. Tubuh wanita yang berusia 23 tahun saat itu tidak pernah ditemukan. Dan sekarang, di sini dia – tampaknya seorang wanita paruh baya – mendorong orang Tamil di seluruh dunia untuk melanjutkan perjuangan politik mereka untuk kebebasan mereka. Bapak Chinnadurai, seorang pengecek fakta di negara bagian India selatan Tamil Nadu, menonton video dengan seksama, melihat keanehan dalam video dan segera menemukan bahwa itu adalah figur yang dihasilkan oleh kecerdasan buatan (AI). Masalah potensialnya segera jelas bagi Bapak Chinnadurai: “Ini adalah isu emosional di negara bagian [Tamil Nadu] dan dengan pemilihan di depan mata, desinformasi bisa dengan cepat menyebar.” Saat India melakukan pemungutan suara, tidak mungkin menghindari kekayaan konten yang dihasilkan AI – dari video kampanye, pesan audio personal dalam berbagai bahasa India, dan bahkan panggilan otomatis yang dibuat kepada pemilih dengan suara kandidat. Pembuat konten seperti Shahid Sheikh bahkan telah bersenang-senang menggunakan alat AI untuk menunjukkan politisi India dalam avatar yang belum pernah kita lihat sebelumnya: mengenakan busana olahraga, memainkan musik, dan menari. Tetapi seiring dengan alat-alat tersebut menjadi lebih canggih, para ahli khawatir tentang implikasinya dalam membuat berita palsu terlihat nyata. “Rumor selalu menjadi bagian dari pemilu. [Tapi] di era media sosial, itu bisa menyebar dengan cepat,” kata SY Qureshi, mantan komisioner pemilihan negara itu. “Ini sebenarnya bisa membuat negara terbakar.”
