Pada November tahun lalu, Muralikrishnan Chinnadurai sedang menonton siaran langsung acara berbahasa Tamil di Inggris ketika dia melihat sesuatu yang aneh. Seorang wanita yang diperkenalkan sebagai Duwaraka, putri Velupillai Prabhakaran, pemimpin militan Tamil Tiger, memberikan pidato. Masalahnya adalah bahwa Duwaraka meninggal lebih dari satu dekade yang lalu, dalam serangan udara pada tahun 2009 selama masa akhir perang saudara Sri Lanka. Tubuh wanita 23 tahun saat itu tidak pernah ditemukan. Dan sekarang, di sini dia – seorang wanita paruh baya – mendesak orang Tamil di seluruh dunia untuk melanjutkan perjuangan politik mereka untuk kebebasan. Bapak Chinnadurai, seorang pengecek fakta di negara bagian India selatan Tamil Nadu, menonton video tersebut dengan cermat, melihat gangguan dalam video dan segera mengetahui bahwa itu adalah gambaran yang dihasilkan oleh kecerdasan buatan (AI). Masalah potensialnya segera jelas bagi Bapak Chinnadurai: “Ini adalah isu emosional di negara bagian [Tamil Nadu] dan dengan pemilihan di depan mata, disinformasi bisa dengan cepat menyebar.” Saat India melakukan pemilihan, tidak mungkin untuk menghindari kekayaan konten yang dihasilkan oleh AI yang sedang dibuat – dari video kampanye, pesan audio yang dipersonalisasi dalam berbagai bahasa India, dan bahkan panggilan otomatis yang dibuat kepada pemilih dengan suara seorang kandidat. Kreator konten seperti Shahid Sheikh bahkan telah bersenang-senang menggunakan alat AI untuk menunjukkan politisi India dalam avatar yang belum pernah kita lihat sebelumnya: mengenakan pakaian olahraga, memainkan musik, dan menari. Tetapi ketika alat-alat tersebut semakin canggih, para ahli khawatir tentang implikasinya dalam membuat berita palsu terlihat nyata. “Rumor selalu menjadi bagian dari pemilihan. [Tapi] di era media sosial, itu bisa menyebar seperti api,” kata SY Qureshi, mantan komisioner pemilihan negara itu. “Ini sebenarnya bisa membuat negara terbakar.” Partai politik India bukan yang pertama di dunia untuk memanfaatkan perkembangan terbaru dalam AI. Hanya di seberang perbatasan di Pakistan, hal itu memungkinkan politisi yang dipenjara Imran Khan untuk menyampaikan pidato. Dan di India sendiri, Perdana Menteri Narendra Modi juga sudah memanfaatkan teknologi yang muncul untuk berkampanye secara efektif – menyampaikan pidato kepada audiens dalam bahasa Hindi yang, dengan menggunakan alat AI Bhashini yang dibuat oleh pemerintah, kemudian diterjemahkan ke dalam bahasa Tamil secara real time. Tetapi teknologi ini juga bisa digunakan untuk memanipulasi kata-kata dan pesan. Bulan lalu, dua video viral menunjukkan bintang Bollywood Ranveer Singh dan Aamir Khan berkampanye untuk partai oposisi Kongres. Keduanya melaporkan polisi mengatakan bahwa ini adalah deepfake, dibuat tanpa persetujuan mereka. Kemudian, pada 29 April, Perdana Menteri Modi mengungkapkan kekhawatiran tentang penggunaan AI untuk merusak pidato para pemimpin senior partai pemerintah, termasuk dia sendiri. Keesokan harinya, polisi menangkap dua orang, masing-masing dari partai oposisi Aam Aadmi Party (AAP) dan partai Kongres, terkait dengan video yang dipalsukan dari Menteri Dalam Negeri Amit Shah. Partai Bharatiya Janata (BJP) Mr Modi juga menghadapi tuduhan serupa dari pemimpin oposisi di negara itu. Masalahnya adalah – meskipun penangkapan – tidak ada regulasi komprehensif yang diterapkan, menurut para ahli. Ini berarti “jika Anda tertangkap melakukan sesuatu yang salah, maka mungkin hanya akan mendapat teguran,” menurut Srinivas Kodali, seorang peneliti data dan keamanan. Dalam ketiadaan regulasi, para kreator mengatakan kepada BBC bahwa mereka harus mengandalkan etika pribadi untuk memutuskan jenis pekerjaan yang mereka pilih untuk dilakukan atau tidak. BBC mengetahui bahwa, di antara permintaan dari politisi, adalah gambar pornografi dan pemalsuan video dan audio dari rival mereka untuk merusak reputasi mereka. “Saya pernah diminta untuk membuat asli terlihat seperti deepfake karena video asli, jika dibagikan secara luas, akan membuat politisi terlihat buruk,” ungkap Divyendra Singh Jadoun. Mr Jadoun, pendiri The Indian Deepfaker (TID), yang menciptakan alat untuk membantu orang menggunakan perangkat lunak AI open source untuk membuat materi kampanye untuk politisi India, bersikeras untuk menempatkan peringatan pada semua yang dia buat sehingga jelas bahwa itu tidak nyata. Tapi masih sulit untuk dikendalikan. Di Pakistan, politisi yang dipenjara Imran Khan menggunakan AI untuk menyampaikan pidato pada sebuah rapat. Mr Sheikh, yang bekerja dengan sebuah agensi pemasaran di negara bagian timur Bengal Barat, telah melihat karyanya dibagikan tanpa izin atau kredit oleh politisi atau halaman politik di media sosial. “Seorang politisi menggunakan gambar yang saya buat dari Mr Modi tanpa konteks dan tanpa menyebutkan bahwa itu dibuat menggunakan AI,” katanya. Dan sekarang sangat mudah untuk membuat deepfake sehingga siapa pun dapat melakukannya. “Apa yang dulunya memakan waktu tujuh atau delapan hari bagi kami untuk membuat sekarang bisa dilakukan dalam tiga menit,” jelas Mr Jadoun. “Anda hanya perlu memiliki komputer.” Memang, BBC mendapatkan pandangan langsung tentang seberapa mudahnya membuat panggilan telepon palsu antara dua orang – dalam hal ini, saya dan mantan presiden AS. Meskipun berisiko, India awalnya mengatakan bahwa tidak sedang mempertimbangkan undang-undang untuk AI. Namun, bulan Maret ini, itu langsung bertindak setelah gempar atas respons chatbot Gemini Google terhadap pertanyaan yang bertanya: “Apakah Modi seorang fasis?” Rajeev Chandrasekhar, menteri teknologi informasi junior negara itu, mengatakan itu telah melanggar undang-undang TI negara itu. Sejak saat itu, pemerintah India telah meminta perusahaan teknologi untuk mendapatkan izin eksplisitnya sebelum meluncurkan secara publik model atau alat AI generatif “tidak andal” atau “belum diuji”. Ini juga telah memperingatkan terhadap respons oleh alat-alat ini yang “mengancam integritas proses pemilihan”. Tetapi itu tidak cukup: pengecek fakta mengatakan mengikuti pembantahan konten tersebut adalah tugas yang sulit, terutama selama pemilihan ketika disinformasi mencapai puncaknya. “Informasi berjalan dengan kecepatan 100km per jam,” kata Bapak Chinnadurai, yang menjalankan pengawas media di Tamil Nadu. “Informasi yang kami sebarkan yang sudah dibantah akan berjalan dengan kecepatan 20km per jam.” Dan deepfake ini bahkan masuk ke media utama, kata Bapak Kodali. Namun demikian, “komisi pemilihan secara publik diam tentang AI”. “Tidak ada aturan yang jelas,” kata Bapak Kodali. “Mereka membiarkan industri teknologi mengatur sendiri daripada mengeluarkan regulasi yang sebenarnya.” Tidak ada solusi yang sempurna dalam pandangan para ahli. “Tapi [untuk saat ini] jika tindakan diambil terhadap orang yang menyebarkan palsu, mungkin akan membuat orang lain takut melawan berbagi informasi yang belum terverifikasi,” kata Bapak Qureshi.
