Imran Khan, mantan perdana menteri Pakistan, telah menghabiskan seluruh masa kampanye pemilihan negara di penjara, dilarang maju dalam apa yang para ahli gambarkan sebagai salah satu pemilu umum paling tidak kredibel dalam sejarah 76 tahun negara tersebut.
Namun, dari balik jeruji, ia telah membangkitkan semangat para pendukungnya dalam beberapa bulan terakhir dengan pidato yang menggunakan kecerdasan buatan untuk mereplikasi suaranya, sebagai bagian dari strategi berbasis teknologi yang dilakukan partainya untuk menghindari penindasan oleh militer.
Pada hari Sabtu, ketika perhitungan resmi menunjukkan kandidat yang bersekutu dengan partainya, Pakistan Tehreek-e-Insaf, atau P.T.I., memenangkan sebagian besar kursi dalam hasil yang mengejutkan dan mengacaukan sistem politik negara, suara A.I. dari Mr. Khan yang menyatakan kemenangan.
“Saya yakin sepenuhnya bahwa kalian semua akan datang untuk memberikan suara. Kalian telah memenuhi kepercayaan saya pada kalian, dan jumlah hadir yang besar ini telah mengejutkan semua orang,” kata suara yang tenang, sedikit robotik dalam video berdurasi satu menit tersebut, yang menggunakan gambar dan rekaman sejarah Mr. Khan serta mencantumkan penyangkalan tentang asal usul A.I.-nya. Pidato ini menolak klaim kemenangan dari saingan Mr. Khan, Nawaz Sharif, dan mengajak para pendukung untuk mempertahankan kemenangan tersebut.
Saat kekhawatiran tentang penggunaan kecerdasan buatan dan kekuatannya untuk menyesatkan semakin meningkat, terutama dalam pemilihan, video-video Mr. Khan menawarkan contoh bagaimana A.I. dapat digunakan untuk mengelakkan penindasan. Namun, para ahli mengatakan, hal ini juga meningkatkan rasa takut tentang bahaya potensialnya.
“Dalam kasus ini, tujuannya baik, mungkin tujuan yang akan kita dukung — seseorang yang terkurung atas tuduhan korupsi palsu dapat berbicara kepada para pendukungnya,” kata Toby Walsh, penulis “Faking It: Artificial Intelligence in a Human World” dan profesor di University of New South Wales. “Namun pada saat yang sama, hal ini menggoyahkan kepercayaan kita terhadap hal-hal yang kita lihat dan dengar.”
Mr. Khan, mantan bintang kriket yang karismatik, digulingkan dari kekuasaan pada 2022 dan dipenjara tahun lalu dengan tuduhan bocornya rahasia negara di antara tuduhan-tuduhan lainnya. Ia dan para pendukungnya mengatakan bahwa pemimpin militer yang menyusun penggulingannya, tuduhan yang mereka tolak.
Selama kampanye pemilihan, para pejabat mencegah kandidat-kandidatnya berkampanye dan membatasi liputan berita tentang partainya. Sebagai tanggapan, para penyelenggara mengadakan rapat umum online di platform-platform seperti YouTube dan TikTok.
Pada bulan Desember, partainya mulai menggunakan A.I. untuk menyebarkan pesan Mr. Khan, dengan menciptakan pidato-pidato berdasarkan catatan yang ia berikan kepada pengacaranya dari penjara, sesuai dengan pernyataan dari partai tersebut, dan mengubahnya menjadi video.
Ini bukan kali pertama partai politik menggunakan kecerdasan buatan.
Di Korea Selatan, Partai Kekuatan Rakyat yang saat itu berada di oposisi menciptakan avatar berbasis A.I. dari kandidat presidennya, Yoon Suk Yeol, yang berinteraksi secara virtual dengan para pemilih dan berbicara dengan bahasa slang dan candaan untuk menarik pemilih muda menjelang pemilihan tahun 2022. (Ia menang.)
Di Amerika Serikat, Kanada, dan Selandia Baru, para politisi telah menggunakan A.I. untuk menciptakan gambar-gambar distopia untuk memperkuat argumen mereka, atau untuk mengungkapkan potensi bahaya teknologi tersebut, seperti dalam video dengan Jordan Peele dan deepfake Barack Obama.
Selama pemilihan negara bagian Delhi tahun 2020, Manoj Tiwari, seorang kandidat dari partai penguasa Bharatiya Janata Party, menciptakan deepfake A.I. dari dirinya sendiri yang berbicara dalam dialek Haryanvi untuk menargetkan pemilih dalam demografi tersebut. Berbeda dengan video Khan, video tersebut tidak terlihat jelas diberi label sebagai A.I.
“Integrasi A.I., terutama deepfake, dalam kampanye politik bukanlah tren sementara tetapi tren yang akan terus berkembang seiring waktu,” kata Saifuddin Ahmed, seorang asisten profesor di sekolah komunikasi dan informasi di Nanyang Technological University, Singapura.