Banyak potongan konten yang dihasilkan oleh AI digunakan untuk mengekspresikan dukungan atau fandom terhadap kandidat tertentu. Misalnya, video yang dihasilkan oleh AI tentang Donald Trump dan Elon Musk menari dengan lagu BeeGees “Stayin’ Alive” dibagikan jutaan kali di media sosial, termasuk oleh Senator Mike Lee, seorang Republikan dari Utah.
“Itu semua tentang sinyal sosial. Itu semua alasan mengapa orang membagikan hal ini. Ini bukan AI. Anda melihat efek dari elektorat yang terpolarisasi,” kata Bruce Schneier, seorang teknolog kepentingan publik dan dosen di Harvard Kennedy School. “Bukan seperti kita memiliki pemilihan yang sempurna sepanjang sejarah kita dan sekarang tiba-tiba ada AI dan semuanya adalah informasi yang salah.”
Tapi jangan salah paham—ada deepfakes yang menyesatkan yang menyebar selama pemilihan ini. Misalnya, di hari-hari sebelum pemilihan di Bangladesh, deepfakes beredar online mendorong pendukung salah satu partai politik negara itu untuk boikot pemungutan suara. Sam Gregory, direktur program dari organisasi nirlaba Witness, yang membantu orang menggunakan teknologi untuk mendukung hak asasi manusia dan menjalankan program deteksi respons cepat untuk organisasi masyarakat sipil dan jurnalis, mengatakan bahwa timnya melihat peningkatan kasus deepfakes tahun ini.
“Dalam konteks pemilihan yang berbeda,” katanya, “ada contoh penggunaan media sintetis yang menyesatkan atau membingungkan dalam format audio, video, dan gambar yang membuat bingung jurnalis atau tidak mungkin bagi mereka untuk sepenuhnya memverifikasi atau menantangnya.” Apa yang terungkap oleh hal ini, katanya, adalah bahwa alat dan sistem yang saat ini ada untuk mendeteksi media yang dihasilkan oleh AI masih tertinggal di belakang perkembangan teknologi tersebut. Di tempat-tempat di luar AS dan Eropa Barat, alat deteksi tersebut bahkan kurang dapat diandalkan.
“Untungnya, AI dalam cara yang menyesatkan tidak digunakan dalam skala besar dalam kebanyakan pemilihan atau dalam cara yang menentukan, tetapi sangat jelas bahwa ada kesenjangan dalam alat deteksi dan akses ke mereka bagi orang yang paling membutuhkannya,” kata Gregory. “Ini bukan saatnya untuk sikap puas.”
Adanya media sintetis itu sendiri, katanya, berarti bahwa politisi telah dapat menuduh bahwa media nyata adalah palsu—fenomena yang dikenal sebagai “dividen pembohong.” Pada bulan Agustus, Donald Trump menyatakan bahwa gambar yang menunjukkan kerumunan besar orang yang hadir di rapat-rapat untuk Wakil Presiden Kamala Harris adalah dihasilkan oleh AI. (Mereka bukan.) Gregory mengatakan bahwa dalam analisis semua laporan kepada pasukan respons cepat deepfake Witness, sekitar sepertiga dari kasus-kasus tersebut melibatkan politisi yang menggunakan AI untuk menolak bukti dari suatu peristiwa nyata—banyak di antaranya melibatkan percakapan yang bocor.