Salah satu akun terkemuka yang membagikan video tersebut adalah Russian Market, yang memiliki 330.000 pengikut dan dioperasikan oleh sosok media sosial Swiss, Vadim Loskutov, yang dikenal karena memuji Rusia dan mengkritik Barat. Video juga dibagikan oleh Tara Reade, yang membelot ke Rusia pada tahun 2023 dalam upaya untuk mendapatkan kewarganegaraan. Reid juga menuduh Biden melakukan pelecehan seksual terhadapnya pada tahun 1993.
Para peneliti mengatakan kepada WIRED bahwa video tersebut juga dimanipulasi untuk menghindari deteksi online. “Operator Doppelganger memotong video pada titik-titik sembarangan, sehingga secara teknis berbeda dalam milidetik dan oleh karena itu kemungkinan dianggap sebagai video unik yang berbeda oleh sistem perlindungan penyalahgunaan,” kata para peneliti Antibot4Navalny kepada WIRED.
“Ini unik dalam ambiguitasnya,” kata Fink. “Mungkin ini adalah band Rusia yang dikenal, tetapi mungkin juga bukan, mungkin deepfake, tetapi mungkin juga bukan, mungkin memiliki referensi ke politisi lain tetapi mungkin juga tidak. Dengan kata lain, ini adalah gaya propaganda Soviet yang khas. Ambiguitas memungkinkan adanya versi yang bersaing, yang berarti ratusan artikel dan argumen online, yang akhirnya membuat lebih banyak orang melihatnya.”
Ketika Kremlin meningkatkan upayanya untuk merusak pemilihan AS pada bulan November, semakin jelas bahwa Rusia bersedia menggunakan teknologi AI yang sedang berkembang. Laporan baru yang diterbitkan pekan ini oleh perusahaan intelijen ancaman Recorded Future menyoroti tren ini dengan mengungkapkan bahwa kampanye yang telah terkait dengan Kremlin telah menggunakan alat AI generatif untuk mendorong konten pro-Trump di jaringan situs web palsu.
Laporan tersebut menjelaskan bagaimana kampanye, yang diberi nama CopyCop, menggunakan alat AI untuk mengambil konten dari situs berita nyata, memodifikasi konten dengan bias sayap kanan, dan mempublikasikan konten tersebut di jaringan situs web palsu dengan nama seperti Red State Report dan Patriotic Review yang mengaku memiliki lebih dari 1.000 jurnalis—semua palsu dan juga diciptakan oleh AI.
Tema yang didorong oleh kampanye ini termasuk kesalahan yang dilakukan oleh Biden selama pidatonya, usia Biden, hasil jajak pendapat yang menunjukkan keunggulan untuk Trump, dan klaim bahwa putusan pidana dan persidangan Trump baru-baru ini “tidak berdampak” dan “kacau total.”
Masih belum jelas seberapa besar dampak situs-situs ini, dan tinjauan oleh WIRED terhadap platform media sosial menemukan sangat sedikit tautan ke jaringan situs web palsu yang dibuat oleh CopyCop. Tetapi apa yang telah dibuktikan oleh kampanye CopyCop adalah bahwa AI dapat mempercepat penyebaran disinformasi. Dan para ahli mengatakan bahwa ini kemungkinan hanya langkah pertama dalam strategi yang lebih luas yang kemungkinan akan melibatkan jaringan seperti Doppelganger.
“Mengestimasi keterlibatan dengan situs web itu sendiri tetap menjadi tugas yang sulit,” kata Clément Briens, seorang analis di Recorded Future, kepada WIRED. “Konten yang dihasilkan AI kemungkinan besar tidak menarik perhatian sama sekali. Namun, itu berfungsi untuk membantu menetapkan situs web ini sebagai aset yang kredibel ketika mereka menerbitkan konten yang ditargetkan seperti deepfake [yang] diperkuat oleh aktor-aktor pengaruh Rusia atau pro-Rusia yang sudah memiliki pengikut dan audiens.”