“Kita sedang memasuki fase baru perang informasi di platform media sosial dimana kemajuan teknologi telah membuat pendekatan bot klasik menjadi usang,” ungkap Jonas Kunst, profesor komunikasi di BI Norwegian Business School dan salah satu penulis bersama laporan tersebut.
Bagi para pakar yang telah bertahun-tahun melacak dan memerangi kampanye disinformasi, makalah ini menggambarkan masa depan yang mencemaskan.
“Bagaimana jika AI tidak hanya memproduksi halusinasi informasi, tetapi ribuan chatbot AI bekerja sama untuk menciptakan ilmu dukungan akar rumput yang sebenarnya tidak ada? Itulah masa depan yang dibayangkan makalah ini—ladang troll Rusia dalam versi yang jauh lebih kuat,” kata Nina Jankowicz, mantan penasihat disinformasi pemerintahan Biden yang kini menjabat CEO American Sunlight Project.
Para peneliti menyatakan belum jelas apakah taktik ini sudah digunakan, karena sistem yang ada saat ini untuk melacak dan mengidentifikasi perilaku tidak autentik yang terkoordinasi belum mampu mendeteksinya.
“Karena fitur elusif mereka yang meniru manusia, sangat sulit untuk benar-benar mendeteksi dan menilai sejauh mana keberadaan mereka,” jelas Kunst. “Kami kurang mendapat akses ke kebanyakan platform [media sosial] karena platform semakin restriktif, sehingga sulit mendapat gambaran menyeluruh. Secara teknis, ini sangat mungkin. Kami cukup yakin bahwa ini sedang diuji.”
Kunst menambahkan bahwa sistem ini kemungkinan masih memiliki pengawasan manusia selama pengembangannya, dan memprediksi bahwa meski mungkin tidak berdampak besar pada pemilu paruh waktu AS 2026 bulan November nanti, sistem ini sangat mungkin dikerahkan untuk mengganggu pemilu presiden 2028.
Akun-akun yang tidak dapat dibedakan dari manusia di platform media sosial hanyalah satu masalah. Kemampuan untuk memetakan jejaring sosial secara besar-besaran akan, menurut peneliti, memungkinkan koordinator kampanye disinformasi untuk menyasar agen-agen di komunitas tertentu, guna memastikan dampak yang maksimal.
“Dilengkapi dengan kemampuan seperti itu, kawanan AI dapat memposisikan diri untuk dampak terbesar dan menyesuaikan pesan dengan keyakinan serta isyarat budaya setiap komunitas, memungkinkan penargetan yang lebih presisi dibandingkan botnet sebelumnya,” tulis mereka.
Sistem seperti ini pada dasarnya dapat memperbaiki diri sendiri, menggunakan respons terhadap postingan mereka sebagai umpan balik untuk meningkatkan penalaran agar pesan dapat disampaikan lebih baik. “Dengan sinyal yang cukup, mereka dapat menjalankan jutaan tes mikro A/B, menyebarkan varian yang menang pada kecepatan mesin, dan beriterasi jauh lebih cepat dari manusia,” tulis para peneliti.
Untuk menghadapi ancaman yang ditimbulkan oleh kawanan AI, para peneliti menyarankan pembentukan ‘Observatorium Pengaruh AI’, yang terdiri dari orang-orang dari kelompok akademik dan organisasi nonpemerintah yang bekerja untuk “menstandarisasi bukti, meningkatkan kesadaran situasional, dan memungkinkan respons kolektif yang lebih cepat alih-alih memberlakukan hukuman reputasi secara top-down.”
Satu kelompok yang tidak disertakan adalah eksekutif dari platform media sosial itu sendiri, terutama karena para peneliti yakin perusahaan mereka mendorong keterlibatan pengguna di atas segalanya, dan karenanya memiliki sedikit insentif untuk mengidentifikasi kawanan AI ini.
“Katakanlah kawanan AI menjadi begitu sering hingga Anda tidak bisa mempercayai siapa pun dan orang-orang meninggalkan platform,” kata Kunst. “Tentu, hal itu mengancam model bisnis. Jika mereka hanya meningkatkan keterlibatan, bagi sebuah platform lebih baik tidak mengungkap ini, karena terlihat ada lebih banyak keterlibatan, lebih banyak iklan yang dilihat, yang akan positif bagi valuasi perusahaan tertentu.”
Selain kurangnya tindakan dari platform, para ahli meyakini ada sedikit insentif bagi pemerintah untuk terlibat. “Lanskap geopolitik saat ini mungkin tidak ramah bagi ‘Observatorium’ yang pada dasarnya memantau diskusi daring,” kata Olejnik. Pendapat ini disetujui Jankowicz: “Yang paling mengerikan dari masa depan ini adalah sangat sedikit kemauan politik untuk mengatasi dampak buruk yang diciptakan AI, artinya [kawanan AI] mungkin segera menjadi kenyataan.”