Ekstrimis di seluruh AS telah menggunakan alat kecerdasan buatan untuk membantu mereka menyebarkan ujaran kebencian dengan lebih efisien, merekrut anggota baru, dan meradikalisasi pendukung online dengan kecepatan dan skala yang belum pernah terjadi sebelumnya, menurut laporan terbaru dari Middle East Media Research Institute (MEMRI), sebuah organisasi pemantauan pers nirlaba Amerika.
Laporan tersebut menemukan bahwa konten yang dihasilkan oleh AI kini menjadi bagian utama output ekstrimis: Mereka sedang mengembangkan model AI mereka sendiri yang terinfeksi oleh ekstremisme, dan sudah mencoba cara-cara baru untuk memanfaatkan teknologi tersebut, termasuk memproduksi rancangan untuk senjata 3D dan resep untuk membuat bom.
Peneliti di Domestic Terrorism Threat Monitor, sebuah kelompok dalam institut yang khusus melacak ekstrimis berbasis AS, menguraikan dengan detail jelas skala dan ruang lingkup penggunaan AI di kalangan pelaku dalam negeri, termasuk neo-Nazi, supremasi kulit putih, dan ekstrimis anti-pemerintah.
“Awalnya ada sedikit keraguan seputar teknologi ini dan kami melihat banyak perdebatan dan diskusi di antara [ekstrimis] online tentang apakah teknologi ini dapat digunakan untuk tujuan mereka,” kata Simon Purdue, direktur Domestic Terrorism Threat Monitor di MEMRI, kepada para wartawan dalam sebuah briefing awal pekan ini. “Dalam beberapa tahun terakhir, kita telah melihat pergeseran dari konten AI sesekali menjadi AI menjadi bagian signifikan dari konten propaganda kebencian online, terutama ketika berkaitan dengan video dan propaganda visual. Jadi, ketika teknologi ini berkembang, kita akan melihat ekstrimis menggunakannya lebih banyak.”
Saat pemilihan AS semakin mendekat, tim Purdue sedang melacak sejumlah perkembangan yang mengkhawatirkan dalam penggunaan teknologi AI oleh ekstrimis, termasuk adopsi luas alat video AI.
“Tren terbesar yang kami perhatikan [pada 2024] adalah munculnya video,” kata Purdue. “Tahun lalu, konten video yang dihasilkan oleh AI sangat dasar. Tahun ini, dengan rilis Sora dari OpenAI, dan platform generasi atau manipulasi video lainnya, kami melihat ekstrimis menggunakan ini sebagai cara untuk memproduksi konten video. Kami melihat banyak kegembiraan seputar ini juga, banyak individu yang membicarakan bagaimana ini bisa memungkinkan mereka untuk memproduksi film berdurasi lengkap.”
Ekstrimis telah menggunakan teknologi ini untuk membuat video yang menampilkan Presiden Joe Biden menggunakan kata-kata kasar rasial selama pidato dan aktris Emma Watson membacakan Mein Kampf sambil berpakaian seragam Nazi.
Tahun lalu, WIRED melaporkan bagaimana ekstrimis yang terkait dengan Hamas dan Hezbollah menggunakan alat AI generatif untuk merusak database berbagi hash yang memungkinkan platform Big Tech untuk dengan cepat menghapus konten teroris secara bersamaan, dan saat ini tidak ada solusi yang tersedia untuk masalah ini.
Adam Hadley, direktur eksekutif Tech Against Terrorism, mengatakan bahwa dia dan rekan-rekannya telah mengarsipkan puluhan ribu gambar yang dihasilkan oleh AI yang dibuat oleh ekstrimis sayap kanan.
“Teknologi ini digunakan dalam dua cara utama,” kata Hadley kepada WIRED. “Pertama, AI generatif digunakan untuk membuat dan mengelola bot yang mengoperasikan akun palsu, dan kedua, sama seperti AI generatif merevolusi produktivitas, itu juga digunakan untuk menghasilkan teks, gambar, dan video melalui alat sumber terbuka. Kedua penggunaan tersebut menggambarkan risiko signifikan bahwa konten teroris dan kekerasan dapat diproduksi dan disebarkan dalam skala besar.”