Pada awal bulan ini, pengadilan Jerman memutuskan bahwa partai sayap kanan nasionalis negara tersebut, Alternative for Germany (AfD), berpotensi “ekstremis” dan dapat membutuhkan pengawasan oleh aparat intelijen negara tersebut. Iklan kampanye yang ditempatkan oleh AfD diizinkan muncul di Facebook dan Instagram bagaimanapun juga, menurut laporan terbaru dari organisasi advokasi nirlaba Ekō yang dibagikan secara eksklusif dengan WIRED. Peneliti menemukan 23 iklan yang mengakumulasi 472.000 tayangan dari partai di Facebook dan Instagram yang tampak melanggar kebijakan Meta sendiri seputar ujaran kebencian. Iklan-iklan tersebut mendorong narasi bahwa imigran berbahaya dan menjadi beban bagi negara Jerman menjelang pemilihan Uni Eropa pada bulan Juni. Salah satu iklan yang ditempatkan oleh politikus AfD Gereon Bollman menegaskan bahwa Jerman telah melihat “ledakan kekerasan seksual” sejak tahun 2015, dengan menyalahkan imigran dari Turki, Suriah, Afghanistan, dan Irak. Iklan tersebut dilihat oleh antara 10.000 hingga 15.000 orang dalam empat hari, antara tanggal 16 dan 20 Maret 2024. Iklan lain, yang memiliki lebih dari 60.000 tayangan, menampilkan seorang pria berkulit warna berbaring di atas hammock. Teks yang tumpang tindih berbunyi, “AfD mengungkapkan: 686.000 orang asing ilegal tinggal atas biaya kita!” Ekō juga dapat mengidentifikasi setidaknya tiga iklan yang tampaknya menggunakan AI generatif untuk memanipulasi gambar, meskipun hanya satu dijalankan setelah Meta menerapkan kebijakan media yang dimanipulasi. Salah satunya menampilkan seorang wanita kulit putih dengan luka yang terlihat, dengan teks pendamping yang mengatakan “hubungan antara migrasi dan kejahatan telah ditolak selama bertahun-tahun.” “Meta, dan memang perusahaan lainnya, memiliki kemampuan yang sangat terbatas untuk mendeteksi alat pihak ketiga yang menghasilkan gambar AI,” kata Vicky Wyatt, direktur kampanye senior di Ekō. “Ketika partai ekstremis menggunakan alat-alat tersebut dengan iklan mereka, mereka dapat menciptakan gambar yang sangat emosional yang benar-benar dapat menggerakkan orang. Jadi ini sungguh mengkhawatirkan.” Dalam penyerahannya kepada konsultasi Komisi Eropa tentang pedoman pemilihan, yang diperoleh melalui permintaan informasi yang diajukan oleh Ekō, Meta mengatakan “belum mungkin bagi penyedia untuk mengidentifikasi seluruh konten yang dihasilkan AI, terutama ketika pelaku mengambil langkah-langkah untuk menghindari deteksi, termasuk dengan menghapus penanda yang tidak terlihat.” Kebijakan Meta sendiri melarang iklan yang “mengklaim orang sebagai ancaman terhadap keselamatan, kesehatan, atau kelangsungan hidup orang lain berdasarkan karakteristik personal mereka” dan iklan yang “termasuk generalisasi yang menyatakan inferioritas, pernyataan lain tentang inferioritas, ungkapan penghinaan, ungkapan penolakan, ungkapan jijik, atau umpatan berdasarkan status imigrasi.” “Kami tidak mengizinkan ujaran kebencian di platform kami dan memiliki Standar Komunitas yang berlaku untuk semua konten – termasuk iklan,” kata juru bicara Meta Daniel Roberts. “Proses peninjauan iklan kami memiliki beberapa lapisan analisis dan deteksi, baik sebelum maupun setelah iklan mulai ditayangkan, dan sistem ini adalah salah satu dari banyak yang kami miliki untuk melindungi pemilihan Eropa.” Roberts mengatakan perusahaan berencana untuk meninjau iklan yang ditandai oleh Ekō tetapi tidak merespons pertanyaan tentang apakah penetapan pengadilan Jerman terhadap AfD sebagai berpotensi ekstremis akan menarik perhatian lebih lanjut dari Meta. Iklan yang ditargetkan, kata Wyatt, dapat menjadi kuat karena kelompok ekstremis dapat lebih efektif menargetkan orang yang mungkin merasa simpati dengan pandangan mereka dan “menggunakan perpustakaan iklan Meta untuk mencapai mereka.” Wyatt juga mengatakan ini memungkinkan kelompok tersebut untuk menguji pesan mana yang lebih mungkin merespons dengan pemilih.
