OpenAI mengatakan pada hari Jumat bahwa mereka menangkap sebuah “operasi pengaruh Iran” menggunakan ChatGPT. Kelompok tersebut, yang dikenal sebagai Storm-1679, menghasilkan artikel dan komentar media sosial untuk membentuk opini publik seputar Wakil Presiden Kamala Harris dan mantan Presiden Donald Trump, menurut OpenAI. Selain membidik kandidat presiden AS 2024, OpenAI mengatakan Storm-1679 juga menghasilkan konten seputar invasi Israel ke Gaza dan kehadirannya di Olimpiade 2024, hak komunitas Latinx berbasis AS, politik Venezuela, dan kemerdekaan Skotlandia dari Inggris Raya.
Sebagian besar posting dan artikel yang ditemukan oleh OpenAI tidak mendapat banyak tanggapan dari orang sungguhan, kata perusahaan tersebut. Namun, mereka menggambarkan insiden tersebut secara detail di blog mereka, menulis bahwa mereka menemukan dua belas akun X (dahulu Twitter) yang menyamar sebagai konservatif dan progresif dan menggunakan tagar seperti “#DumpTrump” dan “#DumpKamala.” Storm-1679 juga menggunakan setidaknya satu akun Instagram untuk menyebarkan konten yang dihasilkan oleh AI, menurut OpenAI.
OpenAI sebelumnya telah menggambarkan “pelaku ancaman yang berafiliasi dengan negara” menggunakan alat mereka, tetapi ini adalah pertama kalinya mereka mengungkapkan kampanye interferensi pemilihan yang spesifik menggunakan ChatGPT.
OpenAI mengatakan mereka merespons penemuan tersebut dengan melarang “kelompok” akun yang membuat konten tersebut; perusahaan juga mengatakan bahwa mereka “membagikan intelijen ancaman dengan pihak pemerintah, kampanye, dan pemangku kepentingan industri.” Perusahaan tidak menyebutkan secara spesifik pihak-pihak tersebut, namun mereka membagikan tangkapan layar dari beberapa posting. Tangkapan layar itu menunjukkan jumlah tayangan mulai dari 8 hingga 207 tayangan dan hampir tidak ada like.
OpenAI mengatakan Storm-1679 juga membagikan artikel yang dihasilkan dengan ChatGPT di beberapa situs web yang “menyamar sebagai situs berita progresif dan konservatif.” Perusahaan menambahkan, “Sebagian besar posting media sosial yang kami identifikasi menerima sedikit atau tidak ada like, share, atau komentar. Kami juga tidak menemukan indikasi artikel web tersebut dibagikan di media sosial.”
Laporan 6 Agustus dari Microsoft menggambarkan Storm-2035 dengan cara yang sama – sebagai jaringan Iran dengan “empat situs web yang menyamar sebagai situs berita.” Menurut Microsoft, jaringan tersebut membuat posting yang “memecah belah” tentang pemilihan, hak LGBTQIA+, serta invasi Israel ke Gaza.
Laporan tentang interferensi asing online dalam pemilihan AS sekarang hampir menjadi hal umum. Laporan 6 Agustus dari Microsoft, misalnya, juga mendetailkan serangan phishing yang terkait dengan Iran yang menargetkan pejabat kampanye AS “berpangkat tinggi” yang tidak disebutkan namanya. Tak lama setelah Microsoft merilis laporan tersebut, kampanye Trump mengumumkan bahwa “sumber asing” telah mencuri beberapa email dan dokumen mereka dalam upaya untuk mempengaruhi pemilihan presiden 2024. Delapan tahun sebelumnya, sebuah kelompok peretasan terkait Rusia yang dikenal dengan nama Guccifer 2.0 berhasil mencuri email dan dokumen Partai Demokrat Nasional melalui serangan phishing serupa; mereka akhirnya membocorkan ribuan email dan dokumen DNC sebelum Konvensi Nasional Demokrat 2016.
Dibawah tekanan dari para legislator, perusahaan teknologi besar telah meluncurkan berbagai upaya selama bertahun-tahun sebagai respons terhadap insiden-insiden tersebut. Upaya mereka termasuk fakta meme, pikiran yang berharap, larangan iklan politik yang singkat, “ruang perang,” dan kerjasama dengan pesaing dan polisi.