Pembuat ChatGPT mengatakan operasi pengaruh gagal mencapai traksi atau mencapai audiens besar.
Perusahaan kecerdasan buatan OpenAI mengumumkan bahwa mereka mengganggu kampanye pengaruh tersembunyi yang berasal dari Rusia, Tiongkok, Israel, dan Iran.
Pembuat ChatGPT mengatakan pada hari Kamis bahwa mereka mengidentifikasi lima kampanye yang melibatkan “upaya menipu untuk memanipulasi opini publik atau memengaruhi hasil politik tanpa mengungkapkan identitas atau tujuan sebenarnya dari para pelakunya”.
Kampanye tersebut menggunakan model OpenAI untuk menghasilkan teks dan gambar yang diposting di platform media sosial seperti Telegram, X, dan Instagram, dalam beberapa kasus memanfaatkan alat-alat tersebut untuk menghasilkan konten dengan “sedikit kesalahan bahasa daripada yang akan mungkin dilakukan oleh operator manusia,” kata OpenAI.
Open AI mengatakan mereka telah menghentikan akun yang terkait dengan dua operasi Rusia, yang disebut Bad Grammer dan Doppelganger; kampanye Tiongkok yang dikenal sebagai Spamouflage; jaringan Iran yang disebut International Union of Virtual Media; dan operasi Israel yang disebut Zero Zeno.
“Kami berkomitmen untuk mengembangkan kecerdasan buatan yang aman dan bertanggung jawab, yang melibatkan desain model kami dengan memperhatikan keamanan dan intervensi proaktif terhadap penggunaan jahat,” kata start-up yang berbasis di California itu dalam sebuah pernyataan yang diposting di situs web mereka.
“Mendeteksi dan mengganggu penyalahgunaan multi-platform seperti operasi pengaruh tersembunyi dapat menjadi tantangan karena kami tidak selalu tahu bagaimana konten yang dihasilkan oleh produk kami didistribusikan. Tapi kami berkomitmen untuk menemukan dan mengurangi penyalahgunaan ini secara besar-besaran dengan memanfaatkan kekuatan kecerdasan buatan yang generatif.”
Bad Grammar dan Doppelganger sebagian besar menghasilkan konten tentang perang di Ukraina, termasuk narasi yang menampilkan Ukraina, Amerika Serikat, NATO, dan Uni Eropa dalam cahaya negatif, menurut OpenAI.
Spamouflage menghasilkan teks dalam bahasa Tionghoa, Inggris, Jepang, dan Korea yang kritis terhadap kritikus terkemuka Beijing, termasuk aktor dan aktivis Tibet Richard Gere dan dissiden Cai Xia, dan menyoroti penyalahgunaan terhadap suku asli Amerika, menurut start-up tersebut.
International Union of Virtual Media menghasilkan dan menerjemahkan artikel yang mengkritik AS dan Israel, sementara Zero Zeno menyasar agensi PBB untuk pengungsi Palestina dan “Islamis radikal” di Kanada, kata OpenAI.
Meskipun upaya untuk memengaruhi wacana publik, operasi-operasi tersebut “tidak tampak mengalami peningkatan keterlibatan atau jangkauan audiens yang berarti sebagai hasil dari layanan kami,” kata perusahaan tersebut.
Potensi kecerdasan buatan untuk digunakan dalam penyebaran disinformasi telah muncul sebagai topik pembicaraan utama ketika pemilih di lebih dari 50 negara memberikan suara mereka dalam apa yang disebut sebagai tahun pemilu terbesar dalam sejarah.
Minggu lalu, pihak berwenang di negara bagian AS New Hampshire mengumumkan bahwa mereka telah menuntut konsultan politik Partai Demokrat atas lebih dari dua puluh tuduhan karena diduga mengatur panggilan robocall yang menggunakan kepalsuan penciptaan AI dari Presiden AS Joe Biden untuk mendorong para pemilih untuk tidak memberikan suara dalam pemilihan presiden negara bagian itu.
Selama masa persiapan pemilihan parlemen Pakistan pada Februari, mantan Perdana Menteri Imran Khan yang dipenjara menggunakan pidato yang dihasilkan oleh AI untuk membangkitkan dukungan di tengah larangan pemerintah terhadap unjuk rasa publik.