OpenAI pada hari Kamis merilis laporan pertamanya tentang bagaimana alat kecerdasan buatan digunakan untuk operasi pengaruh yang bersifat rahasia, mengungkapkan bahwa perusahaan telah mengganggu kampanye disinformasi yang berasal dari Rusia, China, Israel, dan Iran.
Pelaku jahat menggunakan model AI generatif perusahaan untuk membuat dan memposting konten propaganda di berbagai platform media sosial, dan untuk menerjemahkan konten mereka ke dalam berbagai bahasa. Tidak ada kampanye yang mendapat traksi atau mencapai audiens besar, menurut laporan tersebut.
Sebagai AI generatif telah menjadi industri yang berkembang pesat, telah ada kekhawatiran luas di kalangan peneliti dan pembuat kebijakan tentang potensinya untuk meningkatkan kuantitas dan kualitas disinformasi online. Perusahaan kecerdasan buatan seperti OpenAI, yang membuat ChatGPT, telah mencoba dengan hasil bercampur untuk menenangkan kekhawatiran ini dan menempatkan pagar-pagar di teknologi mereka.
Laporan OpenAI yang berhalaman 39 adalah salah satu akun terperinci dari perusahaan kecerdasan buatan tentang penggunaan perangkat lunaknya untuk propaganda. OpenAI mengklaim para peneliti mereka menemukan dan melarang akun yang terkait dengan lima operasi pengaruh rahasia selama tiga bulan terakhir, yang berasal dari campuran pelaku negara dan swasta.
Di Rusia, dua operasi menciptakan dan menyebar konten yang mengkritik AS, Ukraina, dan beberapa negara Baltik. Salah satu operasi menggunakan model OpenAI untuk mendebug kode dan membuat bot yang diposting di Telegram. Operasi pengaruh China menghasilkan teks dalam bahasa Inggris, Cina, Jepang, dan Korea, yang kemudian diunggah oleh operatif ke Twitter dan Medium.
Pelaku Iran menghasilkan artikel lengkap yang menyerang AS dan Israel, yang mereka terjemahkan ke dalam bahasa Inggris dan Prancis. Sebuah perusahaan politik Israel yang disebut Stoic menjalankan jaringan akun media sosial palsu yang membuat berbagai konten, termasuk posting yang menuduh protes mahasiswa AS terhadap perang Israel di Gaza sebagai antisemit.
Beberapa perambut disinformasi yang OpenAI larang dari platformnya sudah dikenal oleh peneliti dan otoritas. Departemen Keuangan AS memberlakukan sanksi terhadap dua pria Rusia pada bulan Maret yang diduga berada di balik salah satu kampanye yang dideteksi oleh OpenAI, sementara Meta juga melarang Stoic dari platformnya tahun ini karena melanggar kebijakannya.
Laporan juga menyoroti bagaimana AI generatif dimasukkan ke dalam kampanye disinformasi sebagai cara untuk meningkatkan beberapa aspek dari generasi konten, seperti membuat posting dalam bahasa asing yang lebih meyakinkan, tetapi bukan satu-satunya alat untuk propaganda.
“Semua operasi ini menggunakan AI sampai batas tertentu, tetapi tidak satupun dari mereka menggunakan AI secara eksklusif,” demikian laporan tersebut. “Sebaliknya, materi yang dihasilkan AI hanya salah satu dari banyak jenis konten yang mereka posting, bersamaan dengan format yang lebih tradisional, seperti teks yang ditulis secara manual, atau meme yang disalin dari internet.”
Meskipun kampanye tersebut tidak menghasilkan dampak yang berarti, penggunaan teknologi tersebut menunjukkan bagaimana pelaku jahat menemukan bahwa AI generatif memungkinkan mereka untuk meningkatkan produksi propaganda. Menulis, menerjemahkan, dan memposting konten sekarang dapat dilakukan dengan lebih efisien melalui penggunaan alat AI, menurunkan ambang untuk membuat kampanye disinformasi.
Selama setahun terakhir, pelaku jahat telah menggunakan AI generatif di berbagai negara di seluruh dunia untuk mencoba memengaruhi politik dan opini publik. Audio deepfake, gambar yang dihasilkan AI, dan kampanye berbasis teks semuanya telah digunakan untuk mengganggu kampanye pemilihan, yang menyebabkan tekanan meningkat pada perusahaan seperti OpenAI untuk membatasi penggunaan alat mereka.
OpenAI menyatakan bahwa mereka berencana untuk secara berkala merilis laporan serupa tentang operasi pengaruh rahasia, serta menghapus akun yang melanggar kebijakan mereka.