OpenAI semakin menjadi platform pilihan bagi pelaku cyber yang ingin mempengaruhi pemilihan demokratis di seluruh dunia.
Dalam laporan berhalaman 54 yang diterbitkan Rabu, pencipta ChatGPT mengatakan bahwa mereka telah mengganggu “lebih dari 20 operasi dan jaringan penipuan dari seluruh dunia yang mencoba menggunakan model mereka.” Ancaman tersebut bervariasi mulai dari artikel situs web yang dihasilkan oleh AI hingga pos media sosial oleh akun palsu.
Perusahaan tersebut mengatakan pembaruan mereka tentang “pengaruh dan operasi cyber” dimaksudkan untuk memberikan “gambaran” tentang apa yang mereka lihat dan untuk mengidentifikasi “serangkaian tren awal yang kami percaya dapat menginformasikan perdebatan tentang bagaimana AI masuk ke dalam lanskap ancaman yang lebih luas.”
Laporan OpenAI ini muncul kurang dari sebulan sebelum pemilihan presiden AS. Di luar AS, ini adalah tahun yang signifikan untuk pemilihan di seluruh dunia, dengan kontes yang berlangsung yang mempengaruhi lebih dari 4 miliar orang di lebih dari 40 negara. Meningkatnya konten yang dihasilkan oleh AI telah menimbulkan kekhawatiran serius terkait misinformasi terkait pemilihan, dengan jumlah deepfake yang telah dibuat meningkat 900% setiap tahun, menurut data dari Clarity, sebuah perusahaan pembelajaran mesin.
Misinformasi dalam pemilihan bukanlah fenomena baru. Ini telah menjadi masalah besar yang bermula dari kampanye presiden AS 2016, di mana pelaku Rusia menemukan cara yang murah dan mudah untuk menyebarkan konten palsu di platform sosial. Pada tahun 2020, jaringan sosial dipenuhi dengan misinformasi tentang vaksin Covid dan kecurangan pemilihan.
Keberatan para pembuat kebijakan saat ini lebih fokus pada lonjakan AI generatif, yang mulai populer pada akhir 2022 dengan peluncuran ChatGPT dan sekarang diadopsi oleh perusahaan-perusahaan dari berbagai ukuran.
OpenAI menulis dalam laporannya bahwa penggunaan AI terkait pemilihan “berkisar dalam kompleksitas mulai dari permintaan sederhana untuk menghasilkan konten, hingga upaya multi-tahap yang kompleks untuk menganalisis dan menjawab pos media sosial.” Konten media sosial terkait utamanya dengan pemilihan di AS dan Rwanda, dan dalam tingkat yang lebih kecil, pemilihan di India dan UE, kata OpenAI.
Pada akhir Agustus, sebuah operasi Iran menggunakan produk OpenAI untuk menghasilkan “artikel panjang” dan komentar media sosial tentang pemilihan AS, serta topik lain, tetapi perusahaan tersebut mengatakan sebagian besar posting yang diidentifikasi menerima sedikit atau tidak ada suka, bagikan, dan komentar. Pada bulan Juli, perusahaan tersebut melarang akun ChatGPT di Rwanda yang memposting komentar terkait pemilihan di X. Dan pada bulan Mei, sebuah perusahaan Israel menggunakan ChatGPT untuk menghasilkan komentar media sosial tentang pemilihan di India. OpenAI menulis bahwa mereka dapat menangani kasus tersebut dalam waktu kurang dari 24 jam.
Pada bulan Juni, OpenAI mengatasi operasi rahasia yang menggunakan produk mereka untuk menghasilkan komentar tentang pemilihan Parlemen Eropa di Prancis, dan politik di AS, Jerman, Italia, dan Polandia. Perusahaan tersebut mengatakan bahwa sementara sebagian besar posting media sosial yang mereka identifikasi menerima sedikit suka atau bagikan, beberapa orang nyata membalas posting yang dihasilkan oleh AI.
Tidak ada dari operasi terkait pemilihan yang dapat menarik “keterlibatan viral” atau membangun “audien yang berkelanjutan” melalui penggunaan ChatGPT dan alat-alat lain dari OpenAI, demikian tulis perusahaan tersebut.
TONTON: Prospek pemilihan bisa positif atau sangat negatif bagi China