FabrikaCr/Getty Images
Seiring meluasnya AI generatif dalam beberapa tahun terakhir, kekhawatiran akan penyalahgunaan teknologi ini juga meningkat.
Alat seperti ChatGPT mampu menghasilkan teks, gambar, video, dan suara yang nyaris sempurna. Pengembang sistem ini menjanjikan peningkatan produktivitas bisnis dan kreativitas manusia, sementara pakar keamanan dan pembuat kebijakan khawatir akan gelombang misinformasi serta risiko lainnya yang mungkin timbul.
OpenAI — pemimpin dalam perlombaan AI saat ini — menerbitkan laporan tahunan yang mengungkap berbagai cara aktor jahat memanfaatkan sistem AI mereka. “Investigasi AI adalah bidang yang terus berkembang,” tulis perusahaan dalam laporan terbaru yang dirilis Kamis lalu. Setiap operasi yang kami hentikan memberi pemahaman lebih baik tentang cara pelaku ancaman menyalahgunakan model kami.”
Laporan baru ini merinci 10 contoh penyalahgunaan, empat di antaranya diduga berasal dari China.
Temuan Utama
Dalam setiap kasus, OpenAI menjelaskan cara mendeteksi dan mengatasi masalah.
Salah satu kasus yang diduga berasal dari China melibatkan akun ChatGPT yang membuat postingan media sosial dalam bahasa Inggris, Mandarin, dan Urdu. Akun utama mempublikasikan konten, lalu diikuti komentar-komentar palsu untuk menciptakan ilusi interaksi manusia asli seputar topik politik sensitif.
Menurut laporan, topik-topik tersebut — termasuk Taiwan dan pembubaran USAID — “selaras dengan kepentingan geostrategis China.”
Contoh lain yang terkait langsung dengan China adalah penggunaan ChatGPT untuk aktivitas siber berbahaya, seperti bruteforcing kata sandi dan penelitian catatan publik mengenai militer AS.
Kementerian Luar Negeri China membantah keterlibatan dalam aktivitas yang disebutkan di laporan OpenAI, menurut Reuters.
Permainan Kucing dan Tikus
Model penghasil teks seperti ChatGPT mungkin baru awal dari ancaman misinformasi AI.
Model text-to-video seperti Veo 3 Google semakin mampu menghasilkan video realistis, sementara model text-to-speech seperti ElevenLabs v3 menciptakan suara mirip manusia dengan mudah.
Meski pengembang biasanya menerapkan pengamanan, aktor jahat — seperti diungkap laporan OpenAI — semakin kreatif dalam penyalahgunaan. Kedua pihak terlibat dalam permainan kucing dan tikus, terutama karena belum ada regulasi federal yang kuat di AS.
Ingin cerita lebih banyak tentang AI? Daftar untuk newsletter mingguan kami, Innovation.