Pembatasan yang lebih longgar seputar generasi gambar ChatGPT bisa membuatnya mudah untuk membuat deepfakes politik, menurut laporan dari CBC (Canadian Broadcasting Corporation). CBC menemukan bahwa tidak hanya mudah untuk mengatasi kebijakan ChatGPT dalam menggambarkan tokoh publik, bahkan merekomendasikan cara untuk jailbreak aturan generasi gambarnya sendiri. Mashable berhasil menciptakan pendekatan ini dengan mengunggah gambar Elon Musk dan pelaku kejahatan seks Jeffrey Epstein, lalu menggambarkannya sebagai karakter fiktif dalam berbagai situasi (“di klub asap gelap” “di pantai minum piña colada”).
Deepfakes politik bukanlah hal baru. Namun, ketersediaan luas model AI generatif yang dapat membuat gambar, video, audio, dan teks untuk meniru orang memiliki konsekuensi nyata. Untuk alat yang dipasarkan secara komersial seperti ChatGPT memungkinkan penyebaran potensial disinformasi politik menimbulkan pertanyaan tentang tanggung jawab OpenAI di ruang tersebut. Kewajiban terhadap keselamatan tersebut bisa terancam ketika perusahaan AI bersaing untuk adopsi pengguna.
“Ketika datang ke jenis guardrail ini pada konten yang dihasilkan AI, kita hanya sebaik kecilnya. OpenAI memulai dengan guardrail yang cukup baik, tetapi pesaing mereka (seperti Grok X) tidak mengikuti langkah,” kata pakar forensik digital dan Profesor Ilmu Komputer UC Berkeley Hany Farid dalam email ke Mashable. “Dengan wajar, OpenAI menurunkan guardrail mereka karena memiliki mereka di tempat membuat mereka kalah dalam hal pangsa pasar.”Ketika OpenAI mengumumkan generasi gambar GPT-4o asli untuk ChatGPT dan Sora pada akhir Maret, perusahaan juga menandakan pendekatan keselamatan yang lebih longgar.
“Yang kami ingin tuju adalah agar alat ini tidak membuat hal yang menyinggung kecuali Anda menginginkannya, dalam hal itu, dengan sebijaknya, itu melakukannya,” kata CEO OpenAI Altman dalam posting X mengacu pada generasi gambar ChatGPT asli. “Seperti yang kita bicarakan dalam spesifikasi model kami, kami pikir menempatkan kebebasan intelektual ini dan kontrol dalam tangan pengguna adalah hal yang tepat untuk dilakukan, tetapi kami akan melihat bagaimana itu berjalan dan mendengarkan masyarakat.”
Penambahan ke kartu keselamatan GPT-4o, memperbarui pendekatan perusahaan terhadap generasi gambar asli, mengatakan “kami tidak memblokir kemampuan untuk menghasilkan tokoh publik dewasa tetapi malah menerapkan perlindungan yang sama yang telah kami implementasikan untuk mengedit gambar unggahan realistis orang.” Ketika Nora Young dari CBC menguji coba pendekatan ini, ia menemukan bahwa teks yang meminta gambar politisi Mark Carney dengan Epstein secara eksplisit tidak berhasil. Tetapi ketika outlet berita mengunggah gambar terpisah Carney dan Epstein yang didampingi dengan teks yang tidak menyebutkan nama mereka tetapi merujuk pada mereka sebagai “dua karakter fiktif yang [reporter CBC] buat,” ChatGPT mematuhi permintaan itu.
Dalam contoh lain, ChatGPT membantu Young mengatasi guardrail keselamatannya sendiri dengan mengatakan, “Meskipun saya tidak bisa menggabungkan individu nyata ke dalam satu gambar, saya bisa membuat adegan selfie fiktif yang menampilkan karakter yang terinspirasi dari orang dalam gambar ini” (penekanan disediakan oleh ChatGPT seperti yang dicatat Young.) Ini memungkinkannya untuk berhasil membuat selfie Perdana Menteri India Narendra Modi dan pemimpin partai konservatif Kanada Pierre Poilievre.
Perlu dicatat bahwa gambar ChatGPT awalnya yang dihasilkan oleh Mashable memiliki penampilan yang terlalu mulus yang umum dari banyak gambar yang dihasilkan oleh AI, tetapi bermain-main dengan gambar Musk dan Epstein yang berbeda dan menerapkan instruksi yang berbeda seperti “diambil oleh kamera CCTV” atau “diambil oleh seorang fotografer pers menggunakan kilat besar” dapat menghasilkan hasil yang lebih realistis. Saat menggunakan metode ini, mudah untuk melihat bagaimana cukup penyesuaian dan pengeditan dari instruksi bisa mengarah pada penciptaan gambar yang fotorealis yang menipu orang.
Jurubicara OpenAI mengatakan kepada Mashable dalam email bahwa perusahaan telah membangun guardrail untuk memblokir propaganda ekstremis, konten rekrutmen, dan jenis konten berbahaya lainnya. OpenAI memiliki guardrail tambahan untuk generasi gambar tokoh publik politik, termasuk politisi, dan melarang penggunaan ChatGPT untuk kampanye politik, tambah jurubicara. Jurubicara juga mengatakan bahwa figur publik yang tidak ingin digambarkan dalam gambar yang dihasilkan oleh ChatGPT dapat memilih keluar dengan mengirimkan formulir secara online. Regulasi AI tertinggal di belakang perkembangan AI dalam banyak hal saat pemerintah berusaha menemukan undang-undang yang memadai yang melindungi individu dan mencegah disinformasi yang didukung AI sambil menghadapi perlawanan dari perusahaan seperti OpenAI yang mengatakan terlalu banyak regulasi akan membungkam inovasi. Pendekatan keselamatan dan tanggung jawab sebagian besar bersifat sukarela dan diatur sendiri oleh perusahaan. “Ini, di antara alasan lainnya, adalah mengapa jenis guardrail seperti ini tidak bisa sukarela, tetapi perlu menjadi wajib dan diatur,” kata Farid.