Meta Mengumumkan Upaya Baru dalam Menghadapi Gambar yang Dihasilkan oleh AI
Meta mengumumkan beberapa upaya terkait gambar yang dihasilkan oleh kecerdasan buatan (AI) untuk membantu melawan disinformasi. Teknologi AI generatif membuat gambar-gambar yang terlihat seperti hasil karya manusia, sehingga semakin sulit membedakan mana yang asli dan mana yang dihasilkan oleh AI.
Pada hari Selasa, Meta mengumumkan melalui sebuah pos blog bahwa dalam beberapa bulan mendatang, mereka akan menambahkan label baru di Instagram, Facebook, dan Threads yang menunjukkan apakah sebuah gambar dihasilkan oleh AI.
Meta saat ini bekerja sama dengan mitra industri untuk menentukan standar teknis umum yang menandakan kapan konten dibuat menggunakan AI generatif. Dengan menggunakan sinyal tersebut, Meta sedang mengembangkan kemampuan untuk memberikan label dalam semua bahasa pada postingan di platform-platformnya, yang menunjukkan bahwa gambar tersebut dihasilkan oleh AI, seperti yang terlihat pada foto di bagian atas artikel ini.
“Seiring semakin kaburnya batas antara konten manusia dan sintetik, orang ingin tahu di mana batasannya,” kata Nick Clegg, Presiden Urusan Global Meta. “Oleh karena itu, penting bagi kita untuk membantu orang-orang mengetahui kapan konten fotorealistik yang mereka lihat dibuat menggunakan AI.”
Penandaan ini akan bekerja dengan cara yang mirip dengan label konten yang dihasilkan oleh AI di TikTok, yang dirilis pada bulan September dan muncul pada video TikTok yang berisi gambar, audio, atau video yang dihasilkan oleh AI dan terlihat realistis.
Meta menyertakan tanda-tanda yang terlihat, tanda air yang tidak terlihat, dan metadata IPTC yang tertanam di setiap gambar yang dihasilkan menggunakan kemampuan fotogenerasi AI Meta. Perusahaan kemudian memberi label pada gambar-gambar tersebut dengan label “Dibayangkan oleh AI” untuk menunjukkan bahwa gambar-gambar tersebut dibuat secara artifisial.
Meta mengatakan bahwa mereka sedang mengembangkan alat-alat terkemuka di industri yang dapat mendeteksi tanda air yang tidak terlihat, seperti metadata IPTC, pada gambar-gambar yang dihasilkan oleh generator AI dari perusahaan-perusahaan yang berbeda, termasuk Google, OpenAI, Microsoft, Adobe, Midjourney, dan Shutterstock, untuk juga menyertakan label AI pada gambar-gambar tersebut.
Tentu saja, hal ini menimbulkan celah bagi para pelaku jahat. Jika perusahaan tidak mematuhi penambahan metadata pada generator gambar AI-nya, Meta tidak akan memiliki cara untuk memberi label pada gambar tersebut. Meskipun demikian, langkah ini terlihat sebagai langkah yang positif.
Meskipun perusahaan-perusahaan telah berusaha untuk menyertakan sinyal pada gambar-gambar yang dihasilkan oleh AI, upaya yang sama belum dilakukan terkait video dan audio yang dihasilkan oleh AI. Sementara itu, Meta sedang menambahkan fitur di mana pengguna dapat mengungkapkan bahwa mereka menggunakan AI untuk menghasilkan sebuah gambar sehingga Meta dapat menambahkan label.
Perusahaan ini menerapkan pengungkapan sukarela dengan mengancam mengenakan sanksi jika pengguna tidak mengungkapkan penggunaan AI. Perusahaan ini juga memiliki kemampuan untuk menambahkan label yang lebih menonjol pada gambar, audio, atau video yang memiliki risiko tinggi untuk menyesatkan publik.
“Pada saat pengguna memposting konten organik berupa video yang terlihat fotorealistik atau audio yang terdengar realistis yang dibuat atau diubah secara digital, kami akan menuntut pengguna menggunakan alat pengungkapan dan label ini, dan kami mungkin memberikan sanksi jika mereka tidak melakukannya,” tambah Clegg.
Pengembangan alat-alat ini datang pada saat yang sangat penting menjelang pemilihan umum. Menciptakan disinformasi yang terlihat meyakinkan lebih mudah daripada sebelumnya dan dapat berdampak negatif pada opini publik terhadap para kandidat dan mengganggu proses demokrasi. Sebagai hasilnya, perusahaan lain, termasuk OpenAI, juga telah mengambil tindakan untuk menerapkan pengamanan sebelum pemilihan umum.