Menandai Meta pada Gambar yang Dihasilkan oleh AI di Facebook, Instagram, dan Threads

Meta akan mulai memberi label pada foto yang dihasilkan oleh kecerdasan buatan (AI) yang diunggah ke Facebook, Instagram, dan Threads dalam beberapa bulan mendatang seiring dengan meningkatnya musim pemilihan di seluruh dunia. Perusahaan ini juga akan mulai memberikan sanksi kepada pengguna yang tidak mengungkapkan apakah video atau audio realistis dibuat dengan menggunakan AI.

Nick Clegg, Presiden Urusan Global Meta, mengatakan dalam sebuah wawancara bahwa langkah-langkah ini dimaksudkan untuk “menggerakkan” industri teknologi karena media yang dihasilkan oleh kecerdasan buatan semakin sulit dibedakan dari kenyataan. Gedung Putih telah mendorong keras agar perusahaan-perusahaan memberikan tanda air pada konten yang dihasilkan oleh AI. Sementara itu, Meta sedang membangun alat-alat untuk mendeteksi media sintetis bahkan jika metadata-nya telah diubah untuk menyembunyikan peran AI dalam pembuatannya, kata Clegg.

Meta sudah memberikan tanda air “Dibuat dengan AI” pada gambar yang dibuat dengan generator AI Imagine miliknya sendiri, dan perusahaan ini akan mulai melakukan hal yang sama pada foto yang dihasilkan oleh AI yang dibuat dengan alat-alat dari Google, OpenAI, Microsoft, Adobe, Midjourney, dan Shutterstock. Clegg mengatakan industri ini masih tertinggal dalam membangun standar untuk mengidentifikasi video dan audio yang dihasilkan oleh AI, dan meskipun Meta waspada terhadap bagaimana media semacam itu dapat digunakan untuk menipu, perusahaan ini tidak akan mampu menangkap semua hal tersebut sendiri.

“Bagi mereka yang khawatir tentang video, konten audio yang dirancang untuk menipu publik dalam hal penting politik menjelang pemilihan, kami akan sangat waspada,” katanya. “Apakah saya berpikir ada kemungkinan bahwa sesuatu mungkin terjadi di mana, bagaimanapun cepatnya terdeteksi atau cepatnya diberi label, kami masih dituduh tidak berperan dengan baik? Ya, saya pikir itu mungkin terjadi, jika tidak bahkan mungkin.”

Contoh gambar AI yang diberi tanda air yang dibuat dengan alat gratis Meta. The Verge

Clegg mengatakan Meta akan segera mulai menuntut penggunanya untuk mengungkapkan ketika postingan video atau audio realistis dibuat dengan menggunakan AI. Jika tidak, “rentang hukuman yang akan diberlakukan akan mencakup berbagai peringatan hingga penghapusan” dari postingan yang melanggar, katanya.

Sudah banyak contoh postingan viral yang dihasilkan oleh AI tentang politikus, tetapi Clegg menganggap peluang fenomena tersebut menguasai platform Meta dalam tahun pemilihan sangat kecil. “Saya pikir sangat tidak mungkin Anda akan mendapatkan video atau audio yang sepenuhnya sintetis dengan kepentingan politik yang sangat penting yang kita tidak dapat melihatnya dengan cukup cepat,” katanya. “Saya hanya tidak berpikir bahwa itulah cara yang akan terjadi.”

Meta juga mulai menguji penggunaan model bahasa besar (LLM) yang dilatih dengan menggunakan Standar Komunitasnya secara internal, katanya, menyebutnya sebagai “mekanisme triase” yang efisien bagi puluhan ribu moderator manusia Meta. “Ini tampaknya menjadi cara yang sangat efektif dan cukup presisi untuk memastikan bahwa apa yang ditingkatkan kepada reviewer manusia kami benar-benar merupakan kasus-kasus yang rumit yang memerlukan penilaian manusia.”