TikTok sedang mencoba lagi untuk mengendalikan penyebaran informasi yang diproduksi oleh AI yang merajalela di platform media sosial, saat ini mengumumkan cara baru AI penandaannya.
Platform tersebut mengumumkan hari ini bahwa ia bergabung dengan Inisiatif Autentisitas Konten yang dipimpin oleh Adobe dan Koalisi untuk Provenans dan Autentisitas Konten (C2PA), sebuah proyek nirlaba yang didukung oleh organisasi untuk menyelaraskan perusahaan teknologi dan media sosial mengenai praktik terbaik untuk apa yang dikenal sebagai “provenans konten,” atau “fakta dasar dan tepercaya tentang asal-usul suatu konten digital.”
Meskipun TikTok sudah menandai konten yang dihasilkan oleh AI (AIGC) yang dibuat menggunakan efek AI-nya sendiri, dan mengharuskan pengguna untuk menandai konten AI yang diunggah sendiri, kebijakan baru ini akan menerapkan pengawasan otomatis pada konten yang dibuat di luar situs. Niat yang diungkapkan oleh TikTok dengan kolaborasi ini adalah agar sistem penandaan otomatis dapat membaca Kredensial Konten untuk mengurai metadata gambar atau video dan dengan cepat mengidentifikasi bahwa konten tersebut dihasilkan oleh AI.
Platform ini juga mengatakan bahwa akan mulai melampirkan Kredensial Konten ke konten TikTok itu sendiri, sehingga orang lain dapat mengetahui kapan, di mana, dan bagaimana konten itu dibuat atau disunting. Sekarang ini adalah perusahaan media sosial dan platform video pertama yang menyetujui standar Kredensial Konten Adobe, seperti yang dilaporkan oleh Fortune.
Sementara para ahli secara luas merekomendasikan penandaan AIGC sebagai cara untuk mendukung kreasi konten yang bertanggung jawab, mereka juga memperingatkan bahwa label tersebut bisa menyebabkan kebingungan jika penonton tidak memiliki konteks tentang apa yang mereka artikan,” tulis perusahaan dalam pengumumannya. “Itulah mengapa kami telah bekerja dengan para ahli untuk mengembangkan kampanye literasi media yang dapat membantu komunitas kami mengidentifikasi dan berpikir secara kritis tentang AIGC dan informasi yang salah.”
TikTok juga akan merilis 12 sumber daya literasi media baru yang dibuat bersama Institut Poynter’s Mediawise, sebuah proyek pemeriksaan fakta yang difokuskan pada pemuda, dan WITNESS, sebuah organisasi hak asasi manusia yang mengajarkan warga sipil cara menggunakan teknologi untuk merekam dan melindungi diri. WITNESS juga memberikan panduan dan saran untuk membedakan deepfakes dan ancaman AI lainnya.
Platform teknologi lainnya, yang sama-sama dibanjiri oleh produk AI generatif, telah mengambil langkah mereka sendiri menuju penandaan dan penandaan air yang lebih baik. Meta mengumumkan label konten AI baru pada bulan April. Tidak lama setelah itu, Snapchat mengumumkan bahwa akan menambahkan penanda otomatis, tetapi terlihat oleh pengguna, ke semua konten yang dibuat menggunakan alat AI internalnya. Penanda logo Snapchat yang transparan ditambahkan ke gambar setelah diunduh ke perangkat atau diekspor dari platform.
Sementara itu, TikTok meluncurkan perlindungan AI yang dimaksudkan ini dalam sorotan perhatian yang ditujukan pada peran platform dalam organisasi global dan dampak potensialnya pada pemilihan presiden yang akan datang. Kebijakan baru ini juga muncul di tengah upaya terakhir perusahaan untuk menyelamatkan tempat aplikasi tersebut di ponsel AS, termasuk gugatan baru-baru ini terhadap pemerintah AS atas larangan yang disetujui oleh Biden.