Youtube telah memperbarui aturannya untuk era deepfakes. Mulai hari ini, siapapun yang mengunggah video ke platform harus mengungkapkan penggunaan media sintetis tertentu, termasuk kecerdasan buatan generatif, sehingga penonton tahu bahwa apa yang mereka lihat bukanlah sesuatu yang nyata. Youtube mengatakan bahwa aturan ini berlaku untuk media yang diubah secara “realistis” seperti “membuatnya terlihat seolah-olah sebuah bangunan nyata terbakar” atau menukar “wajah seseorang dengan wajah orang lain.”
Kebijakan baru ini menunjukkan Youtube mengambil langkah-langkah yang dapat membantu mengurangi penyebaran misinformasi yang dihasilkan oleh kecerdasan buatan menjelang pemilihan presiden AS. Kebijakan ini juga mencolok karena apa yang diperbolehkan; animasi yang dihasilkan oleh kecerdasan buatan yang ditujukan untuk anak-anak tidak tunduk pada aturan pengungkapan konten sintetis yang baru.
Kebijakan baru Youtube mengkecualikan konten animasi sepenuhnya dari persyaratan pengungkapan. Hal ini berarti bahwa para pembuat konten yang cepat kaya dengan membuat konten yang dihasilkan oleh kecerdasan buatan dapat terus menghasilkan video yang ditujukan untuk anak-anak tanpa harus mengungkapkan metode yang mereka gunakan. Orang tua yang khawatir tentang kualitas video lagu-lagu anak yang dibuat dengan cepat akan dibiarkan mengidentifikasi kartun yang dihasilkan oleh kecerdasan buatan sendiri.
Kebijakan baru Youtube juga menyatakan bahwa para pembuat konten tidak perlu menandai penggunaan kecerdasan buatan untuk “editan” yang “sekunder” yang “utamanya bersifat estetis” seperti filter kecantikan atau membersihkan video dan audio. Penggunaan kecerdasan buatan untuk “menghasilkan atau meningkatkan” naskah atau teks juga diperbolehkan tanpa pengungkapan.
Tidak ada kekurangan konten berkualitas rendah di Youtube yang dibuat tanpa kecerdasan buatan, tetapi alat-alat kecerdasan buatan generatif menurunkan standar produksi video dengan cara yang mempercepat produksi. Perusahaan induk Youtube, Google baru-baru ini mengatakan bahwa mereka sedang melakukan penyesuaian pada algoritma pencarian mereka untuk menurunkan banjir konten clickbait yang dihasilkan oleh kecerdasan buatan, dimungkinkan oleh alat-alat seperti ChatGPT. Teknologi pembuatan video masih kurang matang tetapi terus berkembang dengan cepat.
Masalah yang ada
Youtube adalah raksasa hiburan anak-anak, melampaui pesaing seperti Netflix dan Disney. Platform ini telah kesulitan dalam mengatur jumlah konten yang ditujukan untuk anak-anak. Mereka telah dikritik karena menampilkan konten yang secara kasat mata cocok atau menarik bagi anak-anak tetapi pada tinjauan lebih lanjut mengandung tema yang tidak pantas.
WIRED baru-baru ini melaporkan tentang munculnya saluran Youtube yang menargetkan anak-anak yang tampaknya menggunakan alat pembuatan video AI untuk menghasilkan video-video buruk yang menampilkan animasi 3D generik dan versi tidak seimbang dari lagu-lagu anak populer.
Pengecualian untuk animasi dalam kebijakan baru Youtube dapat berarti bahwa orang tua tidak dapat dengan mudah menyaring video-video semacam itu dari hasil pencarian atau menghentikan algoritma rekomendasi Youtube dari secara otomatis memutar kartun yang dihasilkan oleh kecerdasan buatan setelah mengatur anak mereka untuk menonton saluran populer dan terverifikasi seperti PBS Kids atau Ms. Rachel.
Beberapa konten AI yang problematik yang ditujukan untuk anak-anak memerlukan penandaan sesuai dengan aturan baru. Pada tahun 2023, BBC menyelidiki gelombang video yang menargetkan anak-anak yang lebih tua yang menggunakan alat kecerdasan buatan untuk menyebarkan pseudosains dan teori konspirasi, termasuk penolakan terhadap perubahan iklim. Video-video ini meniru video pendidikan konvensional berbasis aksi langsung – menunjukkan, misalnya, piramida Giza yang nyata – sehingga penonton yang tidak curiga mungkin salah menganggapnya sebagai konten pendidikan yang akurat secara faktual. (Video piramida kemudian melanjutkan untuk mengklaim bahwa struktur tersebut dapat menghasilkan listrik.) Kebijakan baru ini akan menindak tegas video semacam itu.
“Kami meminta para pembuat konten anak-anak untuk mengungkapkan konten yang secara bermakna diubah atau dihasilkan secara sintetis ketika terlihat realistis,” kata juru bicara Youtube, Elena Hernandez. “Kami tidak meminta pengungkapan konten yang jelas tidak realistis dan tidak menyesatkan penonton bahwa itu nyata.”
Aplikasi khusus untuk anak-anak Youtube Kids dikurasi menggunakan kombinasi filter otomatis, tinjauan manusia, dan umpan balik pengguna untuk menemukan konten anak-anak yang dibuat dengan baik. Namun banyak orang tua hanya menggunakan aplikasi utama Youtube untuk memilih konten untuk anak-anak mereka, mengandalkan judul video, daftar, dan gambar miniatur untuk menilai apakah kontennya cocok.
Sejauh ini, sebagian besar konten anak-anak yang tampaknya dihasilkan oleh kecerdasan buatan yang ditemukan oleh WIRED di Youtube telah dibuat dengan cara yang sama buruknya dengan animasi anak-anak konvensional yang kurang usaha. Mereka memiliki visual yang jelek, plot yang tidak koheren, dan tidak memiliki nilai pendidikan – tetapi tidak secara unik jelek, tidak koheren, atau tidak bernilai secara pendidikan.
Alat kecerdasan buatan membuat lebih mudah untuk menghasilkan konten semacam itu, dan dalam jumlah yang lebih besar. Beberapa saluran yang ditemukan oleh WIRED mengunggah video yang panjang, beberapa bahkan lebih dari satu jam. Menyertakan label pada konten anak-anak yang dihasilkan oleh kecerdasan buatan dapat membantu orang tua menyaring kartun-kartun yang mungkin telah dipublikasikan dengan pengawasan manusia minimal – atau sama sekali tanpa pengawasan manusia.