Lebih dari 200 kelompok dan ahli perlindungan anak meminta YouTube untuk sepenuhnya melarang “sampah AI” dari platform anak-anak. Mereka bilang video berkualitas rendah yang dibuat algoritma itu mengubah cara kerja otak anak dan menghasilkan jutaan dolar, sementara orang tua dan pemerintah tidak memperhatikan.
Surat terbuka ini diorganisir oleh kelompok Fairplay dan ditujukan ke CEO YouTube Neal Mohan dan CEO Google Sundar Pichai. Surat ini ditandatangani lebih dari 135 organisasi, termasuk Federasi Guru Amerika dan Asosiasi Konseling Amerika. Penulis surat ini mengatakan YouTube tidak hanya gagal menghentikan “sampah AI” untuk anak, tapi juga mendapat untung darinya.
Apa itu ‘sampah AI’?
Istilah ini merujuk ke banyak video buatan AI yang membanjiri platform seperti YouTube. Kontennya murah dibuat, sering aneh atau tidak masuk akal, dan dirancang untuk menarik perhatian penonton muda. Video-videonya memang aneh: hewan kartun melakukan tugas berulang dengan gaya yang tidak wajar, video “edukasi” palsu dengan informasi salah, atau loop yang menghipnotis tanpa tujuan jelas. New York Times melaporkan fenomena ini pada Februari lalu, menemukan video semacam itu banyak di YouTube Kids, platform yang diiklankan sebagai tempat aman untuk anak.
“Konten buatan AI didesain untuk mengambil alih perhatian anak, terutama anak kecil yang baru belajar mengendalikan diri. Ini bisa mengacaukan kenyataan dan mempengaruhi cara anak memahami dunia,” kata Rachel Franz dari Fairplay. “Ini bukan semata-mata masalah pola asuh. Platformnya sendiri yang terus merekomendasikan konten AI kepada pengguna muda sampai mereka tidak bisa menghindarinya.”
Insentif uangnya sangat besar. Fairplay menemukan channel “sampah AI” teratas untuk anak bisa mendapat pendapatan lebih dari $4,25 juta per tahun. Surat itu bilang, kebijakan apapun tidak akan cukup kalau platform tidak menghilangkan insentif uang untuk pembuat video ini.
Juru bicara YouTube, Boot Bullwinkle, mengatakan kepada Fortune bahwa mereka punya standar tinggi untuk konten di YouTube Kids, termasuk membatasi konten buatan AI. Mereka juga memberi pilihan untuk orang tua memblokir channel. YouTube selalu berusaha transparan soal konten AI dan meminta kreator mengungkapkan konten AI yang realistis.
Bagaimana solusinya?
Koalisi ini meminta YouTube untuk: memberi label jelas untuk semua konten buatan AI, melarang konten buatan AI sepenuhnya di YouTube Kids, dan melarang algoritma merekomendasikan konten AI ke pengguna di bawah 18 tahun. Mereka juga minta tombol untuk orang tua nonaktifkan konten AI (dimatikan secara default), dan menghentikan investasi di konten AI untuk anak.
Permintaan terakhir itu menarget investasi YouTube di Animaj, studio hiburan anak bertenaga AI yang didukung dana AI Google. “YouTube pada dasarnya berinvestasi untuk merugikan bayi lewat pembelian Animaj,” kata Franz.
Bullwinkle mengkonfirmasi bahwa YouTube sedang mengembangkan label AI khusus untuk YouTube Kids, tapi tidak memberikan jadwal pastinya. CEO YouTube Neal Mohan sebelumnya sudah menyebut “mengelola sampah AI” sebagai prioritas utama tahun ini.
Bullwinkle juga mencatat bahwa 15 channel yang disebut dalam artikel Times tidak ada di YouTube Kids, dan platform telah menghapus video yang melanggar kebijakan keselamatan anak. Tapi bagi Franz, itu belum cukup.
“Seharusnya bukan tugas peneliti individu untuk menunjukkan beberapa channel sebagai contoh yang berpotensi merugikan anak, dan itu jadi dasar YouTube untuk menghapusnya. Dulu saat skandal Elsagate, YouTube menghapus 150.000 video dan ratusan channel dari platformnya,” kata Franz. Dia merujuk skandal 2017 di mana ribuan video di YouTube dan YouTube Kids menggunakan karakter anak populer untuk menyembunyikan konten kekerasan, tema seksual, dan penggunaan narkoba.
“Jadi kita tahu YouTube punya kapasitas untuk memantau dan menghapus video dalam skala besar. Tapi sekarang mereka cuma lakukan pendekatan tempelan, di mana channel yang dapat liputan media—seperti itulah yang mereka tindak. Itu tidak menyelesaikan masalah secara keseluruhan,” lanjut Franz.