Buka Editor’s Digest secara gratis
Roula Khalaf, Editor dari FT, memilih cerita favoritnya dalam buletin mingguan ini.
Grup media sosial, mesin pencari, dan aplikasi pesan akan diberitahu minggu depan untuk menerapkan langkah-langkah ketat dalam menghapus materi ilegal dengan cepat dan mengurangi risiko konten tersebut, dalam aturan baru dari badan pengawas media Inggris.
Ofcom akan mulai menegakkan aturan baru yang dirancang untuk melindungi pengguna internet dari konten ilegal dan aktivitas berbahaya online. Regulator dan pembuat kebijakan ingin memiliki kekuatan tambahan untuk mengendalikan peningkatan jenis informasi ekstrim dan palsu yang memicu kerusuhan kekerasan musim panas lalu setelah serangan massal di Southport.
Dalam Undang-Undang Keamanan Online Inggris (OSA), perusahaan teknologi perlu menyelesaikan penilaian risiko konten ilegal wajib pada akhir pekan ini untuk memahami seberapa sering pengguna dapat menemui konten ilegal di layanan mereka.
Dalam kasus layanan pesan “pengguna-ke-pengguna”, ini termasuk bagaimana layanan tersebut dapat digunakan untuk melakukan atau memfasilitasi tindak pidana.
Konten ilegal prioritas tersebut mencakup 17 kategori mulai dari terorisme, pelecehan seksual terhadap anak, dorongan atau bantuan bunuh diri, hingga pengejaran dan kejahatan narkoba dan penipuan.
Ofcom mulai minggu depan akan mulai menilai kepatuhan platform dengan kewajiban kerusakan ilegal baru dalam OSA, dan mulai tindakan penegakan hukum di mana ada masalah dan kegagalan untuk mematuhi. OSA disahkan oleh parlemen pada tahun 2023, tetapi sedang diimplementasikan secara bertahap tahun ini dan tahun depan.
Situs dan aplikasi perlu mulai menerapkan langkah-langkah keamanan untuk mengurangi risiko, dengan seorang eksekutif senior ditunjuk sebagai anggota staf yang bertanggung jawab atas kepatuhan dan moderasi yang lebih baik, pelaporan yang lebih mudah dan uji keamanan bawaan.
Dalam aturan baru, perusahaan teknologi harus memastikan tim moderasi mereka memiliki sumber daya dan pelatihan, dan menetapkan target kinerja untuk menghapus materi ilegal dengan cepat ketika mereka mengetahuinya. Platform akan perlu menguji algoritma untuk membuat konten ilegal sulit disebarkan.
Ofcom awalnya akan memberikan prioritas kepada situs dan aplikasi yang lebih besar yang mungkin menimbulkan risiko khusus dari kerusakan konten ilegal karena ukuran atau sifat mereka, misalnya karena mereka memiliki sejumlah besar pengguna di Inggris, atau karena pengguna mereka mungkin berisiko menemui beberapa bentuk konten online dan perilaku paling berbahaya.
Disarankan
Suzanne Cater, direktur penegakan hukum di Ofcom, mengatakan: “Platform sekarang harus segera bertindak untuk mematuhi kewajiban hukum mereka, dan kode kami dirancang untuk membantu mereka melakukannya. Tapi, jangan salah, setiap penyedia yang gagal memperkenalkan perlindungan yang diperlukan dapat menghadapi seluruh kekuatan tindakan penegakan hukum kami.”
Linklaters, firma hukum Inggris, menggambarkan aturan baru ini sebagai “batas waktu regulasi besar pertama” di bawah OSA. Perusahaan dapat dikenakan denda hingga £18 juta atau 10 persen dari pendapatan kualifikasi global mereka, mana yang lebih besar.
Ben Packer, mitra di Linklaters, mengatakan: “Kita akan segera mengetahui siapa yang terlibat dengan ini dengan benar dan melakukan pekerjaan penilaian risiko yang teliti. Saya curiga mungkin ada beberapa perusahaan yang belum melakukan banyak hal sama sekali.”
Packer menambahkan bahwa ancaman Ofcom untuk intervensi mungkin melebihi imposisi keuangan, mencatat bahwa regulator dapat memesan perusahaan “untuk mengambil langkah-langkah tambahan ketika datang ke moderasi konten atau pelaporan pengguna atau teknologi yang diterapkan untuk mendeteksi konten”.
“Pengalaman kami di sektor lain adalah intervensi semacam itu dalam operasi perusahaan yang cenderung lebih berdampak,” katanya.