Analisis wajah di Instagram, video selfie di TikTok, kode akses sidik jari di YouTube, dan unggahan KTP di Facebook. Ini belum terjadi sekarang, tapi mengumpulkan data biometrik kita hanya untuk memposting meme AI yang biasa-biasa saja akan menjadi hal yang normal. Ini terjadi saat perusahaan media sosial besar mengalami momen "Big Tobacco" mereka.
Dunia digital sedang mengalami perubahan besar karena gugatan kecanduan media sosial dan aturan baru untuk verifikasi usia. Platform media sosial menghadapi tuntutan hukum penting soal desain yang menyebabkan "reaksi dopamin" dan merugikan anak-anak. Negara seperti Australia melarang orang di bawah 16 tahun pakai media sosial. Sementara itu, Meta sedang diadili karena dituduh sengaja menciptakan lingkungan yang membuat kecanduan untuk anak-anak di platform mereka.
Dalam usaha memverifikasi usia pengguna—cara utama untuk mengurangi kecanduan pada anak—platform media sosial justru menciptakan paradoks yang disebut "jebakan verifikasi usia." Intinya, dengan mencoba menerapkan aturan verifikasi usia, perusahaan-perusahaan ini justru mengancam privasi data penggunanya sendiri.
Media Sosial Besar Hadapi Momen ‘Big Tobacco’
Perusahaan seperti Meta dan TikTok menghadapi pengadilan yang membandingkan platform dan model bisnis mereka dengan pasar rokok dan opioid. Mereka dituduh sengaja memanipulasi desain platform agar pengguna ketagihan. CEO Meta, Mark Zuckerberg, baru-baru ini bersaksi bahwa penelitian ilmiah belum membuktikan hubungan antara media sosial dan bahaya kesehatan mental. Tapi para ahli tidak setuju. Mereka bilang kecanduan media sosial justru didorong oleh algoritma rekayasa yang dirancang agar pengguna tetap online.
"Perusahaan-perusahaan ini tidak diharuskan memenuhi standar tertentu" untuk mencegah anak-anak mengakses platform mereka—padahal mereka justru diuntungkan dengan kehadiran anak-anak. "Lebih banyak orang, lebih banyak iklan," kata Dr. Debra Boeldt, psikolog klinis dan ilmuwan AI di perusahaan media sosial keluarga Aura. Boeldt, yang memimpin penelitian klinis di Aura, mengatakan anak-anak sangat rentan terhadap desain media sosial saat ini karena fungsi eksekutif dan kontrol impuls mereka masih berkembang.
Bagi anak-anak, platform media sosial bukan cuma aplikasi, tapi juga sumber utama hubungan sosial. Penelitiannya menunjukkan satu dari lima anak usia 13 tahun ke bawah menghabiskan empat jam atau lebih sehari di media sosial. Hal ini terkait dengan tingkat stres, kecemasan, dan depresi yang lebih tinggi. Anak-anak itu pintar, kata Boeldt. Jika mereka dilarang di satu platform, itu seperti permainan "whack-a-mole"; mereka hanya akan pindah ke platform berikutnya.
"Saat perusahaan media sosial berusaha menghapus pengguna di bawah umur, atau meminta bantuan AI untuk mencari konten yang dilarang, mereka akan kesulitan memastikan bisa secara akurat memblokir akses semua orang di bawah usia tertentu," kata Boeldt. Dia memberi contoh platform seperti Instagram dan TikTok yang memantau bahasa. Anak-anak sudah menemukan celah, menggunakan istilah seperti "file PDF" atau "unaliving," menciptakan kosakata baru yang membuat sensor tidak berguna.
Namun, dia memperingatkan, efek sampingnya bahkan lebih buruk jika hanya sedikit pengguna yang dilarang, bukan semuanya. Jika platform media sosial hanya melarang sedikit pengguna di bawah umur sekaligus, itu menciptakan "efek pulau." Seorang anak yang diputus dari media sosial akan terisolasi sementara teman-temannya tetap terhubung online.
Regulasi Hampir Tidak Bisa Mengimbangi Penggunaan
Lupakan gugatan hukum saat ini yang jadi uji coba aturan desain media sosial. Regulasi saat ini hampir tidak bisa mengimbangi cara anak-anak menggunakan media sosial. Alat yang digunakan perusahaan media sosial juga gagal menjaga privasi pengguna. Dalam beberapa bulan terakhir, platform yang menggunakan software verifikasi pihak ketiga melihat data pengguna mereka diretas dan terbuka. Mereka harus mengumumkan dan menarik sensor bertenaga AI, serta melawan sentimen publik yang buruk dari pengguna yang semakin tidak puas.
Ini diperumit oleh semakin banyaknya regulasi dari berbagai negara. Australia meloloskan undang-undang penting pada 2024 yang melarang anak di bawah 16 tahun punya akun di platform seperti Facebook, TikTok, dan YouTube. Di Amerika, 32 negara bagian telah memperkenalkan undang-undang verifikasi usia. Situasi ini semakin intens setelah FTC mengumumkan minggu lalu akan menggunakan "kebijaksanaan penegakan" terkait Aturan Perlindungan Privasi Online Anak-Anak (COPPA). Ini akan mengizinkan perusahaan media sosial mengumpulkan data anak-anak tanpa izin orang tua—tetapi hanya untuk keperluan verifikasi usia.
Namun, ini gagal menyelesaikan masalah paradoks: mengumpulkan data anak-anak dan pengguna secara memadai tanpa melanggar hak privasi mereka. Masalah ini semakin intens ketika kita melihat para pengguna di platform ini.
"Manusia sekarang minoritas di internet; lalu lintas bot ke manusia meningkat 50 kali lipat dari tahun ke tahun," kata Johnny Ayers, CEO Socure, perusahaan software verifikasi identitas bertenaga AI. Ayers mengatakan berkat bot, penggunaan deepfake meningkat hampir 8,000% dari tahun ke tahun—membuat banyak software verifikasi di pasar tidak berguna. Salah satu pemeriksaan digital yang perusahaannya gunakan adalah memanfaatkan gimbal setiap ponsel untuk melihat apakah memang manusia yang memegang ponsel saat verifikasi identitas.
Evin McMullen, yang perusahaannya Billions Network digunakan untuk metode anti-pencucian uang dan Kenali Pelanggan Anda, mengatakan mengumpulkan biometrik adalah salah satu cara platform mengonfirmasi identitas Anda, karena Anda tidak bisa mengubah apa yang dikatakannya tentang Anda.
"Terdengar agak lucu, tapi idenya adalah Anda tidak bisa ‘memutar’ ibu jari Anda. Artinya, Anda tidak bisa mengganti kata sandi atau mengelola keamanan dengan mudah dengan cara yang sama," kata McMullen. "Identitas yang berdasarkan biometrik Anda benar-benar tentang memprioritaskan kemudahan penggunaan dan keamanan di sekitar data paling vital Anda," tambahnya. Dia mengatakan model pengelola kata sandi saat ini "tidak dapat dipertahankan dan tidak lagi aman."
Tetapi masalah muncul dengan anak-anak dan privasi, sesuatu yang harus ditinjau kembali sekarang mengingat keputusan FTC tentang COPPA.
"Anda tidak bisa mengumpulkan biometrik pada seorang anak," kata Ayers. "Jadi bagaimana Anda memverifikasi seseorang berusia 13 tahun tanpa mengumpulkan sesuatu yang membuktikan mereka berusia 13 tahun?"
Alat-Alatnya Sudah Tidak Berguna Lagi
Satu cara untuk melakukannya adalah dengan mengumpulkan zero-knowledge proofs (ZKP) yang memungkinkan satu pihak memverifikasi kebenaran sebuah pernyataan, dan karenanya, identitas orang tersebut. McMullen, yang kliennya di industri keuangan mencari cara verifikasi identitas yang tidak invasif, adalah pendukung besar ZKP. Dia menambahkan ZKP sangat membantu dalam membangun kepercayaan antara pihak.
ZKP adalah metode yang memungkinkan seseorang—yang ingin memverifikasi diri—menjawab pernyataan dengan cara yang membangun kepercayaan kepada pihak yang memverifikasi, tanpa mengungkap informasi pribadi atau rahasia. Ambil contoh masalah 4+4=8. Ini adalah sesuatu yang diketahui benar oleh orang yang ingin diverifikasi, tetapi metode ZKP mengandalkan kepercayaan. Alih-alih bertanya apakah 4+4=8, pihak verifikasi mengajukan serangkaian pertanyaan untuk menentukan apakah orang yang ingin diverifikasi mengatakan yang sebenarnya (atau dalam hal ini, mengetahui itu benar). Verifikasi dapat bertanya: apakah 4+4=7?; apakah hasil 4+4 adalah bilangan genap?, dan seterusnya. Setelah serangkaian pertanyaan, dapat ditentukan kebenaran klaim orang tersebut, sehingga mengidentifikasi mereka.
Ini bukan metode umum untuk membuktikan identitas. Sejauh ini, perusahaan media sosial telah menggunakan sejumlah teknologi untuk memverifikasi usia orang, termasuk verifikasi berbasis identitas seperti meminta pengguna mengunggah KTP; menggunakan AI untuk memindai wajah pengguna; melacak aktivitas pengguna untuk menentukan usia; serta menggunakan alat pengawasan orang tua seperti Instagram, yang memperkenalkan "Akun Remaja" untuk memberi tahu orang tua tentang kebiasaan online yang berbahaya.
Inti masalahnya adalah pada dasarnya tidak ada alat yang dapat memverifikasi usia pengguna tanpa melanggar privasi mereka. Model akurat apa pun memerlukan tindakan yang sangat invasif seperti biometrik atau KTP—dan KTP adalah sesuatu yang bahkan perusahaan media sosial ragu-ragu untuk minta. Ada "kesenjangan identitas" di mana 15 juta warga Amerika tidak memiliki identifikasi apa pun, masalah yang secara tidak proporsional memengaruhi orang dewasa kulit hitam dan Hispanik, imigran, dan penyandang disabilitas.
Menggunakan AI untuk memindai wajah orang sedikit menyelesaikan masalah, karena para ahli menemukan model AI ini kurang akurat untuk kelompok minoritas dan sering salah mengklasifikasikan orang dewasa sebagai anak di bawah umur. AI sendiri juga tidak mampu membedakan suara sintetis atau deepfake dari manusia sungguhan. Anak-anak, yang sekali lagi pintar, juga sering melewati larangan berbasis geografis menggunakan VPN, seperti di Florida di mana penggunaan VPN melonjak 1,150% setelah negara bagian itu melarang Pornhub. Dan yang terakhir, ada risiko keamanan besar yang menyertai penyimpanan dokumen identitas, seperti pelanggaran baru-baru ini pada vendor pihak ketiga Discord, 5CA, yang membuat lebih dari 70,000 KTP terbuka di internet.
Pada akhirnya, "jebakan verifikasi usia" adalah apa yang terjadi ketika regulator memperlakukan penegakan usia sebagai kewajiban dan menjadikan privasi sebagai status opsional. Para ahli memperingatkan, sampai metode seperti ZKP atau verifikasi berbasis perangkat menjadi norma, era digital akan terus terjun ke dalam lubang kelinci: berusaha membuktikan identitas seseorang sambil berusaha tidak melanggar hak privasi mereka.