Kacamata Pintar Meta: Janji Privasi Tapi Banyak Kontraktor Lihat Rekaman Pribadi?
Saat Meta membuka pre-order untuk kacamata pintar Ray-Ban mereka, satu hal ditekankan: privasi kamu akan aman. "Kacamata pintar Ray-Ban Meta didesain dengan privasi sebagai intinya," bunyi pernyataan mereka di September 2023. Pemasaran mereka sangat jelas soal privasi. Makanya, kamu mungkin lihat orang pakai kacamata ini di kota, di iklan Super Bowl, atau bahkan di sidang pengadilan tentang keamanan anak di platform Meta. Bahkan agen ICE dikabarkan pakai di lapangan.
Tapi, yang mungkin tidak kamu lihat adalah… dirimu sendiri yang terekam kamera kacamata itu. Sekarang, sebuah studi baru dan gugatan kelas di AS menuduh perusahaan ini kurang transparan. Mereka klaim Meta diam-diam mengirim rekaman pengguna ke pekerja manusia di luar negeri, bukan cuma ke model AI. Pekerja ini melihat segalanya, dari orang yang berganti pakaian sampai dokumen keuangan sensitif. Ini terjadi karena pengguna memilih setuju berbagi data untuk latihan AI.
"Di beberapa video, bisa lihat orang pergi ke toilet atau lepas baju. Aku rasa mereka tidak tahu, karena kalau tahu pasti tidak akan merekam," kata seorang pekerja tentang yang dia lihat.
Akhir Februari lalu, media Swedia menyelidiki proses pelatihan AI Meta. Mereka temukan kontraktor Meta di Kenya membantu melatih AI untuk kacamata ini. Yang mereka lihat mengejutkan. "Kami lihat segalanya, dari ruang tamu sampai tubuh telanjang," kata para pekerja. "Meta punya konten seperti itu di databasenya."
Pengguna yang setuju berbagi data efektif mengizinkan semua bagian hidupnya direkam dan ditinjau, baik oleh AI atau manusia di belakangnya. Termasuk rekaman di kamar mandi, orang menonton pornografi, dan dalam satu kasus, kacamata yang tertinggal di meja samping tempat tidur merekam pasangan yang tidak pernah setuju direkam.
Kontraktor Meta—yang memberi label manual pada gambar untuk ajari AI—juga melaporkan melihat nomor kartu kredit dan dokumen keuangan pengguna. Meta menanggapi melalui juru bicara: "Saat orang berbagi konten dengan Meta AI, seperti perusahaan lain, kami kadang gunakan kontraktor untuk tinjau data ini untuk tingkatkan pengalaman pakai kacamata, seperti di kebijakan privasi kami. Data ini difilter dulu untuk lindungi privasi."
Gugatan Kelas Dimulai
Laporan ini memicu tindakan hukum. Pada 4 Maret, penggugat Gina Bartone dan Mateo Canu ajukan gugatan kelas terhadap Meta Platforms Inc. (dan pembuat kacamata Luxottica of America). Mereka tuduh perusahaan melanggar hukum karena tidak mengungkapkan bahwa video dari kacamata dikirim ke server Meta, lalu ke kontraktor di Kenya untuk pelabelan manual. Gugatan itu menyebut Meta tahu soal kekhawatiran publik akan privasi, dan dalam latar itu, Meta luncurkan kacamata dengan "janji yang menenangkan: Kacamata didesain untuk privasi, dikendalikan oleh kamu."
Brian Hall, pengacara privasi dan AI, bilang temuan ini bisa ditebak dan mengkhawatirkan. "Itu mengerikan. Itu tepat seperti yang kita semua bayangkan akan terjadi," kata Hall. "Saya cukup tua untuk ingat 10-12 tahun lalu saat Google punya kacamata mereka, dan itu jadi kekhawatiran orang masuk toilet pakai itu. Sekarang kita kembali ke situ."
Hall bilang tanggung jawab hukum masih kabur, sebagian karena Syarat Layanan Meta sendiri menyebutkan bahwa pemberi label data "akan meninjau interaksimu dengan AI, termasuk isi percakapan atau pesanmu ke AI," dan tinjauan ini "bisa otomatis atau manual." "Kalau kita baca kebijakan privasi mereka dengan teliti, tidak akan ada yang secara eksplisit bilang mereka tidak lakukan itu," kata Hall. "Ini adalah beberapa informasi dan gambar paling sensitif yang ada."
Kekhawatiran terbesar Hall bukan pada pemakai kacamata, tapi pada orang lain yang terekam. "Orang-orang yang lewat, yang difilm dan diidentifikasi, merekalah yang berisiko," katanya. "Sayangnya, hukum privasi kita tidak dirancang untuk lindungi mereka. Hukum itu dirancang untuk lindungi pemakai kacamata dan kemampuan mereka mengelola data sendiri."
Mengenai laporan seorang pria pakai kacamata di pengadilan Inggris untuk "membimbing" kesaksiannya, Hall bilang risikonya jauh lebih besar jika Meta benar-benar tambah fitur pengenalan wajah. "Ini pindah dari dunia di mana hari ini kamu mungkin lihat seseorang di jalan, di pengadilan, dan bisa selidiki mereka di Facebook. Tapi ini instan. Otomatis, tanpa usaha. Kamu bisa duduk di pengadilan mengidentifikasi saksi."
Hall bilang hukum yang ada tidak dibangun untuk kemungkinan yang diciptakan kacamata Meta. "Saya tidak yakin hukum yang ada cukup untuk lindungi kita dari risiko hal-hal yang dilakukan Meta dan perusahaan media sosial lain sekarang," ujarnya. "Ini seperti dipaksakan masuk ke hukum privasi, yang jarang ditegakkan, dan ini benar-benar mengacaukan kerangka dasar hukum itu."
"Menurut saya, tidak ada yang benar-benar menangani ini dengan berarti," katanya, menyebut regulasi saat ini tidak lengkap dan gagal tangani kekhawatiran privasi sepenuhnya. Meta tidak menanggapi permintaan komentar.