“Kalau kamu tidak melibatkan penyandang disabilitas atau orang dengan perbedaan wajah dalam pengembangan proses-proses ini, tidak akan ada yang memikirkan masalah-masalah ini,” jelas Kathleen Bogart, profesor psikologi di Oregon State University yang ahli dalam penelitian disabilitas dan juga hidup dengan perbedaan wajah. “AI telah memperbesar masalah ini, tapi ini berakar pada keterwakilan yang kurang dan prasangka terhadap orang dengan perbedaan wajah yang telah terjadi jauh sebelum AI ada.”
Terlambat dan Terlalu Sedikit
Ketika sistem verifikasi wajah gagal, seringkali sulit menemukan bantuan—hal ini menambah tekanan pada situasi yang sudah menegangkan. Selama berbulan-bulan, warga Maryland Noor Al-Khaled kesulitan membuat akun online untuk Administrasi Jaminan Sosial. Al-Khaled, yang hidup dengan kondisi kraniofasial langka Ablepharon Macrostomia, mengatakan bahwa memiliki akun online akan memungkinkannya mengakses catatan SSA dengan mudah dan mengirim dokumen ke lembaga tersebut dengan cepat.
“Saya tidak menyetir karena penglihatan saya; saya seharusnya bisa mengandalkan situs tersebut,” ujar Al-Khaled. “Anda harus mengambil swafoto, dan gambarnya harus cocok,” kata Al-Khaled. “Karena perbedaan pada wajah, saya tidak tahu apakah sistem tidak mengenali ID-nya atau swafotonya, tapi selalu dikatakan bahwa gambar-gambar tersebut tidak cocok.”
Tidak memiliki akses tersebut membuat hidup lebih sulit. “Secara emosional, hal itu membuat saya merasa terkucil dari masyarakat,” jelasnya. Al-Khaled menyatakan bahwa semua layanan harus menyediakan cara alternatif bagi orang untuk mengakses sistem online. “Kurangnya opsi cadangan lain berarti bahwa kadang-kadang orang terjebak dalam labirin sistem teknologi ini,” kata Byrum dari Present Moment Enterprises.
Sumber dari WIRED
Seorang juru bicara SSA mengatakan bahwa opsi alternatif untuk verifikasi wajah tersedia, dan mereka “berkomitmen” untuk membuat layanannya dapat diakses oleh semua orang. Lembaga tersebut, menurut juru bicara itu, tidak menjalankan sistem pengenalan wajah sendiri tetapi menggunakan Login.gov dan ID.me untuk layanan verifikasi. Administrasi Layanan Umum, yang menjalankan Login.gov, tidak menanggapi permintaan komentar dari WIRED. “Aksesibilitas adalah prioritas inti bagi ID.me,” ujar seorang juru bicara ID.me, seraya menambahkan bahwa mereka sebelumnya telah membantu orang dengan perbedaan wajah dan menawarkan bantuan langsung kepada Al-Khaled setelah WIRED menghubungi.
“Hanya sedikit hal yang lebih tidak manusiawi daripada diberitahu oleh mesin bahwa kamu tidak nyata karena wajahmu,” kata Corey R. Taylor, seorang aktor dan pembicara motivasi yang berbasis di New York yang hidup dengan anomali kraniofasial. Tahun lalu, Taylor bercerita, ia menggunakan aplikasi keuangan untuk mengakses sejumlah kecil uang; saat ia mencoba menyelesaikan proses pembayaran, ia menemukan bahwa sistem verifikasi wajah tidak dapat mencocokkan swafotonya dengan gambar di ID-nya. Agar sistem bekerja, ia harus berpindah ke berbagai posisi. “Saya harus benar-benar mengangkat mata dan mengubah wajah saya,” tutur Taylor. Ketika dia mengirim email kepada perusahaan, dia mendapat tanggapan yang terlihat seperti balasan standar.