NYC akan menguji detektor senjata AI di kereta bawah tanah.

Kota New York akan segera mulai menguji teknologi yang menggunakan kecerdasan buatan untuk mendeteksi senjata di pintu tiket kereta bawah tanah, kata Wali Kota Eric Adams pada hari Kamis. Pengumuman Adams datang seminggu setelah insiden di stasiun kereta bawah tanah di Brooklyn di mana seorang pria ditembak dengan senjatanya sendiri setelah mengeluarkannya pada penumpang lain.

Adams mengatakan kota tersebut bermitra dengan Evolv, perusahaan deteksi senjata yang berbasis di Massachusetts yang detektornya digunakan di sekolah dan tempat-tempat di seluruh negara. Namun, Evolv telah menghadapi kritik atas akurasi mesin-mesinnya, serta dua penyelidikan pemerintah dan gugatan kelompok oleh pemegang saham.

Pilot akan dimulai dalam 90 hari, sesuai dengan POST Act, yang mewajibkan Departemen Kepolisian Kota New York untuk mengungkapkan teknologi-teknologi pengawasan yang digunakannya dan mempublikasikan pernyataan dampak dan penggunaan sebelum teknologi-teknologi baru diterapkan. Adams mengatakan kota juga akan menggunakan periode tunggu 90 hari untuk memeriksa vendor-vendor lain. “Kota ini memiliki walikota teknologi,” kata Adams. “Bawa teknologimu. Mari kita ujicoba.”

Adams tidak mengatakan di mana pemindai akan dipasang atau berapa banyak yang akan digunakan. Pemindai Evolv sudah digunakan di Citi Field – Evolv adalah “penyedia penyaringan penggemar resmi Mets” – Lincoln Center, dan Metropolitan Museum of Art. Adams sementara itu memasang pemindai Evolv di luar pintu masuk Balai Kota pada tahun 2022 setelah seorang penembak membuka api di kereta bawah tanah di Brooklyn. Tahun itu, kota menjalankan pilot Evolv serupa di sebuah rumah sakit di Bronx setelah seorang pria ditembak di ruang tunggu gawat darurat di sana. Dosen distrik sekolah di seluruh negeri juga telah memasang pemindai Evolv dalam upaya mencegah penembakan di kampus.

Pemindai Evolv dilaporkan telah menandai payung sebagai senjata tetapi gagal mendeteksi tabung aluminium dan baja yang dipotong untuk terlihat seperti laras senjata.

Pemindai Evolv terlihat seperti detektor logam tetapi dilengkapi dengan kecerdasan buatan. Perusahaan tersebut mengklaim pemindai tersebut menggunakan “medan elektromagnetik frekuensi ultra-rendah yang aman dan sensor canggih untuk mendeteksi senjata tersembunyi.” CEO Evolv, Peter George, mengklaim pemindai dapat mendeteksi hampir semua jenis senjata. “Kami telah menulis tanda tangan untuk semua ancaman yang ada: semua senjata yang ada, semua bom, semua pisau taktis besar,” kata George pada tahun 2021.

Namun laporan menunjukkan bahwa teknologi tersebut sebenarnya tidak begitu efektif. Pemindai Evolv dilaporkan telah menandai payung sebagai senjata tetapi gagal mendeteksi tabung aluminium dan baja yang dipotong untuk terlihat seperti laras senjata. Tahun lalu, The Intercept melaporkan bahwa beberapa distrik sekolah merasa frustasi dengan mesin Evolv yang gagal mendeteksi pisau di tas siswa atau secara keliru mengidentifikasi kotak makan sebagai bom.

Pada tahun 2022, publikasi riset industri pengawasan IPVM melaporkan bahwa Evolv telah membayar untuk pengujian oleh National Center for Spectator Sports Safety and Security, yang kemudian perusahaan tersebut gambarkan sebagai “sepenuhnya independen.” Evolv juga mengedit laporan yang seharusnya independen tersebut, menghapus informasi tentang tingkat deteksi yang rendah untuk senjata tertentu, menurut laporan IPVM.

Oktober lalu, Federal Trade Commission membuka penyelidikan apakah sistem deteksi AI Evolv berfungsi seperti yang diiklankan, dan pada Februari, Evolv mengungkapkan bahwa Securities and Exchange Commission juga telah membuka “penyelidikan fakta non-publik.” Pada Maret, para investor mengajukan gugatan kelompok yang menuduh bahwa perusahaan telah menyesatkan efektivitas produknya dan “menipu publik, pelanggan, dan investor umum.”

Meskipun demikian, Evolv tetap menjadi vendor pilihan Adams. Beberapa donor terbesar walikota tersebut memiliki investasi yang cukup besar di Evolv, demikian dilaporkan oleh New York Daily News pada tahun 2022. “Bayangkan saya mengatakan, ‘Tidak, kami tidak akan berinvestasi dalam teknologi yang dapat mengidentifikasi senjata karena seseorang menjadi investor dalam teknologi tersebut,'” kata Adams pada tahun 2022. “Anda tahu, teknologi yang baik menyelamatkan nyawa. Saya memiliki kewajiban dan tanggung jawab untuk membawanya.”

Pilot ini sudah menarik kritik. “Sistem deteksi senjata bermasalah dan sering kali memicu alarm palsu,” kata Legal Aid Society, lembaga nirlaba pembela publik terbesar kota, dalam sebuah pernyataan. “Bertentangan dengan klaim walikota, Kota New York seharusnya tidak menjadi tempat uji coba bagi perusahaan pengawasan; publik tidak memberikan persetujuan untuk menjadi bagian dari eksperimen ini.”

Adams mencatat bahwa kejahatan kekerasan di sistem kereta bawah tanah, yang berhubungan dengan senjata atau tidak, tetap relatif jarang. Kejahatan menurun di seluruh kota, dengan penurunan 16 persen dari Februari hingga Maret, kata Adams – tetapi jajak pendapat menunjukkan bahwa warga New York merasa semakin tidak aman. “Jika mereka tidak merasa aman, maka kita tidak mencapai tugas kami,” kata Adams. “Statistik tidak penting jika orang tidak percaya bahwa mereka berada di lingkungan yang aman.”