RUU Baru akan memungkinkan terdakwa memeriksa algoritma yang digunakan melawannya di pengadilan.

Sebuah pasangan anggota legislatif Partai Demokrat berupaya untuk memberikan lebih banyak informasi kepada terdakwa mengenai algoritma yang digunakan dalam persidangan pidana mereka.

Wakil Mark Takano (D-CA) dan Dwight Evans (D-PA) mengajukan kembali Undang-Undang Keadilan dalam Algoritma Forensik pada hari Kamis, yang akan memungkinkan terdakwa untuk mengakses kode sumber perangkat lunak yang digunakan untuk menganalisis bukti dalam persidangan pidana mereka. Undang-undang tersebut juga akan mewajibkan National Institute of Standards and Technology (NIST) untuk membuat standar pengujian untuk algoritma forensik, yang perangkat lunak yang digunakan oleh penegak hukum federal harus memenuhinya.

RUU tersebut akan bertindak sebagai pengawasan terhadap hasil yang tidak disengaja yang dapat diciptakan dengan menggunakan teknologi untuk membantu memecahkan kasus kriminal. Penelitian akademik telah menyoroti cara di mana bias manusia dapat dibangun ke dalam perangkat lunak dan bagaimana sistem pengenalan wajah seringkali kesulitan dalam membedakan wajah orang kulit hitam. Penggunaan algoritma untuk membuat keputusan penting dalam berbagai sektor, termasuk penyelesaian kejahatan dan perawatan kesehatan, telah menimbulkan kekhawatiran bagi konsumen dan advokat sebagai hasil dari penelitian tersebut.

Takano, dalam wawancara telepon pada hari Kamis, menunjukkan kasus Oral “Nick” Hillary, yang dituduh melakukan pembunuhan pada tahun 2011 di New York. Meskipun metode analisis DNA tradisional tidak mengaitkan Hillary dengan kejahatan tersebut, menurut laporan tentang proses persidangan, jaksa berharap dapat memasukkan analisis DNA dari program komputer bernama STRmix yang dapat membuktikan keterlibatannya. Seorang hakim memutuskan pada tahun 2016 bahwa hasil tersebut tidak dapat dibawa ke persidangan.

Contoh tersebut menunjukkan mengapa sistem peradilan pidana perlu menyadari “kemungkinan dan keterbatasan teknologi ini,” kata Takano.

Pengacara pembela dan terdakwa sendiri “harus dapat mempertanyakan teknologi tersebut dan teknologi tidak boleh dianggap … sebagai sesuatu yang tak bisa salah,” tambahnya. Meskipun industri mungkin keberatan dengan dampak RUU ini terhadap hak kekayaan intelektual mereka, Takano mengatakan bahwa dia tidak berpikir “hak keuntungan properti milik perorangan mengungguli hak proses hukum terdakwa pidana.”

Takano mengakui bahwa memperoleh atau menyewa keahlian mendalam yang diperlukan untuk menganalisis kode sumber mungkin tidak mungkin bagi setiap terdakwa. Namun, mensyaratkan NIST untuk membuat standar bagi alat-alat tersebut setidaknya dapat memberikan titik awal bagi mereka untuk memahami apakah sebuah program memenuhi standar dasar.

Takano memperkenalkan versi sebelumnya dari RUU ini pada tahun 2019 dan 2021, namun tidak mendapatkan dukungan dari komite.

Meskipun RUU ini belum memiliki dukungan dari anggota Republik, Takano optimis bahwa masalah ini dapat melintasi garis partai. Dia menunjukkan kekhawatiran bipartisan tentang memberikan kekuasaan pengawasan yang berlebihan kepada lembaga penegak hukum, yang dibahas dalam debat mengenai perpanjangan Bagian 702 Undang-Undang Surveilans Intelijen Asing.

“Ada konstituen di kedua partai yang mendukung ini,” kata Takano. “Saya yakin akan hal itu.”