Minggu lalu, seorang hakim mengeluarkan putusan setebal 223 halaman yang mengkritik keras Departemen Keamanan Dalam Negeri AS mengenai cara mereka melaksanakan penggerebekan terhadap imigran tanpa dokumen di Chicago. Terselip dalam sebuah catatan kaki adalah dua kalimat yang mengungkapkan bahwa setidaknya satu anggota penegak hukum menggunakan ChatGPT untuk menulis laporan yang seharusnya mendokumentasikan penggunaan kekuatan terhadap seorang individu.
Putusan yang ditulis oleh Hakim Distrik AS Sara Ellis itu menyoroti perilaku anggota ICE dan agensi lain selama “Operasi Midway Blitz” yang menangkap lebih dari 3.300 orang dan menahan lebih dari 600 orang di tahanan ICE, termasuk konflik kekerasan berulang dengan pemrotes dan warga. Insiden-insiden ini seharusnya didokumentasikan dalam laporan penggunaan kekuatan, namun Hakim Ellis mencatat bahwa sering terdapat ketidaksesuaian antara rekaman body camera dan catatan tertulis, sehingga ia menilai laporan-laporan tersebut tidak dapat diandalkan.
Lebih dari itu, dia menyatakan bahwa setidaknya satu laporan bahkan tidak ditulis oleh seorang petugas. Menurut catatan kakinya, rekaman body camera mengungkap bahwa seorang agen “meminta ChatGPT untuk menyusun narasi laporan berdasarkan satu kalimat singkat tentang suatu kejadian dan beberapa gambar.” Petugas tersebut dilaporkan menyerahkan hasil dari ChatGPT sebagai laporan, meskipun informasi yang diberikan sangat terbatas dan kemungkinan besar sisanya diisi dengan asumsi.
“Sejauh agen menggunakan ChatGPT untuk membuat laporan penggunaan kekuatan, ini semakin merusak kredibilitas mereka dan dapat menjelaskan ketidakakuratan laporan-laporan ini ketika dilihat dari rekaman body camera,” tulis Ellis dalam catatan kaki.
Menurut Associated Press, tidak diketahui apakah Departemen Keamanan Dalam Negeri memiliki kebijakan jelas mengenai penggunaan AI generatif untuk membuat laporan. Dapat diduga bahwa hal ini sangat jauh dari praktik terbaik, mengingat AI generatif akan mengisi kekosongan informasi dengan data yang sepenuhnya fiktif ketika tidak memiliki acuan dalam data pelatihannya.
Memang DHS memiliki halaman khusus mengenai penggunaan AI di instansi mereka, dan telah meluncurkan chatbot sendiri untuk membantu agen dalam “aktivitas sehari-hari” setelah menjalani uji coba dengan chatbot komersial termasuk ChatGPT. Namun catatan kaki tersebut tidak menunjukkan bahwa alat internal instansi yang digunakan oleh petugas. Hal ini mengindikasikan bahwa orang yang mengisi laporan tersebut pergi ke ChatGPT dan mengunggah informasinya untuk menyelesaikan laporan.
Tidak heran satu ahli mengatakan kepada Associated Press bahwa ini adalah “skenario terburuk” untuk penggunaan AI oleh penegak hukum.