Model bahasa besar telah memicu gelombang gugatan pro se di mana orang percaya mereka bisa mewakili diri sendiri dengan bantuan AI. Anda mengira pengacara profesional akan lebih baik, ternyata tidak juga. Seperti dilansir 404 Media, seorang hakim di Mississippi baru-baru ini membatalkan sidang dan menjatuhkan sanksi kepada pengacara dari kedua belah pihak karena mengajukan dokumen pengadilan yang penuh dengan informasi palsu hasil AI.
Kasus ini bermula dari sengketa antara pengacara Tom Withers dan kota Aberdeen, Mississippi, di mana Withers mengklaim dirinya tidak dibayar untuk jasa hukum. Withers sebenarnya tidak mewakili dirinya sendiri, tapi mungkin ia kini menyesal tidak melakukannya—karena pengacara yang mewakilinya malah menggunakan AI untuk riset dan menyusun berkas perkara. Menurut dokumen pengadilan, dua pengacara yang membela Withers mengakui bahwa mereka tidak memverifikasi satupun informasi yang dihasilkan AI sebelum mengajukan argumentasi tertulis.
Sudah buruk, semakin parah lagi. Pengacara dari pihak kota Aberdeen juga menggunakan AI. Dengan kata lain, para pengacara profesional ini pada dasarnya membuang-buang waktu semua orang dengan menyuruh LLM saling bertengkar satu sama lain.
Seperti yang bisa diduga, hakim perkara ini sama sekali tidak senang dengan situasi itu. Sharion Aycock, Hakim Distrik Senior untuk Distrik Utara Mississippi, mengambil langkah drastis dengan menghentikan seluruh proses persidangan dan membatalkan jadwal sidang untuk sementara. Ia sekaligus memberhentikan semua keempat pengacara yang terlibat dalam kasus tersebut. Dua dari pengacara itu—satu dari masing-masing pihak, dan keduanya mengaku menggunakan AI untuk membuat berkas—dilarang beracara di hadapan pengadilan selama dua tahun. Seluruh pengacara juga dihukum denda antara $1.000 hingga $3.500, tergantung pada apakah mereka hanya lalai memverifikasi atau memang sengaja menulis dokumen dengan kutipan yang merupakan halusinasi AI.
“Kasus ini menghadirkan skenario yang tidak lazim bagi Pengadilan—pengacara dari kedua pihak melakukan pelanggaran yang mirip,” tulis Aycock dalam perintah sanksi. “Pengadilan ini sekali lagi ‘terbebani untuk menangani berkas yang berisi halusinasi AI’.”
Masalah AI ini sudah cukup mengguncang pengadilan di seluruh negeri—membuat banyak hakim ke depan karena harus memeriksa pekerjaan para pengacara, agar jangan sampai kutipan palsu tanpa sengaja tercatat yurisprudensi. Peneliti hukum Damien Charlotin, atas inisiatifnya sendiri, mulai mendokumentasikan setiap temuan kutipan hasil AI di lembar gugatan. Sejauh ini ia telah mencatat tidak kurang dari 1598 kasus gal merchantatan lainnya menemcohsumber aneh. Jika Anda seorang pengacara—tolong bantu Charlotin dan jangan pernah pak AI norak macam itu pekerjaan Anda. Demi etika.