Sebuah pengadilan di Oregon telah menjatuhkan denda sebesar $10.000 kepada seorang pengacara yang menyampaikan berkas hukum berisi kutipan dan sitasi yang dihalusinasi oleh AI, menurut laporan terbaru dari Oregonian. Ini merupakan denda tertinggi sejauh ini untuk kasus pemalsuan rujukan di negara bagian tersebut dan sebenarnya bisa lebih tinggi, namun para hakim memberikan keringanan, seperti diberitakan koran itu.
Pengacara tersebut, yang diidentifikasi oleh Oregonian sebagai Bill Ghiorso dari Salem, mengajukan berkas banding ke Pengadilan Banding Oregon yang memuat 15 sitasi palsu dan sembilan kutipan fiktif. Ghiorso dilaporkan menyalahkan seorang paralegal atas halusinasi AI tersebut dan awalnya menentang denda itu.
Pengadilan banding di Oregon pertama kali mendenda pengacara lain untuk praktik serupa pada Desember 2025. Panel tiga hakim menetapkan bahwa pelanggaran semacam ini harus dikenai denda $500 untuk setiap sitasi palsu dan $1.000 untuk setiap kutipan atau pernyataan hukum yang keliru. Dengan menjumlahkan semua halusinasi, Ghiorso awalnya dihitung mendapatkan denda $16.500, namun para hakim membataskannya pada $10.000.
Menurut hakim dalam perkara ini, Ghiorso menjelaskan bahwa stafnya telah menanyakan kepada Google apakah kasus-kasus yang dirujuk itu nyata dan diberitahu bahwa kasus-kasus tersebut autentik: “Jika seseorang bertanya kepada mesin pencari Google apakah banyak kasus yang direkayasa itu nyata, mesin akan menghasilkan respons menggunakan mesin pencari AI-nya, yang mengonfirmasi bahwa kasus-kasus [palsu] itu faktanya nyata.”
Seringkali orang mengira mereka dapat memeriksa fakta atas sesuatu yang dihasilkan AI dengan menanyai chatbot AI apakah itu nyata. Alat kecerdasan artifisial generatif bukanlah pemeriksa fakta yang andal. Sebagian orang juga berpikir mereka dapat mencegah chatbot AI mereka memproduksi informasi palsu dengan sekadar memberikan instruksi seperti “jangan berhalusinasi.” Ini tidak efektif.
Para hakim menulis bahwa Ghiorso seharusnya menyadari “mengajukan berkas hukum dengan sitasi yang tidak diverifikasi dan pada akhirnya direkayasa dapat melanggar kewajiban profesionalisme, kejujuran, dan keterbukaan seorang pengacara kepada pengadilan.”
Tidak jelas apakah kantor Ghiorso menggunakan respons AI Google di mesin pencari secara eksklusif atau apakah chatbot AI lain digunakan untuk menciptakan halusinasi tersebut. Ghiorso tidak segera menanggapi pertanyaan yang dikirim via email pada Kamis.
Dalam tahun-tahun belakangan telah muncul banyak sekali kisah tentang pengacara yang mengajukan dokumen hukum berisi halusinasi AI. Sebagian besar pengacara hanya mendapat peringatan, namun ada beberapa hakim yang akan menjatuhkan sanksi moneter seperti denda yang dijatuhkan kepada Ghiorso.
Seorang pengacara lain di Oregon dilaporkan didenda $500 bulan lalu untuk satu sitasi palsu. Panel tiga hakim di New Orleans memerintahkan seorang pengacara membayar $2.500 karena mengutip kasus palsu bulan lalu.