Mantan pengacara Trump, Michael Cohen, secara tidak sengaja mengutip kasus pengadilan palsu yang dihasilkan oleh AI.

Michael Cohen, mantan pengacara Donald Trump, mengaku telah mengutip kasus-kasus palsu yang dihasilkan oleh kecerdasan buatan dalam sebuah dokumen hukum yang akhirnya berada di hadapan seorang hakim federal, seperti yang dilaporkan oleh The New York Times. Sebuah dokumen yang terbuka pada Jumat mengungkapkan bahwa Cohen menggunakan Google Bard untuk melakukan penelitian setelah keliru menganggapnya sebagai “mesin pencari super-canggih” daripada sebagai chatbot kecerdasan buatan.

Dokumen yang dimaksud adalah sebuah permohonan yang meminta seorang hakim federal untuk mempersingkat masa percobaan tiga tahun Cohen, yang saat ini dihadapi setelah menjalani hukuman penjara dan mengaku bersalah atas tuduhan penghindaran pajak dan tuduhan lainnya. Namun setelah memeriksa surat pendek tersebut, Hakim Distrik AS Jesse Furman menulis dalam sebuah dokumen bahwa “tidak ada dari kasus-kasus tersebut yang ada” dan meminta pengacara Cohen, David Schwartz, untuk menjelaskan mengapa ketiga kasus tersebut termasuk dalam permohonan serta apakah klien mantan itu yang sudah diberhentikan dari praktik hukum turut membantu menyusunnya.

Sebagai tanggapan, Cohen mengirimkan pernyataan tertulis yang menyatakan bahwa dia tidak bermaksud menyesatkan pengadilan, dan menambahkan bahwa dia menggunakan Google Bard untuk melakukan penelitian hukum dan mengirimkan beberapa temuannya kepada Schwartz. Namun, Cohen mengatakan bahwa dia tidak menyadari bahwa kasus-kasus yang dikutip oleh Bard berpotensi palsu, dan juga tidak berpikir bahwa Schwartz akan menambahkan kutipan-kutipan tersebut dalam permohonan “tanpa memastikan keberadaan mereka.” Schwartz menghadapi sanksi potensial karena menyertakan kutipan palsu tersebut.

“Sebagai bukan seorang pengacara, saya tidak mengikuti perkembangan tren (dan risiko terkait) dalam teknologi hukum,” tulis Cohen.

“Sebagai bukan seorang pengacara, saya tidak mengikuti perkembangan tren (dan risiko terkait) dalam teknologi hukum dan tidak tahu bahwa Google Bard adalah layanan teks generatif yang, seperti Chat-GPT, dapat menampilkan kutipan dan deskripsi yang terlihat nyata tetapi sebenarnya palsu,” tulis Cohen. “Sebaliknya, saya menganggapnya sebagai mesin pencari super-canggih dan telah menggunakannya secara berulang kali dalam konteks lain untuk menemukan informasi yang akurat secara online.”