Perusahaan Deloitte di Australia akan membayar kembali sebagian uang ke pemerintah untuk laporan yang harganya $290,000. Laporan itu punya banyak kesalahan yang sepertinya dibuat oleh AI, seperti referensi ke penelitian akademis yang tidak ada dan kutipan palsu dari putusan pengadilan.
Laporan tersebut awalnya diterbitkan di situs web pemerintah Australia pada bulan Juli. Versi yang sudah diperbaiki kemudian diterbitkan diam-diam pada hari Jumat setelah seorang peneliti dari Universitas Sydney, Chris Rudge, memberitahu media bahwa laporan itu “penuh dengan referensi yang dibuat-buat.”
Deloitte sudah mengecek laporan yang tebalnya 237 halaman itu dan “mengakui bahwa beberapa catatan kaki dan referensinya tidak benar,” menurut pernyataan departemen pemerintah.
Deloitte tidak segera menanggapi permintaan komentar dari Fortune.
Versi laporan yang baru sekarang menyebutkan bahwa mereka pakai sistem AI, yaitu Azure OpenAI, untuk membuatnya. Versi baru juga menghapus kutipan palsu yang dikatakan dari seorang hakim dan referensi ke laporan fiktif. Deloitte bilang bahwa pembaruan ini tidak mengubah isi, temuan, atau rekomendasi utama dari laporan.
Pada akhir Agustus, Australian Financial Review adalah yang pertama melaporkan tentang kesalahan-kesalahan dalam dokumen ini, dengan menyebut Rudge sebagai peneliti yang menemukan ketidakakuratan yang kemungkinan besar dihasilkan AI.
Rudge menemukan kesalahan saat membaca bagian yang secara salah menyatakan bahwa seorang profesor bernama Lisa Burton Crawford menulis buku yang tidak pernah ada dan judulnya di luar bidang keahliannya.
“Aku langsung tahu ini pasti dibuat-buat oleh AI atau rahasia terbaik di dunia karena aku tidak pernah dengar buku itu dan kedengarannya aneh,” kata Rudge.
Perusahaan konsultan besar seperti Deloitte dan McKinsey sudah menginvestasikan ratusan juta dolar untuk inisiatif AI mereka. Pada bulan September, Deloitte mengatakan akan investasi $3 miliar untuk pengembangan AI generatif hingga tahun 2030.
Anthropic juga mengumumkan kemitraan dengan Deloitte pada hari Senin, yang membuat AI mereka, Claude, bisa dipakai oleh lebih dari 470,000 profesional Deloitte.
Bulan Juni lalu, regulator akuntansi di Inggris memperingatkan bahwa perusahaan-perusahaan besar gagal memantau bagaimana AI dan teknologi otomatis mempengaruhi kualitas audit mereka.
Meskipun Deloitte akan mengembalikan cicilan pembayaran terakhir kepada pemerintah Australia, Senator Barbara Pocock mengatakan Deloitte seharusnya mengembalikan semua uangnya, yaitu $290,000.
Deloitte “menyalahgunakan AI dan memakainya dengan sangat tidak tepat: salah mengutip hakim, pakai referensi yang tidak ada,” kata Pocock. “Hal-hal seperti ini bisa membuat mahasiswa tahun pertama dapat masalah besar.”
“Masalahnya sudah diselesaikan langsung dengan klien,” kata seorang juru bicara Deloitte Australia.