Sebuah kepolisian di Inggris telah mengakui ketergantungannya pada asisten AI Microsoft, Copilot, dalam penyusunan laporan intelijen yang keliru.
Pada akhir tahun lalu, tim sepak bola Israel, Maccabi Tel Aviv, bertanding melawan tim Inggris, Aston Villa, dalam sebuah pertandingan di Birmingham, Inggris. Sebelum pertandingan, sebuah komite keselamatan Birmingham memutuskan untuk tidak mengizinkan suporter Maccabi Tel Aviv menghadiri pertandingan tersebut. Keputusan ini didasarkan pada laporan intelijen dari kepolisian West Midlands yang menilai pertandingan tersebut berisiko tinggi akan aksi hooliganisme.
Rincian laporan itu kemudian banyak dipersoalkan oleh pejabat pemerintah. Kini, kepala kepolisian West Midlands, Craig Guildford, mengakui bahwa bawahannya mengandalkan Microsoft Copilot untuk membuat laporan tersebut dan gagal memverifikasi kebenaran temuan-temuannya.
Secara spesifik, laporan itu menyebutkan sebuah pertandingan antara Maccabi Tel Aviv dan tim sepak bola Inggris, West Ham, yang sepenuhnya merupakan halusinasi dari Copilot. Kedua tim tersebut tidak pernah bertanding satu sama lain, dan pada hari pertandingan khayalan tersebut, West Ham justru memiliki pertandingan lain melawan tim Yunani, Olympiacos, menurut Komite Urusan Dalam Negeri Parlemen Inggris.
“Pada Jumat sore saya menyadari bahwa kesalahan hasil terkait pertandingan West Ham melawan Maccabi Tel Aviv
timbul sebagai akibat dari penggunaan Microsoft Copilot,” tulis Guildford dalam surat kepada Komite Urusan Dalam Negeri, setelah berminggu-minggu menyangkal penggunaan AI.
Kecerdasan buatan masih jauh dari teknologi yang sempurna. Teknologi ini masih sangat rentan terhadap halusinasi, dan kecenderungan itu dapat mempercepat penyebaran misinformasi dengan konsekuensi nyata. Insiden laporan intelijen West Midlands bukanlah contoh pertama. Kembali pada Oktober lalu, firma konsultan besar Deloitte harus membayar pengembalian dana sebagian kepada pemerintah Australia setelah menyerahkan laporan seharga $290.000 yang dihasilkan AI, yang dipenuhi dengan makalah penelitian akademis dan putusan pengadilan palsu.
Namun terlepas dari kekurangannya, perusahaan-perusahaan teknologi besar Amerika telah terlibat dalam upaya besar-besaran untuk menerapkan teknologi ini secara luas, di semua bagian tenaga kerja.
“Amerika perlu menjadi yang paling agresif dalam mengadopsi teknologi AI dibandingkan negara mana pun di dunia, tanpa terkecuali, dan itu adalah suatu keharusan,” kata CEO Nvidia, Jensen Huang, dalam sebuah briefing pers dan industri pada Oktober. “Kita harus mendorong setiap perusahaan, setiap pelajar, untuk menggunakan AI.”
Huang baru-baru ini juga menyatakan bahwa membicarakan risiko penerapan AI itu “merugikan” dan “tidak membantu bagi masyarakat.”
Microsoft juga agresif mengenai masa depan AI di dunia kerja. Perusahaan itu membuat penggunaan AI menjadi wajib bagi karyawannya dan memasarkan Copilot sebagai asisten AI untuk meningkatkan produktivitas di tempat kerja. Teknologi Copilot digunakan secara luas oleh berbagai perusahaan di lingkup korporat Amerika. Sejak akhir tahun lalu, Copilot juga digunakan oleh Dewan Perwakilan Rakyat AS.