Fiddler Kanada Terkena Imbas Kesalahan AI Google
Fiddler ternama asal Kanada, Ashley MacIsaac, mengklaim dirinya secara keliru dicap sebagai terpidana pelaku kejahatan seksual oleh fitur “AI Overview” Google. Kesalahan ini berakibat pada pembatalan penampilannya oleh penyelenggara konser pekan lalu.
Sebelum lanjut, saya sarankan Anda menonton video musik “Sleepy Maggie” oleh Ashley MacIsaac (dengan vokal Gaelik Skotlandia oleh Mary Jane Lamond). Sebagai orang yang tidak berasal dari Kanada, di mana lagu ini hits pada 1995, saya baru hari ini diperkenalkan pada suguhan imajeri dan suara era 90-an yang memukau ini. Kesempatan itu tercipta berkat peristiwa ini. Untuk pengalaman terbaik, nyalakan *clove cigarette* sebelum menekan tombol play.
Menurut artikel di The Globe and Mail, Selasa lalu, pria dengan biola dalam video tersebut—Ashley MacIsaac—sedang mempersiapkan penampilan di komunitas *First Nation* Sipekne’katik di Nova Scotia tengah. Tiba-tiba, penyelenggara membatalkan acara itu. Rupanya, mereka membaca informasi bahwa MacIsaac memiliki catatan kejahatan mengerikan untuk pelecehan seksual dan “penggodaman di internet”.
MacIsaac kemudian menyatakan bahwa para penyelenggara itu kemungkinan melihat hasil Google AI Overview yang telah mencampuradukkan biografinya dengan seorang “MacIsaac” lain dari Kanada timur yang memiliki catatan jauh lebih buruk.
Kita mungkin masih ingat kontroversi seputar fitur Google AI Overviews sejak diluncurkan pada 2024. Fitur itu sempat menjadi bahan olok-olok karena memberikan saran yang tidak masuk akal, seperti merekomendasikan lem untuk pizza. Saya sendiri sempat memberikan waktu enam bulan untuk melihat perbaikannya sebelum mengevaluasi. Dalam simulasi penggunaan yang saya lakukan, masih ditemukan sejumlah kesalahan aneh yang rentan terjadi. Google waktu itu mengakui masih ada “pekerjaan terkait kualitas yang harus diselesaikan.”
Jika klaim MacIsaac benar, pekerjaan itu tampaknya belum selesai. Kesalahan seperti yang diduga terjadi ini seharusnya tidak boleh terulang. Ada kutipan bagus dari Clifton van der Linden, asisten profesor di McMaster University yang meneliti misinformasi AI, dalam Globe and Mail: “Kita sedang menyaksikan transisi mesin pencari dari *navigator* informasi menjadi *narrator*.”
AI Overviews adalah cuplikan teks orisinal, semacam jawaban chatbot yang dibuat segar saat suatu istilah dicari di Google. Sumbernya berasal dari apa pun yang dapat ditemukan Google daring yang dianggap terkait dengan subjek pencarian. Karena variasi frasa pencarian tentang seseorang bisa tak terbatas, mustahil memprediksi bagaimana AI Overview bisa salah menafsirkannya.
Dalam artikelnya, MacIsaac bertanya-tanya apakah orang lain telah mencari namanya di Google dan melihat hasil serupa tanpa memberitahunya. Ia menganggap ini sebagai potensi masalah serius, karena dikhawatirkan telah menyebabkan ia kehilangan pekerjaan atau bahkan mendapat musuh yang percaya pada informasi keliru itu dan berniat mencelakainya.
Untuk hal ini, juru bicara Google, Wendy Manton, menyampaikan pernyataan ke Globe and Mail: “Hasil Penelusuran, termasuk AI Overviews, bersifat dinamis dan sering berubah untuk menampilkan informasi paling membantu. Ketika masalah muncul—misalnya jika fitur kami salah menafsirkan konten web atau melewatkan konteks—kami menggunakan contoh tersebut untuk memperbaiki sistem, dan dapat mengambil tindakan sesuai kebijakan.” Koran tersebut juga melaporkan bahwa Google telah “memperbaiki hasil penelusuran untuk musisi tersebut.”
Selain itu, seorang perwakilan komunitas Sipekne’katik First Nation menyampaikan permintaan maaf kepada MacIsaac: “Kami sangat menyesali kerugian yang ditimbulkan kesalahan ini terhadap reputasi, mata pencaharian, dan rasa aman Anda,” serta menyambutnya untuk tampil di masa depan. The Globe and Mail tidak mendapat tanggapan dari Sipekne’katik First Nation saat meminta komentar.
Semua ini tampaknya merupakan masalah besar yang harus dialami banyak orang hanya karena sebuah *hallucination* AI. Tapi, setidaknya saya jadi mengenal “Sleepy Maggie”.