Ini adalah sedikit gangguan yang menyenangkan dari hari kerja Anda: Pergi ke Google, ketikkan frase yang dibuat-buat, tambahkan kata “makna,” dan cari. Lihat! Tinjauan AI Google tidak hanya akan mengonfirmasi bahwa omong kosong Anda adalah pepatah nyata, tetapi juga akan memberi tahu Anda apa artinya dan bagaimana asalnya.
Ini benar-benar menyenangkan, dan Anda bisa menemukan banyak contoh di media sosial. Di dunia Tinjauan AI, “anjing liar tidak akan berselancar” adalah “cara bermain untuk mengatakan bahwa sesuatu tidak mungkin terjadi atau bahwa sesuatu tidak akan berhasil.” Frase yang dibuat-buat “terkonek adalah apa yang dilakukan terkonek” adalah idiom yang berarti “perilaku atau karakter seseorang adalah hasil langsung dari sifat bawaannya atau ‘kabel,’ seperti fungsi komputer ditentukan oleh koneksi fisiknya.”
Semuanya terdengar sangat masuk akal, disampaikan dengan keyakinan yang teguh. Google bahkan memberikan tautan referensi dalam beberapa kasus, memberikan respons tambahan dari otoritas. Ini juga salah, setidaknya dalam artian bahwa tinjauan menciptakan kesan bahwa ini adalah frasa umum dan bukan sekadar kumpulan kata acak. Dan meskipun terlihat bodoh bahwa Tinjauan AI menganggap “jangan pernah melempar anjing pudel ke babi” adalah sebuah peribahasa dengan asal-usul yang bersumber dari Alkitab, itu juga merupakan gambaran singkat di mana AI generatif masih kurang.
Seperti yang dicatat pada disclaimer di bagian bawah setiap Tinjauan AI, Google menggunakan AI generatif “eksperimental” untuk menghasilkan hasilnya. AI generatif adalah alat yang kuat dengan segala macam aplikasi praktis yang sah. Tetapi dua karakteristiknya yang menonjol muncul ketika menjelaskan frasa-frasa yang dibuat-buat ini. Pertama adalah bahwa pada akhirnya ia adalah mesin probabilitas; meskipun mungkin terlihat bahwa sistem berbasis model bahasa besar memiliki pemikiran atau bahkan perasaan, pada tingkat dasarnya ia hanya menempatkan kata yang paling mungkin setelah yang lain, meletakkan jalur saat kereta maju. Ini membuatnya sangat baik dalam memberikan penjelasan tentang apa arti dari frasa-frasa ini jika mereka benar-benar memiliki arti, yang sekali lagi, mereka tidak.
“Prediksi kata berikutnya didasarkan pada data pelatihannya yang luas,” kata Ziang Xiao, seorang ilmuwan komputer di Universitas Johns Hopkins. “Namun, dalam banyak kasus, kata yang koheren berikut tidak membawa kita pada jawaban yang tepat.”
Faktor lainnya adalah bahwa AI bertujuan untuk menyenangkan; penelitian telah menunjukkan bahwa chatbot sering memberi tahu orang apa yang mereka ingin dengar. Dalam hal ini berarti menerima kata Anda bahwa “Anda tidak dapat menjilat musang dua kali” adalah ungkapan yang diterima. Dalam konteks lain, hal itu mungkin berarti memantulkan bias Anda sendiri kembali kepada Anda, seperti yang ditunjukkan oleh tim peneliti yang dipimpin oleh Xiao dalam sebuah studi tahun lalu.
“Sangat sulit bagi sistem ini untuk mempertimbangkan setiap kueri individu atau pertanyaan pengguna,” kata Xiao. “Hal ini terutama menantang untuk pengetahuan yang tidak umum, bahasa di mana konten yang jauh lebih sedikit tersedia, dan perspektif minoritas. Karena AI pencarian adalah sistem yang kompleks, kesalahan menyebar.”