Permintaan maaf Meta setelah AI chatbot mengatakan bahwa penembakan Trump tidak terjadi

Meta’s asisten AI secara tidak benar mengatakan bahwa upaya pembunuhan terhadap mantan Presiden Donald Trump yang baru-baru ini tidak terjadi, sebuah kesalahan yang sekarang diekspresikan oleh seorang eksekutif perusahaan kepada teknologi yang menggerakkan chatbot dan yang lainnya.

Dalam pos blog perusahaan yang diterbitkan pada hari Selasa, Joel Kaplan, kepala kebijakan global Meta, menyebut respons AI-nya terhadap pertanyaan tentang penembakan itu “malang.” Dia mengatakan Meta AI pertama kali diprogram untuk tidak merespons pertanyaan tentang upaya pembunuhan tetapi perusahaan itu menghapus pembatasan itu setelah orang mulai memperhatikan. Dia juga mengakui bahwa “dalam sejumlah kecil kasus, Meta AI terus memberikan jawaban yang tidak benar, termasuk terkadang menegaskan bahwa peristiwa itu tidak terjadi – yang sedang kami kerjakan dengan cepat.”

“Jenis respons seperti ini disebut sebagai halusinasi, yang merupakan masalah industri yang kita lihat di semua sistem AI generatif, dan merupakan tantangan yang berkelanjutan untuk bagaimana AI menangani peristiwa real-time ke depan,” lanjut Kaplan, yang menjalankan upaya pengarahan Meta. “Seperti semua sistem AI generatif, model dapat mengembalikan output yang tidak akurat atau tidak sesuai, dan kami akan terus menangani masalah ini dan meningkatkan fitur-fitur ini seiring evolusi dan lebih banyak orang berbagi umpan balik mereka.”

Bukan hanya Meta yang terjebak di sini: Google pada hari Selasa juga harus membantah klaim bahwa fitur autocomplete Pencarian mereka menyensor hasil tentang upaya pembunuhan. “Mari kita mulai lagi, lagi-lagi upaya MEMANIPULASI PEMILU!!!” kata Trump dalam sebuah pos di Truth Social. “KEJAR META DAN GOOGLE.”

Sejak ChatGPT muncul di panggung, industri teknologi telah berjuang dengan cara membatasi kecenderungan AI generatif untuk kebohongan. Beberapa pemain, seperti Meta, telah mencoba untuk menstabilkan chatbot mereka dengan data berkualitas dan hasil pencarian real-time sebagai cara untuk mengimbangi halusinasi. Tetapi seperti yang ditunjukkan contoh ini, masih sulit untuk mengatasi apa yang secara inheren didesain oleh model bahasa besar: membuat sesuatu yang tidak ada.