Halusinasi

Sistem keamanan baru dari Microsoft dapat mendeteksi halusinasi pada aplikasi AI pelanggannya.

oleh
Sistem keamanan baru dari Microsoft dapat mendeteksi halusinasi pada aplikasi AI pelanggannya.

Sarah Bird, Chief Product Officer of Responsible AI di Microsoft, mengatakan kepada The Verge dalam sebuah wawancara bahwa timnya telah merancang beberapa fitur keamanan baru yang akan mudah digunakan bagi pelanggan Azure yang tidak mempekerjakan kelompok red teamers untuk menguji layanan AI yang mereka bangun. Microsoft mengatakan alat-alat yang didukung oleh LLM ini dapat mendeteksi … Baca Selengkapnya

Air Canada kalah dalam persidangan setelah chatbotnya mengalami halusinasi kebijakan palsu kepada pelanggan

oleh
Air Canada kalah dalam persidangan setelah chatbotnya mengalami halusinasi kebijakan palsu kepada pelanggan

Argumen Air Canada bahwa chatbot layanannya yang ditenagai AI bertanggung jawab sepenuhnya atas tindakannya sendiri tidak bertahan di pengadilan sipil (syukurlah), dan sekarang maskapai harus mengembalikan uang kepada seorang pelanggan yang diberikan informasi yang salah tentang penggantian biaya tiket pesawatnya. Insiden tahun 2022 melibatkan seorang pelanggan Air Canada, Jake Moffatt, dan chatbot maskapai tersebut, yang … Baca Selengkapnya

Pertahanan Terhadap Halusinasi Kecerdasan Buatan

oleh
Pertahanan Terhadap Halusinasi Kecerdasan Buatan

Tidak ada yang tahu apakah kecerdasan buatan akan menjadi berkah atau kutukan di masa depan yang jauh. Namun saat ini, hampir semua orang merasa tidak nyaman dan tidak menghargai satu kebiasaan dari chatbot dan agen ini: halusinasi, fakta-fakta yang dibuat-buat yang muncul dalam output dari model bahasa besar seperti ChatGPT. Di tengah jawaban yang tampaknya … Baca Selengkapnya