Halusinasi

Alat transkripsi kecerdasan buatan OpenAI mengalami halusinasi berlebihan – ini adalah alternatif yang lebih baik

oleh

OpenAI\’s Whisper, sebuah alat pengenalan dan transkripsi ucapan kecerdasan buatan (AI) diluncurkan pada tahun 2022, telah ditemukan mengalami halusinasi atau membuat sesuatu yang tidak benar – begitu banyak sehingga para ahli khawatir bisa menyebabkan kerusakan serius dalam konteks yang salah. Pekan lalu, AP melaporkan bahwa seorang peneliti di Universitas Michigan “menemukan halusinasi dalam delapan dari … Baca Selengkapnya

Rumah Sakit menggunakan alat transkripsi yang didukung oleh model OpenAI yang rentan terhadap halusinasi

oleh

Beberapa bulan yang lalu, dokter saya memperlihatkan alat transkripsi AI yang digunakannya untuk merekam dan merangkum pertemuan pasien-pasien. Dalam kasus saya, ringkasannya baik, tetapi para peneliti yang dikutip oleh ABC News menemukan bahwa tidak selalu demikian dengan Whisper dari OpenAI, yang menggerakkan alat yang banyak rumah sakit gunakan – kadang-kadang alat itu benar-benar membuat cerita-cerita … Baca Selengkapnya

Tuntutan Hukum Terhadap Kebingungan Mengungkap Halusinasi Berita Palsu

oleh

Perplexity tidak merespons permintaan komentar. Dalam sebuah pernyataan yang dikirimkan melalui email ke WIRED, Chief Executive News Corp Robert Thomson membandingkan Perplexity secara tidak menguntungkan dengan OpenAI. “Kami mendukung perusahaan yang berprinsip seperti OpenAI, yang memahami bahwa integritas dan kreativitas sangat penting jika kita ingin mewujudkan potensi Kecerdasan Buatan,” pernyataan tersebut mengatakan. “Perplexity bukan satu-satunya … Baca Selengkapnya

Kurangi Halusinasi AI dengan Trik Perangkat Lunak yang Rapi

oleh

Untuk memulai, tidak semua RAG memiliki kualitas yang sama. Ketepatan konten dalam database kustom sangat penting untuk hasil yang solid, tetapi itu bukanlah satu-satunya variabel. “Ini bukan hanya kualitas kontennya,” kata Joel Hron, kepala AI global di Thomson Reuters. “Ini kualitas pencarian, dan pengambilan konten yang tepat berdasarkan pertanyaan itu.” Menguasai setiap langkah dalam proses … Baca Selengkapnya

Pencarian Google Kini Sebuah Halusinasi Raksasa

oleh

Google menguji AI selama berbulan-bulan sebelum merilisnya secara nasional minggu lalu, tetapi jelas, itu tidak cukup waktu. AI ini mengalami halusinasi dalam menjawab beberapa pertanyaan pengguna, menciptakan pengalaman yang kurang dapat dipercaya di produk unggulan Google. Pada minggu lalu, Gizmodo menerima AI yang mengacu pada pizza berlapis lem dan menyarankan bahwa Barack Obama adalah Muslim. … Baca Selengkapnya

Kita harus berhenti mengabaikan masalah halusinasi AI

oleh

Google I/O memperkenalkan asisten AI yang bisa melihat dan mendengar dunia, sementara OpenAI menempatkan versi chatbot mirip Her ke dalam iPhone. Minggu depan, Microsoft akan menjadi tuan rumah Build, di mana pasti akan memiliki beberapa versi Copilot atau Cortana yang memahami tabel pivot. Kemudian, beberapa minggu setelah itu, Apple akan menjadi tuan rumah konferensi pengembangnya … Baca Selengkapnya

Bagaimana Halusinasi AI Dapat Membantu Menciptakan Antibiotik yang Menyelamatkan Nyawa

oleh

Model kecerdasan buatan generatif (AI) sering kali mengalami halusinasi dan menciptakan informasi yang tidak faktual atau tidak dapat dikutip dari materi sumber. Perilaku ini biasanya merupakan kelemahan, terutama mengingat meningkatnya misinformasi yang dihasilkan oleh AI. Namun, di dunia bakteri, halusinasi membantu para peneliti menemukan obat-obatan baru yang dapat menyelamatkan nyawa. Para peneliti dari Stanford Medicine … Baca Selengkapnya

Wanita Tua di Jakarta Selatan Mengaku Diperkosa oleh Ponsel, Polisi Mencurigai Halusinasi

oleh

Minggu, 14 April 2024 – 20:46 WIB Jakarta – Seorang nenek lanjut usia berusia 79 tahun yang diidentifikasi dengan inisial M mengalami nasib tragis setelah mengakui bahwa dirinya telah diperkosa oleh sebuah handphone atau ponsel genggam. Kejadian aneh ini telah dikonfirmasi oleh Suku Dinas Sosial (Sudinsos) Jakarta Selatan. Plt. Kepala Seksi Perlindungan Jaminan dan Rehabilitasi … Baca Selengkapnya

Sistem keamanan baru dari Microsoft dapat mendeteksi halusinasi pada aplikasi AI pelanggannya.

oleh

Sarah Bird, Chief Product Officer of Responsible AI di Microsoft, mengatakan kepada The Verge dalam sebuah wawancara bahwa timnya telah merancang beberapa fitur keamanan baru yang akan mudah digunakan bagi pelanggan Azure yang tidak mempekerjakan kelompok red teamers untuk menguji layanan AI yang mereka bangun. Microsoft mengatakan alat-alat yang didukung oleh LLM ini dapat mendeteksi … Baca Selengkapnya

Air Canada kalah dalam persidangan setelah chatbotnya mengalami halusinasi kebijakan palsu kepada pelanggan

oleh

Argumen Air Canada bahwa chatbot layanannya yang ditenagai AI bertanggung jawab sepenuhnya atas tindakannya sendiri tidak bertahan di pengadilan sipil (syukurlah), dan sekarang maskapai harus mengembalikan uang kepada seorang pelanggan yang diberikan informasi yang salah tentang penggantian biaya tiket pesawatnya. Insiden tahun 2022 melibatkan seorang pelanggan Air Canada, Jake Moffatt, dan chatbot maskapai tersebut, yang … Baca Selengkapnya