Studi kasus yang dirilis bulan ini memberikan cerita peringatan yang relevan di era modern. Dokter menjelaskan bagaimana seorang pria mengalami psikosis akibat keracunan setelah mengikuti saran diet berbasis AI.
Para dokter di University of Washington mendokumentasikan insiden mirip Black Mirror ini dalam Annals of Internal Medicine: Clinical Cases. Pria tersebut dilaporkan mengalami keracunan bromida setelah mengonsumsinya selama tiga bulan berdasarkan rekomendasi ChatGPT. Untungnya, kondisinya membaik setelah perawatan, dan dia berhasil pulih.
Senyawa bromida dulu umum digunakan di awal abad ke-20 untuk mengatasi beragam masalah kesehatan, mulai dari insomnia hingga kecemasan. Namun, belakangan disadari bahwa bromida bisa beracun dalam dosis tinggi atau pemakaian jangka panjang dan justru memicu gangguan neuropsikiatri. Pada 1980-an, bromida sudah dihapus dari sebagian besar obat, dan kasus keracunan bromida (bromism) pun turun drastis.
Namun, bahan ini masih ada dalam beberapa obat hewan dan produk konsumen lain, termasuk suplemen makanan, dan kasus bromism kadang masih terjadi sampai sekarang. Tapi, insiden ini mungkin jadi keracunan bromida pertama yang dipicu AI.
Menurut laporan, pria tersebut awalnya datang ke UGD dan mengira dirinya diracun tetangga. Meski beberapa pemeriksaan fisiknya normal, dia tampak gelisah, paranoid, dan menolak minum air meski haus. Dia juga mengalami halusinasi visual dan pendengaran, lalu berkembang jadi episode psikotik penuh. Dalam kondisi itu, dia sempat berusaha kabur sebelum akhirnya dirawat inap karena dianggap tidak mampu merawat diri.
Dokter memberinya cairan infus dan antipsikotik, lalu kondisinya perlahan stabil. Sejak awal, mereka curiga bromism sebagai penyebabnya. Setelah pasien cukup pulih untuk bicara jelas, terungkap bagaimana bromida bisa masuk ke tubuhnya.
Pria itu mengaku sengaja minum natrium bromida sejak tiga bulan sebelumnya. Dia membaca soal dampak buruk garam dapur (natrium klorida) berlebihan, tapi literatur yang ditemukannya hanya membahas cara mengurangi asupan natrium.
"Terinspirasi latar belakangnya yang pernah mempelajari nutrisi di kuliah," tulis dokter, dia malah memutuskan mengurangi klorida dari dietnya. Dia bertanya ke ChatGPT dan diberitahu bahwa klorida bisa diganti dengan bromida secara aman. Percaya pada AI, dia pun mulai mengonsumsi natrium bromida yang dibeli online.
Berdasar kronologi kasus, kemungkinan dia menggunakan ChatGPT 3.5 atau 4.0. Dokter tidak bisa mengakses riwayat chat-nya, jadi tidak diketahui pasti bagaimana konsultasi itu berlangsung. Tapi, saat mereka mencoba bertanya ke ChatGPT 3.5 tentang pengganti klorida, jawabannya termasuk bromida.
Bisa jadi AI-nya merujuk pada contoh penggantian bromida yang tidak terkait diet—misalnya untuk pembersih. ChatGPT versi dokter memang menyebutkan bahwa konteks penggantian itu penting, tapi AI tidak memberi peringatan soal bahaya konsumsi bromida maupun menanyakan alasan si penanya.
Pria itu akhirnya pulih perlahan. Dia berhenti minum antipsikotik dan keluar dari rumah sakit tiga minggu setelah dirawat. Dua minggu kemudian, kondisinya tetap stabil saat kontrol.
Dokter menulis bahwa meski alat seperti ChatGPT bisa "menjembatani ilmuwan dan masyarakat awam, AI juga berisiko menyebarkan informasi tanpa konteks." Mereka menambahkan, ahli medis manusia hampir pasti tidak akan merekomendasikan bromida untuk orang yang khawatir soal konsumsi garam.
Sejujurnya, tak ada manusia waras yang akan menyarankan hal itu. Makanya, punya teman untuk diskusi tetap penting, berapa pun versi terbaru ChatGPT.