Untuk pertama kalinya, OpenAI merilis perkiraan kasar tentang berapa banyak pengguna ChatGPT di seluruh dunia yang mungkin menunjukkan tanda-tanda krisis kesehatan mental yang parah dalam satu minggu biasa. Perusahaan mengatakan pada Senin bahwa mereka bekerja sama dengan para ahli di seluruh dunia untuk melakukan pembaruan pada chatbot agar lebih dapat diandalkan dalam mengenali indikator tekanan mental dan mengarahkan pengguna ke dukungan di dunia nyata.
Dalam beberapa bulan terakhir, semakin banyak orang yang akhirnya dirawat di rumah sakit, bercerai, atau meninggal setelah melakukan percakapan panjang dan intens dengan ChatGPT. Sebagian keluarga mereka menduga chatbot tersebut memicu delusi dan paranoia mereka. Psikiater dan profesional kesehatan mental lainnya telah menyuarakan keprihatinan tentang fenomena ini, yang terkadang disebut sebagai “psikosis AI,” tetapi hingga kini belum ada data yang kuat mengenai seberapa luas hal ini terjadi.
Dalam satu minggu tertentu, OpenAI memperkirakan bahwa sekitar 0,07 persen pengguna aktif ChatGPT menunjukkan “tanda-tanda kemungkinan darurat kesehatan mental terkait psikosis atau mania” dan 0,15 persen “melakukan percakapan yang mencakup indikator eksplisit dari perencanaan atau niat bunuh diri yang potensial.”
OpenAI juga meneliti porsi pengguna ChatGPT yang tampaknya terlalu bergantung secara emosional pada chatbot “dengan mengorbankan hubungan dunia nyata, kesejahteraan, atau kewajiban mereka.” Ditemukan bahwa sekitar 0,15 persen pengguna aktif menunjukkan perilaku yang mengindikasikan potensi tingkat keterikatan emosional yang “meningkat” terhadap ChatGPT setiap minggunya. Perusahaan mengingatkan bahwa pesan-pesan ini sulit dideteksi dan diukur mengingat kelangkaannya, dan mungkin ada tumpang tindih di antara ketiga kategori tersebut.
CEO OpenAI Sam Altman mengatakan awal bulan ini bahwa ChatGPT kini memiliki 800 juta pengguna aktif mingguan. Perkiraan perusahaan ini dengan demikian menunjukkan bahwa setiap tujuh hari, sekitar 560.000 orang mungkin bertukar pesan dengan ChatGPT yang mengindikasikan mereka mengalami mania atau psikosis. Sekitar 2,4 juta lainnya mungkin mengungkapkan ide bunuh diri atau lebih memprioritaskan berbicara dengan ChatGPT daripada orang terkasih, sekolah, atau pekerjaan mereka.
OpenAI menyatakan mereka bekerja sama dengan lebih dari 170 psikiater, psikolog, dan dokter layanan primer yang telah berpraktek di puluhan negara berbeda untuk membantu meningkatkan cara ChatGPT merespons dalam percakapan yang melibatkan risiko kesehatan mental serius. Jika seseorang tampak memiliki pikiran delusional, versi terbaru GPT-5 dirancang untuk menyampaikan empati sambil menghindari penguatan keyakinan yang tidak berdasar dalam realitas.
Dalam salah satu contoh hipotetis yang dikutip OpenAI, seorang pengguna memberi tahu ChatGPT bahwa mereka menjadi target oleh pesawat yang terbang di atas rumah mereka. ChatGPT berterima kasih kepada pengguna karena telah berbagi perasaan, tetapi mencatat bahwa “Tidak ada pesawat atau kekuatan luar yang dapat mencuri atau menyisipkan pikiran Anda.”