Gambar layar komputer menunjukkan tampilan ChatGPT. Foto/india today
NEW YORK – OpenAI mengumumkan pembaruan keamanan baru untuk ChatGPT setelah analisis internal menemukan lebih dari satu juta pengguna mengakui adanya kecenderungan bunuh diri ke chatbot tersebut. Perubahan ini bertujuan meningkatkan kemampuan AI dalam mengenali dan merespons tekanan psikologis pengguna dengan lebih baik.
Dalam pernyataan pada Senin (27/10/2025), perusahaan mengungkapkan bahwa sekitar 0,15% pengguna ChatGPT mingguan telah terlibat dalam percakapan yang mengandung "indikator eksplisit potensi perencanaan atau niat bunuh diri."
Sebanyak 0,05% pesan lain juga dilaporkan berisi "indikator eksplisit atau implisit ide atau niat bunuh diri."
Awal bulan ini, CEO OpenAI Sam Altman mengklaim ChatGPT punya lebih dari 800 juta pengguna aktif per minggu. Artinya, menurut angka terbaru, lebih dari 1,2 juta orang telah mendiskusikan bunuh diri dengan chatbot tersebut, dan sekitar 400.000 orang menunjukkan tanda-tanda niat bunuh diri.
Perusahaan juga menyatakan sekitar 0,07% (560.000) pengguna mingguan dan 0,01% (80.000) pesan menunjukkan "kemungkinan tanda-tanda darurat kesehatan mental terkait psikosis atau mania."
Selain itu, perusahaan mencatat bahwa beberapa pengguna telah menjadi terlalu bergantung secara emosional pada ChatGPT. Sekitar 0,15% (1,2 juta) pengguna aktif menunjukkan perilaku yang mengindikasikan "tingkat keterikatan emosional yang meningkat" dengan chatbot tersebut.
OpenAI mengumumkan mereka telah bermitra dengan puluhan ahli kesehatan mental dari seluruh dunia untuk memperbarui chatbot-nya. Tujuannya agar lebih andal dalam mengenali tanda-tanda gangguan mental, memberikan respons yang lebih tepat, dan menuntun pengguna ke bantuan di dunia nyata.