OpenAI mengklaim bahwa 10% populasi global saat ini menggunakan ChatGPT setiap minggunya. Dalam sebuah laporan yang diterbitkan pada hari Senin, OpenAI menyoroti cara mereka menangani pengguna yang menunjukkan tanda-tanda tekanan mental. Perusahaan tersebut menyatakan bahwa 0,07% pengguna mingguan menunjukkan tanda-tanda “darurat kesehatan jiwa terkait psikosis atau mania,” 0,15% mengungkapkan risiko “bunuh diri atau melukai diri sendiri,” dan 0,15% menunjukkan tanda-tanda “ketergantungan emosional pada AI.” Jumlah totalnya mendekati tiga juta orang.
Sebagai bagian dari upaya berkelanjutan untuk menunjukkan peningkatan perlindungan bagi pengguna yang mengalami kesulitan, OpenAI membagikan detail kerja samanya dengan 170 ahli kesehatan jiwa guna meningkatkan respons ChatGPT terhadap orang-orang yang membutuhkan dukungan. Perusahaan mengklaim telah mengurangi “respons yang tidak memenuhi perilaku yang diinginkan sebesar 65-80%,” dan kini lebih mampu meredakan ketegangan dalam percakapan serta mengarahkan orang ke layanan profesional dan hotline krisis apabila diperlukan. Mereka juga menambahkan lebih banyak “pengingat lembut” untuk beristirahat selama sesi panjang. Tentu saja, sistem tidak dapat memaksa pengguna menghubungi dukungan atau mengunci akses untuk mengistirahatkan pengguna.
Perusahaan itu juga merilis data tentang seberapa sering orang mengalami masalah kesehatan jiwa saat berkomunikasi dengan ChatGPT, yang tampaknya bertujuan untuk menekankan betapa kecilnya persentase percakapan tersebut dibandingkan total penggunaan. Berdasarkan metrik perusahaan, “0,07% pengguna aktif dalam seminggu dan 0,01% pesan mengindikasikan kemungkinan tanda-tanda darurat kesehatan jiwa terkait psikosis atau mania.” Itu setara dengan sekitar 560.000 orang per minggu, jika mengacu pada jumlah pengguna yang diklaim perusahaan. OpenAI juga mengklaim menangani sekitar 18 miliar pesan ke ChatGPT setiap minggu, sehingga 0,01% itu setara dengan 1,8 juta pesan terkait psikosis atau mania.
Salah satu fokus utama lain perusahaan untuk keselamatan adalah meningkatkan respons terhadap pengguna yang mengungkapkan keinginan untuk bunuh diri atau melukai diri sendiri. Menurut data OpenAI, sekitar 0,15% pengguna per minggu mengungkapkan “indikator eksplisit dari rencana atau niat bunuh diri potensial,” yang mencakup 0,05% dari seluruh pesan. Angka tersebut setara dengan sekitar 1,2 juta orang dan sembilan juta pesan.
Area terakhir yang menjadi fokus perusahaan dalam upaya meningkatkan respons terhadap masalah kesehatan jiwa adalah ketergantungan emosional pada AI. OpenAI memperkirakan bahwa sekitar 0,15% pengguna dan 0,03% pesan per minggu “mengindikasikan tingkat keterikatan emosional terhadap ChatGPT yang berpotensi tinggi.” Itu berarti 1,2 juta orang dan 5,4 juta pesan.
OpenAI telah mengambil langkah-langkah dalam beberapa bulan terakhir untuk menyediakan pengaman yang lebih baik guna mencegah kemungkinan chatbotnya memperburuk tantangan kesehatan jiwa seseorang. Hal ini menyusul kematian seorang remaja 16 tahun yang, menurut gugatan kelalaian dari orang tuanya, meminta saran dari ChatGPT tentang cara mengikat simpul gantung sebelum mengakhiri hidupnya. Namun, kesungguhan upaya ini patut dipertanyakan, mengingat di saat yang sama perusahaan mengumumkan pembatasan chat untuk pengguna di bawah umur, mereka juga mengumumkan bahwa pengguna dewasa dapat memberikan lebih banyak kepribadian kepada ChatGPT dan terlibat dalam hal-hal seperti menghasilkan konten erotis—fitur yang justru sepertinya akan meningkatkan keterikatan emosional dan ketergantungan pada chatbot tersebut.