Dalam sebuah postingan blog pada hari Senin, OpenAI mempromosikan peningkatan yang telah dicapai oleh model andalannya, GPT-5, dalam mengidentifikasi dan menanggapi respons pengguna yang mengkhawatirkan, termasuk ideasi bunuh diri. Meskipun perlindungan baru dan keterlibatan psikiater dalam melatih GPT-5 menghasilkan respons AI yang lebih baik terhadap perintah kesehatan mental, postingan blog tersebut juga mengungkap beberapa angka yang pasti mengejutkan.
Saat menjelaskan kemampuan GPT-5 untuk mendeteksi kekhawatiran serius tentang kesehatan mental, seperti psikosis dan mania, postingan itu mencatat bahwa percakapan pengguna yang bermasalah dengan chatbot tersebut “jarang” terjadi.
“Meskipun, sebagaimana disebutkan di atas, percakapan ini sulit dideteksi dan diukur karena sangat jarangnya, analisis awal kami memperkirakan bahwa sekitar 0,07% pengguna aktif dalam seminggu dan 0,01% pesan menunjukkan tanda-tanda kemungkinan darurat kesehatan mental terkait psikosis atau mania.”
Persentase ini terlihat kecil, tetapi ChatGPT memiliki 800 juta pengguna aktif per minggunya, menurut Sam Altman, CEO OpenAI, pemilik ChatGPT. Altman membuat pengumuman mengejutkan tersebut awal bulan ini di acara DevDay OpenAI.
Jika angka Altman benar, menurut perkiraan situs tersebut, itu setara dengan 560.000 pengguna ChatGPT yang menunjukkan tanda-tanda psikosis atau mania, dan 80.000 pesan mereka yang mengindikasikan keadaan darurat kesehatan mental.
OpenAI terus berupaya meningkatkan model-modelnya untuk lebih baik dalam mengidentifikasi tanda-tanda niat merugikan diri sendiri dan mengarahkan orang-orang tersebut ke sumber daya yang tepat, seperti saluran telepon untuk pencegahan bunuh diri atau kepada teman dan anggota keluarga mereka sendiri. Postingan blog itu terus menyatakan bahwa percakapan ChatGPT mengenai niat merugikan diri sendiri jarang terjadi, tetapi memperkirakan bahwa “0,15% pengguna aktif dalam seminggu memiliki percakapan yang mencakup indikator eksplisit dari rencana atau intensi bunuh diri potensial, dan 0,05% pesan mengandung indikator eksplisit atau implisit dari ideasi atau intensi bunuh diri.”
Dengan 800 juta pengguna mingguan, angka itu setara dengan 1,2 juta pengguna ChatGPT yang terlibat dalam percakapan dengan AI tentang bunuh diri dalam suatu minggu, dan 400.000 pesan dari pengguna yang menunjukkan indikasi langsung atau tidak langsung dari intensi bunuh diri.
“Bahkan persentase yang sangat kecil dari basis pengguna kami yang besar mewakili jumlah orang yang signifikan, dan itulah mengapa kami sangat serius dalam menangani pekerjaan ini,” jelas seorang juru bicara OpenAI kepada Mashable, menambahkan bahwa perusahaan percaya basis pengguna ChatGPT yang terus bertumbuh merefleksikan masyarakat secara luas, di mana gejala kesehatan mental dan tekanan emosional “secara universal hadir.”
Juru bicara itu juga menegaskan kembali bahwa angka-angka yang diberikan perusahaan merupakan perkiraan dan “angka-angka yang kami berikan dapat berubah secara signifikan seiring dengan bertambahnya pemahaman kami.”
OpenAI saat ini menghadapi gugatan hukum dari orang tua Adam Raine, seorang remaja 16 tahun yang meninggal karena bunuh diri awal tahun ini pada periode di mana ia sangat sering menggunakan ChatGPT. Dalam keluhan hukum yang baru-baru ini diamandemen, keluarga Raine menuduh OpenAI dua kali menurunkan tingkat perlindungan pencegahan bunuh diri untuk meningkatkan keterlibatan pengguna pada bulan-bulan sebelum kematian putra mereka.
Jika Anda merasa ingin bunuh diri atau mengalami krisis kesehatan mental, mohon bicaralah dengan seseorang. Anda dapat menghubungi 988 Suicide & Crisis Lifeline dengan menelepon atau mengirim SMS ke 988, atau mengobrol di 988lifeline.org. Anda dapat menghubungi Trans Lifeline di 877-565-8860 atau the Trevor Project di 866-488-7386. Kirim teks “START” ke Crisis Text Line di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin hingga Jumat pukul 10:00 – 22:00 ET, atau email [email protected]. Jika Anda tidak nyaman dengan telepon, pertimbangkan untuk menggunakan 988 Suicide and Crisis Lifeline Chat. Berikut adalah daftar sumber daya internasional.