ChatGPT sedang mendapatkan peningkatan terkait kesehatan, kali ini untuk pengguna itu sendiri.
Dalam sebuah blog post terbaru menjelang pengumuman GPT-5 yang dilaporkan, OpenAI mengungkapkan bahwa mereka akan menyegarkan chatbot AI generatif dengan fitur baru yang dirancang untuk menciptakan hubungan yang lebih sehat antara pengguna dan bot. Misalnya, pengguna yang menghabiskan waktu terlalu lama dalam satu percakapan akan diingatkan untuk istirahat. Perusahaan juga fokus memperbaiki masalah sikap penjilat pada bot, serta mengembangkan model agar bisa mengenali tekanan mental dan emosional.
**LIHAT JUGA:**
RUU Illinois yang melarang terapi AI telah disahkan menjadi undang-undang
Menurut perusahaan, ChatGPT akan merespons secara berbeda untuk pertanyaan pribadi yang “berisiko tinggi”, membimbing pengguna dalam pengambilan keputusan, mempertimbangkan pro dan kontra, serta merespons umpan balik alih-alih memberikan jawaban langsung untuk pertanyaan yang dapat mengubah hidup. Ini mencerminkan Mode Belajar ChatGPT yang baru diumumkan, di mana AI tidak memberikan jawaban panjang lebar, melainkan bimbingan ala Sokrates untuk mendorong pemikiran kritis.
**Mashable Light Speed**
“Kami tidak selalu benar. Awal tahun ini, pembaruan membuat model terlalu mudah setuju, kadang mengatakan apa yang terdengar baik alih-alih yang sebenarnya membantu. Kami menariknya, mengubah cara menggunakan umpan balik, dan meningkatkan cara mengukur manfaat jangka panjang, bukan sekadar apakah jawabannya disukai saat itu,” tulis OpenAI dalam pengumuman. “Kami juga sadar bahwa AI bisa terasa lebih responsif dan personal dibanding teknologi sebelumnya, terutama bagi individu rentan yang mengalami tekanan mental atau emosional.”
Secara umum, OpenAI memperbarui modelnya sebagai respons atas klaim bahwa produk AI generatifnya, khususnya ChatGPT, memperburuk hubungan sosial tidak sehat dan masalah mental, terutama di kalangan remaja. Awal tahun ini, muncul laporan bahwa banyak pengguna membentuk hubungan delusional dengan asisten AI, memperparah gangguan psikiatri yang sudah ada, seperti paranoia dan derealisasi. Akibatnya, pemerintah mulai berfokus pada regulasi lebih ketat atas penggunaan chatbot dan iklan yang menampilkannya sebagai pasangan emosional atau pengganti terapi.
OpenAI mengakui kritik ini, menyatakan bahwa model 4o sebelumnya “kurang maksimal” dalam menangani perilaku mengkhawatirkan dari pengguna. Perusahaan berharap fitur dan perintah sistem baru ini dapat memperbaiki kegagalan versi sebelumnya.
“Tujuan kami bukan untuk mempertahankan perhatian Anda, tapi membantumu menggunakannya dengan baik,” tulis perusahaan. “Kami menguji diri dengan satu pertanyaan: jika seseorang yang kami sayangi meminta dukungan ke ChatGPT, apakah kami akan merasa tenang? Mencapai jawaban ‘ya’ yang jelas adalah pekerjaan kami.”