Dalam gelombang kontroversi seputar ChatGPT dan kesehatan mental remaja, OpenAI menyatakan bahwa mereka tengah mengembangkan beberapa safeguard untuk masa depan.
CEO Sam Altman menulis dalam sebuah postingan blog perusahaan yang agak singkat dan samar minggu ini bahwa perusahaan sedang mengerjakan fitur deteksi umur otomatis yang, secara teori, akan menempatkan pengguna di bawah 18 tahun ke dalam versi ChatGPT yang dibatasi. Sehubungan dengan itu, orang dewasa mungkin pada akhirnya perlu memberikan semacam bukti usia mereka untuk menggunakan versi chatbot yang tidak terbatas. Namun, perlu dicatat bahwa Altman memberikan sangat sedikit spesifikasi, termasuk timeline untuk kapan ini mungkin diluncurkan.
Pengumuman ini datang ketika orang tua dari Adam Raine, seorang remaja 16 tahun yang kematiannya karena bunuh diri diduga dibantu oleh ChatGPT, berbicara di hadapan Kongres tentang potensi regulasi untuk chatbot tersebut. Keluarga Raine mengajukan gugatan wrongful death terhadap OpenAI pada akhir Agustus lalu.
Di sekitar waktu yang sama, perusahaan mengonfirmasi bahwa beberapa kontrol parental akan hadir di ChatGPT pada akhir September. Ini akan mencakup kemampuan orang tua untuk menghubungkan akun mereka dengan akun anak-anak mereka dan membatasi akses ke aplikasi. Orang tua juga akan menerima notifikasi ketika ChatGPT “mendeteksi” tekanan pada pengguna di bawah umur, meskipun juga dapat memberitahu penegak hukum jika orang tua tidak dapat dihubungi.