OpenAI mengumumkan hari ini bahwa mereka meluncurkan fitur keamanan baru yang berfokus pada kesahatan mental untuk pengguna dewasa ChatGPT.
Mulai hari ini, pengguna ChatGPT dapat menambahkan apa yang disebut perusahaan sebagai “kontak terpercaya” yang mungkin akan diberi tahu jika sistem otomatis AI dan peninjau terlatih menentukan bahwa pengguna terlihat dalam diskusi tentang menyakiti diri sendiri.
Fitur baru ini hadir di tengah pengawasan ketat atas dampak AI dan platform digital lainnya terhadap kesahatan mental. Tahun lalu, OpenAI mengungkapkan bahwa 0,07% pengguna mingguan mereka menunjukkan tanda-tanda “darurat kesehatan mental terkait psikosis atau mania,” sementara 0,15% menyatakkan risiko “menyakiti diri sendiri atau bunuh diri,” dan 0,15% lainnya menunjukkan tanda “ketergantungan emosional pada AI.” Mengingat perusahaan mengklaim bahwa sekitar 10% populasi dunia menggunakan ChatGPT setiap minggu, jumlah ini bisa mencapai hampir tiga juta orang.
Fitur kontak terpercaya ini memperluas pemberitahuan keamanan orangtua yang sudah ada di ChatGPT, yang memberi tahu orangtua ketika akun remaja yang terhubung menunujukkan tanda-tanda tekanan. Instagram juga memperkenalkan peringatan serupa untuk orangtua awal tahun ini.
Sekarang, OpenAI menawarkan peringatan ini kepada pengguna dewasanya. Perusahaan menyatakan bahwa fitur ini dikembangkan dengan bimbingan dari para klinisi kesehatan mental dan pencegahan bunuh diri, peneliti, dan organisasi.
“Kontak Terpecaya dirancang untuk mendorong koneksi dengan seseorang yang sudah dipercaya pengguna,” kata perusahaan dalam pengumumannya. “Ini tidak menggantikan perawatan profesional atau layanan krisis, dan merupakan salah satu dari beberapa lapisan pengaman untuk mendukung orang yang mengalami tekanan.”
OpenAI menambahkan bahwa ChatGPT masih akan mendorong pengguna untuk menghubungi hotline krisis atau layanan darurat saat diperlukan.
Fitur ini dapat diaktif kan oleh pengguna berusia 18 tahun ke atas melalui pengaturan ChatGPT. Dari sana, pengguna dapat mencalonkan orang dewasa lain sebagai kontak terpercaya mereka dengan memberikan detail seperti nomor telepon dan alamat email kontak tersebut.
Kontak terpercaya kemudian akan menerima undangan yang menjelaskan fitur tersebut da nada waktu satu minggu untuk menerima. Jika mereka menolak, pengguna awal dapat mencalonkan kontak lain sebagai gantinya.
Setelah fitur aktif, sistem pemantauan otomatis OpenAI dapat menandai ketika seorang pengguna mungkin membahas tentang menyakiti diri sendiri dengan cara yang mengindikasikan masalah keselamatan serius. Sistem kemudian akan memberi tahu pengguna bahwa kontak terpercai mereka mungkin akan diberi tahu dan mendorong mereka untuk menghubungi langsung. Bahkan akan memberikan beberapa saran pembuka percakapan.
Perusahaan mengatakan bahwa tim kecil penyunting terlatih khusus akan menilai situasi Anda menentukan apakah memberi tahu kontak terpercaya itu tepat.
Jika OpenAI memutuskan untuk mengirim peringatan, konsek terpercaya bisa menerimanya melalui email, pesan teks, atau notifikasi dalam-aplikasi. Peringatan itu hanya akan menjelaskan alasan umum mengapa menyakiti diri sendiri disebutkan darn mendorong kontak terpercaya untuk memeriksa keadaan. Ini juga akan mencakup panduan bagaimana menjalani percakapan tersebut.
OpenAI mencatat bahwa notifikasi tidak akan menyertakan detail spesifik atau transkrip obroluan untuk melindungi privasi pengguna.