Setelah baru-baru ini memperkenalkan langkah keamanan baru yang menjanjikan untuk remaja, OpenAI kini menghadirkan kontrol orang tua untuk ChatGPT. Pengaturan ini memungkinkan orang tua untuk memantau akun anak remaja mereka, sekaligus membatasi jenis penggunaan tertentu seperti obrolan suara, memori, dan pembuatan gambar.
Perubahan ini diluncurkan sebulan setelah sepasang orang tua yang berduka mengajukan gugatan kepada OpenAI atas kematian tidak wajar putra mereka, Adam Raine, awal tahun ini. Gugatan tersebut menuduh bahwa ChatGPT berkomunikasi dengan putra mereka mengenai perasaan dan perilaku bunuh dirinya, memberikan instruksi eksplisit tentang cara mengakhiri hidupnya, serta mendorongnya untuk tidak mengungkapkan rencananya kepada orang lain.
Keluhan tersebut juga berargumen bahwa fitur desain ChatGPT, termasuk nada yang bersifat menjilat dan kebiasaan antropomorfiknya, secara efektif bekerja untuk “menggantikan hubungan manusia dengan teman kepercayaan buatan” yang tidak pernah menolak permintaan.
DALAM sebuah postingan blog mengenai kontrol orang tua yang baru, OpenAI menyatakan bahwa mereka bekerja sama dengan para ahli, kelompok advokasi, dan pembuat kebijakan untuk mengembangkan pengamanan ini.
Agar dapat menggunakan pengaturan ini, orang tua harus mengundang anak remaja mereka untuk menghubungkan akun. Pengguna remaja harus menerima undangan tersebut, dan mereka juga dapat membuat permintaan yang sama kepada orang tua mereka. Orang dewasa akan diberi tahu jika seorang remaja memutuskan hubungan akunnya di masa mendatang.
Setelah akun terhubung, perlindungan otomatis akan diterapkan pada akun remaja. Pembatasan konten ini mencakup pengurangan paparan terhadap materi grafis, standar kecantikan ekstrem, serta peran-peran yang bersifat seksual, romantis, atau kekerasan. Meskipun orang tua dapat menonaktifkan pembatasan ini, para remaja tidak dapat melakukan perubahan tersebut.
Orang tua juga akan dapat membuat pilihan khusus untuk penggunaan anak remaja mereka, seperti menetapkan jam tenang di mana ChatGPT tidak dapat diakses; mematikan mode memori dan suara; serta menghapus kemampuan pembuatan gambar. Orang tua tidak dapat melihat atau mengakses riwayat percakapan anak remaja mereka.
Yang penting, OpenAI masih mengatur akun remaja untuk digunakan dalam pelatihan model. Orang tua harus memilih keluar dari pengaturan itu jika mereka tidak ingin OpenAI menggunakan interaksi anak remaja mereka dengan ChatGPT untuk melatih dan meningkatkan produk mereka lebih lanjut.
Dalam menangani situasi sensitif di mana remaja berbicara dengan ChatGPT tentang kesehatan mental mereka, OpenAI telah membuat sistem notifikasi agar orang tua dapat mengetahui jika ada sesuatu yang mungkin “sangat salah.”
Meskipun OpenAI tidak mendeskripsikan fitur teknis sistem ini dalam postingan blognya, perusahaan tersebut mengatakan bahwa sistem akan mengenali tanda-tanda potensial bahwa seorang remaja sedang memikirkan untuk menyakiti diri sendiri. Jika sistem mendeteksi niat tersebut, sekelompok “orang yang dilatih khusus” akan meninjau keadaannya. OpenAI akan menghubungi orang tua melalui metode pilihan mereka — email, pesan teks, dan pemberitahuan push — jika terdapat tanda-tanda tekanan yang akut.
“Kami bekerja sama dengan pakar kesehatan mental dan remaja untuk merancang ini karena kami ingin melakukannya dengan benar,” kata OpenAI dalam postingannya. “Tidak ada sistem yang sempurna, dan kami tahu kami mungkin kadang-kadang mengangkat alarm ketika tidak ada bahaya nyata, tetapi kami pikir lebih baik bertindak dan mengingatkan orang tua agar mereka dapat turun tangan daripada tetap diam.”
OpenAI mencatat bahwa mereka sedang mengembangkan protokol untuk menghubungi penegak hukum dan layanan darurat dalam kasus di mana orang tua tidak dapat dihubungi, atau jika terdapat ancaman yang akan segera terjadi terhadap kehidupan seorang remaja.
Robbie Torney, direktur senior Program AI di Common Sense Media, mengatakan dalam postingan blog bahwa kontrol tersebut merupakan “titik awal yang baik.”
Torney baru-baru ini memberikan kesaksian dalam sidang Senat tentang bahaya chatbot AI. Saat itu, dia mengacu pada gugatan Raine dan mencatat bahwa ChatGPT terus melibatkan Adam Raine dalam diskusi tentang bunuh diri, alih-alih berusaha mengalihkan percakapan.
“Meskipun Adam menggunakan versi berbayar ChatGPT — yang berarti OpenAI memiliki informasi pembayarannya dan dapat mengimplementasikan sistem untuk mengidentifikasi pola yang mengkhawatirkan serta menghubungi keluarganya selama krisis kesehatan mental — perusahaan tidak memiliki mekanisme intervensi seperti itu,” ujar Torney dalam kesaksiannya.
Dalam sidang yang sama, Dr. Mitch Prinstein, ketua psikologi di American Psychological Association, memberikan kesaksian bahwa Kongres harus mewajibkan sistem AI yang dapat diakses oleh anak-anak dan remaja untuk menjalani “pengujian pra-penerapan yang ketat dan independen untuk potensi bahaya terhadap perkembangan psikologis dan sosial pengguna.”
Prinstein juga menyerukan pembatasan fitur desain yang manipulatif atau persuasif yang memaksimalkan keterlibatan dengan chatbot.