OpenAI kini memberikan orang tua kendali lebih besar atas penggunaan ChatGPT oleh anak-anak mereka. Kontrol parental baru ini hadir di momen yang kritis, seiring banyak keluarga, sekolah, dan kelompok advokasi yang menyuarakan kekhawatiran mereka mengenai peran berpotensi berbahaya yang dapat dimainkan oleh chatbot AI dalam perkembangan remaja dan anak-anak.
Orang tua perlu menghubungkan akun ChatGPT mereka sendiri dengan akun anak mereka untuk mengakses fitur-fitur baru ini. Namun, OpenAI menyatakan bahwa fitur ini tidak memberikan akses kepada orang tua untuk melihat percakapan anak mereka dengan ChatGPT. Dalam kasus di mana perusahaan mengidentifikasi “risiko keamanan serius,” orang tua akan diberi peringatan “hanya dengan informasi yang diperlukan untuk mendukung keselamatan remaja mereka.”
Lauren Haber Jonas, Kepala Kesejahteraan Pemuda OpenAI, dalam sebuah postingan LinkedIn menyebutnya sebagai “sistem notifikasi keamanan pertama sejenisnya untuk mengingatkan orang tua jika remaja mereka mungkin berisiko melakukan tindakan berbahaya pada diri sendiri.”
Setelah akun terhubung, orang tua dapat mengatur jam tenang dimana anak-anak tidak dapat menggunakan ChatGPT, serta mematikan kemampuan pembuatan gambar dan mode suara. Dari sisi teknis, orang tua juga dapat memilih untuk tidak mengikutsertakan anak mereka dalam pelatihan konten dan memilih agar ChatGPT tidak menyimpan atau mengingat percakapan sebelumnya anak mereka. Orang tua juga dapat memilih untuk mengurangi konten sensitif, yang mengaktifkan pembatasan konten tambahan seputar hal-hal seperti konten grafis. Remaja dapat melepaskan tautan akun mereka dari akun orang tua, tetapi orang tua akan mendapat notifikasi jika hal itu terjadi.
Perusahaan induk ChatGPT mengumumkan bulan lalu bahwa mereka akan memperkenalkan lebih banyak kontrol parental setelah sebuah keluarga dari California mengajukan gugatan terhadap mereka. Keluarga tersebut menuduh chatbot AI bertanggung jawab atas bunuh diri putra mereka yang berusia 16 tahun awal tahun ini, menyebut ChatGPT sebagai “pelatih bunuh diri”-nya. Semakin banyak pengguna AI yang menjadikan chatbot AI mereka sebagai terapis atau tempat curhat. Terapis dan ahli kesehatan jiwa telah menyatakan kekhawatiran akan hal ini, mengatakan bahwa AI seperti ChatGPT tidak dilatih untuk menilai secara akurat, menandai, dan melakukan intervensi ketika menemukan bahasa dan perilaku yang mengkhawatirkan.
(Keterangan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)
Jika Anda merasa Anda atau seseorang yang Anda kenal dalam bahaya langsung, hubungi 911 (atau nomor darurat setempat di negara Anda) atau pergi ke unit gawat darurat untuk mendapatkan bantuan segera. Jelaskan bahwa ini adalah keadaan darurat psikiatri dan minta seseorang yang terlatih untuk situasi semacam ini. Jika Anda sedang bergumul dengan pikiran negatif atau perasaan ingin bunuh diri, tersedia sumber daya untuk membantu. Di AS, telepon National Suicide Prevention Lifeline di 988.