OpenAI mengumumkan hari ini bahwa mereka sedang mengembangkan “pengalaman ChatGPT yang berbeda” yang dirancang khusus untuk remaja. Langkah ini menggarisbawahi kekhawatiran yang semakin besar tentang dampak chatbot AI terhadap kesehatan mental anak muda.
Mode remaja ini merupakan bagian dari dorongan keselamatan yang lebih luas oleh perusahaan tersebut, menyusul gugatan dari sebuah keluarga yang menuduh bahwa kurangnya perlindungan pada ChatGPT berkontribusi pada kematian putra remaja mereka karena bunuh diri. Perubahan ini mencakup teknologi prediksi usia untuk mencegah anak di bawah 18 tahun mengakses versi standar ChatGPT. Menurut pengumuman tersebut, jika sistem tidak dapat memperkirakan usia seseorang dengan yakin, ChatGPT secara otomatis akan beralih ke pengalaman untuk pengguna di bawah 18 tahun.
“Kami memprioritaskan keselamatan di atas privasi dan kebebasan untuk remaja; ini adalah teknologi baru yang kuat, dan kami percaya anak di bawah umur memerlukan perlindungan yang signifikan,” tulis CEO OpenAI Sam Altman dalam sebuah postingan blog.
Jangan lewatkan konten teknologi yang tidak bias dan ulasan berbasis lab kami. Tambahkan CNET sebagai sumber pilihan di Google.
Apa yang baru dalam mode remaja ChatGPT
OpenAI menyatakan bahwa versi remaja akan dilengkapi dengan batasan bawaan yang lebih ketat, seperti:
- Filter Konten: Tidak ada percakapan bersifat menggoda atau diskusi tentang menyakiti diri sendiri, bahkan dalam konteks fiksi atau penulisan kreatif.
- Tanggapan Krisis: Jika seorang remaja mengungkapkan pikiran untuk bunuh diri, OpenAI dapat mencoba memberi tahu orang tua, dan dalam situasi darurat, bahkan menghubungi pihak berwajib.
- Kendali Orang Tua: Orang tua dapat menghubungkan akun, menetapkan aturan untuk cara ChatGPT merespons, dan memberlakukan “jam larangan” ketika aplikasi tidak boleh diakses.
(Keterangan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap pembuat ChatGPT, OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)
Konteks yang Lebih Luas
Pengumuman OpenAI ini datang hanya beberapa jam sebelum sidang dengar pendapat Senat di Washington, DC, yang mengkaji potensi ancaman AI bagi anak muda. Para pembuat undang-undang telah mendesak perusahaan-perusahaan teknologi mengenai keselamatan remaja menyusul gugatan yang menuduh platform AI memperburuk perjuangan kesehatan mental atau memberikan saran kesehatan yang berbahaya.
Pendekatan OpenAI mencerminkan langkah-langkah sebelumnya oleh perusahaan seperti Google, yang meluncurkan YouTube Kids setelah kritik dan tekanan regulator. Postingan blog Altman menyatakan langkah ini sebagai bagian dari tindakan penyeimbangan yang lebih luas antara keselamatan, privasi, dan kebebasan. Orang dewasa, menurutnya, harus diperlakukan “seperti orang dewasa” dengan lebih sedikit pembatasan, sementara remaja memerlukan perlindungan tambahan — bahkan jika itu berarti mengkompromikan privasi, seperti meminta KTP.
Baca juga: OpenAI Ingin Anda Mendapatkan Sertifikat dalam ChatGPT dan Menemukan Pekerjaan Berikutnya
Perusahaan mengatakan akan merilis pengalaman yang berfokus pada remaja ini pada akhir tahun. Namun, sejarah menunjukkan bahwa remaja yang pintar sering kali menemukan cara untuk mendapatkan akses tanpa batas. Tentunya akan menjadi pertanyaan apakah pagar pengaman ini cukup untuk melindungi remaja yang melek teknologi dan nyaman melewatinya.
Jika Anda merasa bahwa diri Anda atau seseorang yang Anda kenal dalam bahaya langsung, hubungi 911 (atau saluran darurat lokal negara Anda) atau pergi ke ruang gawat darurat untuk mendapatkan bantuan segera. Jelaskan bahwa ini adalah keadaan darurat psikiatri dan minta bantuan dari seseorang yang terlatih untuk situasi seperti ini. Jika Anda sedang bergumul dengan pikiran negatif atau perasaan ingin bunuh diri, tersedia sumber daya untuk membantu. Di AS, hubungi National Suicide Prevention Lifeline di 988.