OpenAI telah menghadapi tekanan besar dalam beberapa bulan terakhir untuk menanggapi kekhawatiran bahwa produk andalannya, ChatGPT, tidak aman bagi remaja.
Chatbot AI ini berada di pusat beberapa gugatan kematian tidak wajar yang menuduh bahwa ia membimbing remaja untuk mengakhiri hidup mereka sendiri atau tidak merespons dengan tepat perasaan bunuh diri mereka. Sebuah pengumuman layanan masyarakat baru-baru ini menggambarkan beberapa percakapan semacam itu, membayangkan chatbot sebagai manusia menyeramkan yang membahayakan anak-anak. OpenAI telah menyangkal tuduhan tersebut dalam satu kasus — kematian bunuh diri Adam Raine yang berusia 16 tahun.
Pada hari Kamis, OpenAI menerbitkan sebuah posting blog mengenai upaya keamanan mereka yang semakin meningkat dan berkomitmen “untuk mengutamakan keselamatan remaja, bahkan ketika hal itu mungkin berbenturan dengan tujuan lain.”
Posting tersebut memperkenalkan pembaruan pada Model Spec mereka, yang memandu bagaimana model AI mereka seharusnya berperilaku. Serangkaian prinsip baru untuk pengguna di bawah 18 tahun khususnya akan menginformasikan bagaimana model-model itu bereaksi dalam situasi berisiko tinggi.
OpenAI menyatakan bahwa pembaruan ChatGPT seharusnya memberikan “pengalaman yang aman dan sesuai usia” bagi pengguna berusia 13 hingga 17 tahun dengan memprioritaskan pencegahan, transparansi, dan intervensi dini.
“Ini berarti remaja seharusnya menemui pengaman yang lebih kuat, alternatif yang lebih aman, dan dorongan untuk mencari dukungan offline tepercaya ketika percakapan memasuki wilayah berisiko lebih tinggi,” tulis posting itu. ChatGPT dirancang untuk mendesak remaja menghubungi layanan darurat atau sumber daya krisis ketika menunjukkan risiko yang segera terjadi.
Menurut perusahaan, ketika pengguna masuk sebagai di bawah 18 tahun, pengaman akan membuat ChatGPT lebih berhati-hati ketika membahas topik seperti melukai diri sendiri, bunuh diri, peran mainan romantis atau seksual, atau menyimpan rahasia tentang perilaku berbahaya.
Menurut posting tersebut, American Psychological Association memberikan umpan balik kepada OpenAI mengenai draf awal prinsip untuk di bawah 18 tahun.
“Anak-anak dan remaja mungkin mendapat manfaat dari alat-alat AI jika alat tersebut diseimbangkan dengan interaksi manusia yang secara ilmiah terbukti kritis untuk perkembangan sosial, psikologis, perilaku, dan bahkan biologis,” kata Dr. Arthur C. Evans Jr., CEO American Psychological Association, dalam posting itu.
OpenAI juga menawarkan dua panduan literasi AI yang ditinjau ahli baru kepada remaja dan orang tua. Perusahaan mengatakan mereka berada pada tahap awal menerapkan model prediksi usia untuk pengguna dengan paket konsumen ChatGPT.
Para ahli keselamatan anak dan kesehatan mental baru-baru ini menyatakan chatbot AI tidak aman untuk diskusi remaja mengenai kesehatan mental mereka. Minggu lalu, OpenAI mengumumkan bahwa model terbarunya, ChatGPT-5.2, “lebih aman” untuk kesehatan mental.
Jika Anda memiliki pikiran untuk bunuh diri atau mengalami krisis kesehatan mental, harap bicaralah dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Suicide & Crisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat menghubungi Trans Lifeline di 877-565-8860 atau Trevor Project di 866-488-7386. Kirim teks “START” ke Crisis Text Line di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin hingga Jumat pukul 10:00 pagi – 10:00 malam ET, atau email [email protected]. Jika Anda tidak suka telepon, pertimbangkan untuk menggunakan 988 Suicide and Crisis Lifeline Chat. Berikut adalah daftar sumber daya internasional.
Keterangan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI, menuduh bahwa OpenAI melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.