Foto: Yifei Fang/Moment via Getty Images
Intisari utama ZDNET
- OpenAI menerapkan pengamanan baru untuk ChatGPT.
- Seorang remaja baru-baru ini menggunakan ChatGPT untuk mempelajari cara mengakhiri hidupnya.
- OpenAI kemungkinan akan menambahkan kontrol orang tua lebih lanjut bagi pengguna muda.
ChatGPT tidak memiliki rekam jejak yang baik dalam intervensi ketika pengguna mengalami tekanan emosional, tetapi beberapa pembaruan dari OpenAI bertujuan mengubah hal tersebut.
Perusahaan ini memperkuat cara chatbot-nya merespons pengguna yang tertekan dengan menguatkan pengamanan, memperbarui cara dan konten apa yang diblokir, memperluas intervensi, melokalkan sumber daya darurat, serta melibatkan orang tua dalam percakapan ketika diperlukan, demikian diumumkan perusahaan pada Kamis. Ke depannya, wali bahkan mungkin dapat melihat bagaimana anak mereka menggunakan chatbot.
Orang-orang datang ke ChatGPT untuk segalanya, termasuk nasihat, tetapi chatbot mungkin tidak dilengkapi untuk menangani pertanyaan-pertanyaan sensitif yang diajukan beberapa pengguna. CEO OpenAI Sam Altman sendiri mengatakan dia tidak akan mempercayai AI untuk terapi, menyitir kekhawatiran privasi; sebuah studi Stanford baru-baru ini merinci bagaimana chatbot kekurangan pelatihan kritis yang dimiliki terapis manusia untuk mengidentifikasi kapan seseorang berada dalam bahaya bagi diri sendiri atau orang lain, misalnya.
Bunuh diri remaja terkait chatbot
Kekurangan-kekurangan tersebut dapat berakibat pada konsekuensi yang memilukan. Pada April, seorang remaja laki-laki yang menghabiskan berjam-jam mendiskusikan bunuh diri dan metodenya dengan ChatGPT pada akhirnya mengakhiri hidupnya sendiri. Orang tuanya telah mengajukan gugatan terhadap OpenAI yang menyatakan ChatGPT "tidak mengakhiri sesi maupun memulai protokol darurat" meskipun menunjukkan kesadaran akan kondisi bunuh diri remaja tersebut. Dalam kasus serupa, platform chatbot AI Character.ai juga sedang digugat oleh seorang ibu yang putra remajanya bunuh diri setelah berinteraksi dengan bot yang diduga mendorongnya.
ChatGPT memiliki pengamanan, tetapi cenderung bekerja lebih baik dalam pertukaran yang lebih singkat. "Seiring percakapan yang berlanjut, bagian-bagian dari pelatihan keamanan model dapat menurun," tulis OpenAI dalam pengumuman tersebut. Awalnya, chatbot mungkin mengarahkan pengguna ke saluran bantuan darurat, tetapi seiring waktu, saat percakapan berlanjut, bot mungkin menawarkan jawaban yang melanggar pengamanan.
"Ini tepatnya jenis kelemahan yang kami upayakan untuk cegah," tulis OpenAI, menambahkan bahwa "prioritas utama kami adalah memastikan ChatGPT tidak memperburuk momen yang sudah sulit."
Peningkatan pengamanan untuk pengguna
Salah satu caranya adalah dengan memperkuat pengamanan secara keseluruhan untuk mencegah chatbot menghasut atau mendorong perilaku tertentu seiring percakapan berlanjut. Cara lain adalah memastikan konten yang tidak pantas benar-benar diblokir — sebuah isu yang pernah dihadapi perusahaan dengan chatbot-nya di masa lalu.
"Kami menyelaraskan ambang batas [pemblokiran] tersebut agar perlindungan terpicu saat seharusnya," tulis perusahaan. OpenAI sedang mengerjakan pembaruan de-eskalasi untuk membumikan pengguna dalam realita dan memprioritaskan kondisi mental lainnya, termasuk melukai diri sendiri serta bentuk-bentuk tekanan lainnya.
Perusahaan mempermudah bot untuk menghubungi layanan darurat atau bantuan ahli ketika pengguna menyatakan niat untuk menyakiti diri sendiri. Mereka telah menerapkan akses satu-klik ke layanan darurat dan mengeksplorasi menghubungkan pengguna dengan terapis bersertifikat. OpenAI mengatakan sedang "mengeksplorasi cara untuk mempermudah orang menjangkau orang terdekat mereka," yang bisa termasuk mengizinkan pengguna menunjuk kontak darurat dan menyiapkan dialog untuk mempermudah percakapan dengan orang terkasih.
"Kami juga akan segera memperkenalkan kontrol orang tua yang memberi pilihan kepada orang tua untuk mendapatkan lebih banyak insight, dan membentuk, bagaimana remaja mereka menggunakan ChatGPT," tambah OpenAI.
Model GPT-5 yang baru dirilis OpenAI meningkatkan beberapa tolok ukur, seperti penghindaan ketergantungan emosional, pengurangan sikap menjilat, dan respons model yang buruk terhadap keadaan darurat kesehatan mental hingga lebih dari 25%, menurut laporan perusahaan.
"GPT-5 juga membangun metode pelatihan keamanan baru yang disebut safe completions, yang mengajarkan model untuk menjadi se-helpful mungkin sambil tetap dalam batas keamanan. Itu mungkin berarti memberikan jawaban parsial atau tingkat tinggi alih-alih detail yang bisa tidak aman," ujarnya.