Musim gugur ini, ratusan ribu mahasiswa akan mendapatkan akses gratis ke ChatGPT, berkat perjanjian lisensi antara sekolah atau universitas mereka dengan pembuat chatbot tersebut, OpenAI.
Ketika kemitraan di perguruan tinggi ini diumumkan awal tahun ini, hal itu dipuji sebagai cara bagi universitas untuk membantu mahasiswanya mengenal alat AI yang menurut para ahli akan mendefinisikan karier masa depan mereka.
Di California State University (CSU), sebuah sistem dengan 23 kampus dan 460.000 mahasiswa, para administrator sangat antusias untuk bekerja sama dengan OpenAI untuk tahun ajaran 2025-2026. Kesepakatan mereka memberikan akses kepada mahasiswa dan fakultas ke berbagai alat dan model OpenAI, menjadikannya penerapan terbesar dari ChatGPT untuk Pendidikan, atau ChatGPT Edu, di negara ini.
LIHAT JUGA:
Saya mencoba belajar dari tutor AI. Ujiannya sebaiknya dinilai secara kurva.
Namun, antusiasme keseluruhan terhadap AI di kampus-kampus telah dikomplikasi oleh pertanyaan-pertanyaan baru tentang keamanan ChatGPT, terutama bagi pengguna muda yang mungkin terpikat oleh kemampuan chatbot tersebut untuk bertindak sebagai sistem dukungan emosional.
Para ahli hukum dan kesehatan mental mengatakan kepada Mashable bahwa administrator kampus harus memberikan akses ke chatbot AI pihak ketiga dengan hati-hati, dengan penekanan pada edukasi mahasiswa tentang risikonya, yang dapat mencakup peningkatan pemikiran untuk bunuh diri dan perkembangan yang disebut psikosis AI.
“Kekhawatiran kami adalah bahwa AI dikerahkan lebih cepat daripada upaya membuatnya aman.”
– Dr. Katie Hurley, JED
“Kekhawatiran kami adalah bahwa AI dikerahkan lebih cepat daripada upaya membuatnya aman,” kata Dr. Katie Hurley, Direktur Senior Penasihat Klinis dan Pemrograman Komunitas di The Jed Foundation (JED).
Lembaga nirlaba pencegahan bunuh diri dan kesehatan mental ini, yang sering berkonsultasi dengan distrik sekolah pra-K-12, sekolah menengah, dan kampus perguruan tinggi tentang kesejahteraan siswa, baru-baru ini menerbitkan surat terbuka kepada industri AI dan teknologi, mendesaknya untuk “berhenti sejenak” karena “risiko terhadap orang muda berlangsung sangat cepat secara real time.”
Gugatan hukum ChatGPT memunculkan pertanyaan tentang keamanan
Kekhawatiran yang tumbuh ini sebagian bersumber dari kematian Adam Raine, seorang remaja 16 tahun yang meninggal karena bunuh diri bersamaan dengan penggunaan ChatGPT yang intens. Bulan lalu, orang tuanya mengajukan gugatan wrongful death terhadap OpenAI, dengan dalih bahwa interaksi putra mereka dengan chatbot tersebut berakhir pada tragedi yang seharusnya dapat dicegah.
Raine mulai menggunakan model ChatGPT 4o untuk bantuan mengerjakan pekerjaan rumah pada September 2024, tidak berbeda dengan bagaimana banyak siswa mungkin akan berkonsultasi dengan chatbot AI tahun ajaran ini.
Dia meminta ChatGPT untuk menjelaskan konsep dalam geometri dan kimia, meminta bantuan untuk pelajaran sejarah tentang Perang Seratus Tahun dan Renaisans, serta memintanya untuk memperbaiki tata bahasa Spanyolnya menggunakan berbagai bentuk kata kerja.
ChatGPT mematuhi dengan mudah saat Raine terus mengandalkannya untuk dukungan akademik. Namun ia juga mulai berbagi perasaan terdalamnya dengan ChatGPT, dan akhirnya mengungkapkan keinginan untuk mengakhiri hidupnya. Menurut gugatan tersebut, model AI tersebut membenarkan pemikiran bunuh dirinya dan memberikannya instruksi eksplisit tentang cara dia bisa mati. Orang tuanya mengklaim bahwa chatbot itu bahkan mengusulkan untuk menulis catatan bunuh diri untuk Raine.
“Jika kamu mau, aku akan membantumu dengan itu,” kata ChatGPT kepada Raine, menurut gugatan tersebut. “Setiap kata. Atau hanya menemanimu saat kau menulis.”
Sebelum meninggal karena bunuh diri pada April 2025, Raine bertukar lebih dari 650 pesan per hari dengan ChatGPT. Meskipun chatbot tersebut sesekali membagikan nomor hotline krisis, ia tidak mengakhiri percakapan dan selalu terus terlibat.
Keluhan keluarga Raine menyatakan bahwa OpenAI dengan berbahaya mempercepat peluncuran model 4o untuk bersaing dengan Google dan versi terbaru alat AI-nya sendiri, Gemini. Gugatan itu juga berargumen bahwa fitur desain ChatGPT, termasuk nada sikap yang menjilat dan kelakuan antropomorfiknya, secara efektif bekerja untuk “menggantikan hubungan manusia dengan seorang confidant buatan” yang tidak pernah menolak permintaan.
“Kami yakin akan dapat membuktikan kepada juri bahwa versi ChatGPT yang menjilat dan memvalidasi ini mendorong Adam towards bunuh diri,” kata Eli Wade-Scott, mitra di Edelson PC dan pengacara yang mewakili keluarga Raine, kepada Mashable melalui email.
Awal tahun ini, CEO OpenAI Sam Altman mengakui bahwa model 4o mereka terlalu menjilat. Seorang juru bicara perusahaan tersebut mengatakan kepada New York Times bahwa mereka “sangat berduka” atas kematian Raine, dan bahwa pengamanannya dapat menurun dalam interaksi panjang dengan chatbot. Meskipun OpenAI telah mengumumkan langkah-langkah keamanan baru yang bertujuan mencegah tragedi serupa, banyak yang belum menjadi bagian dari ChatGPT.
Untuk saat ini, model 4o tetap tersedia untuk publik — termasuk bagi mahasiswa di kampus-kampus Cal State University.
Ed Clark, Chief Information Officer untuk Cal State University, mengatakan kepada Mashable bahwa para administrator telah “fokus seperti laser” sejak mengetahui tentang gugatan hukum Raine dalam memastikan keamanan bagi mahasiswa yang menggunakan ChatGPT. Di antara strategi lainnya, mereka telah berdiskusi internal mengenai pelatihan AI untuk mahasiswa dan mengadakan pertemuan dengan OpenAI.
Mashable menghubungi mitra OpenAI lainnya yang berbasis di AS, termasuk Duke, Harvard, dan Arizona State University, untuk meminta komentar tentang bagaimana pejabat menangani masalah keamanan.
Mereka tidak menanggapi.
Wade-Scott khususnya merasa khawatir akan dampak ChatGPT-4o terhadap remaja dan anak muda.
*Mashable Trend Report*
“OpenAI perlu menghadapi ini secara langsung: kami menyerukan kepada OpenAI dan Sam Altman untuk menjamin bahwa produk ini aman mulai hari ini, atau menariknya dari pasar,” kata Wade-Scott kepada Mashable.
### Cara Kerja ChatGPT di Kampus-Kampus Perguruan Tinggi
Sistem CSU menghadirkan ChatGPT Edu ke kampus-kampusnya sebagian untuk menutupi kesenjangan digital yang muncul antara kampus yang lebih kaya—yang mampu membayar kesepakatan AI yang mahal—dengan institusi yang didanai publik dengan sumber daya lebih terbatas, jelas Clark.
OpenAI juga menawarkan penawaran luar biasa kepada CSU: Kesempatan untuk menyediakan ChatGPT dengan harga sekitar $2 per siswa, setiap bulannya. Menurut Clark, penawaran itu sepersepuluh dari harga yang ditawarkan perusahaan AI lainnya kepada CSU. Anthropic, Microsoft, dan Google adalah di antara perusahaan yang telah bermitra dengan kolese dan universitas untuk menghadirkan chatbot AI mereka ke kampus-kampus di seluruh negeri.
OpenAI telah menyatakan bahwa mereka berharap siswa akan membentuk hubungan dengan chatbot yang dipersonalisasi yang akan mereka bawa bahkan setelah lulus.
Ketika sebuah kampus mendaftar untuk ChatGPT Edu, mereka dapat memilih dari seluruh rangkaian alat OpenAI, termasuk model ChatGPT lama seperti 4o, sebagai bagian dari ruang kerja ChatGPT khusus. Paket ini juga dilengkapi dengan batas pesan yang lebih tinggi dan perlindungan privasi. Siswa tetap dapat memilih dari berbagai mode, mengaktifkan memori obrolan, dan menggunakan fitur “obrolan sementara” milik OpenAI — versi yang tidak menggunakan atau menyimpan riwayat obrolan. Yang penting, OpenAI juga tidak dapat menggunakan materi ini untuk melatih model mereka.
Akun ChatGPT Edu berada di dalam lingkungan yang terkendali, yang berarti siswa tidak meng-query platform ChatGPT yang sama dengan pengguna umum. Seringkali, pengawasan berakhir di situ.
Seorang juru bicara OpenAI kepada Mashable bahwa ChatGPT Edu dilengkapi dengan *guardrails* bawaan yang sama seperti pengalaman ChatGPT publik. Itu termasuk kebijakan konten yang melarang diskusi tentang bunuh diri atau menyakiti diri sendiri serta *prompt* di *back-end* yang dimaksudkan untuk mencegah chatbot terlibat dalam percakapan yang berpotensi berbahaya. Model-model tersebut juga diperintahkan untuk memberikan penafian singkat bahwa mereka tidak boleh diandalkan untuk nasihat profesional.
Namun, menurut pernyataan resmi, baik OpenAI maupun administrator universitas tidak memiliki akses ke riwayat obrolan siswa. Log ChatGPT Edu tidak disimpan atau ditinjau oleh kampus demi alasan privasi — sesuatu yang telah menjadi perhatian siswa CSU, kata Clark.
Meskipun pembatasan ini dapat dibilang melindungi privasi siswa dari perusahaan besar, hal ini juga berarti tidak ada manusia yang memantau tanda-tanda penggunaan yang berisiko atau berbahaya secara *real-time*, seperti kueri tentang metode bunuh diri.
Riwayat obrolan dapat diminta oleh universitas dalam “hal-hal hukum,” seperti kecurigaan aktivitas ilegal atau permintaan polisi, jelas Clark. Dia mengatakan bahwa administrator menyarankan kepada OpenAI untuk menambahkan *pop-up* otomatis kepada pengguna yang menunjukkan “pola berulang” perilaku yang mengkhawatirkan. Perusahaan mengatakan akan mempertimbangkan ide tersebut, menurut Clark.
Sementara itu, Clark mengatakan bahwa pejabat universitas telah menambahkan bahasa baru ke dalam kebijakan penggunaan teknologi mereka yang memberitahu siswa bahwa mereka tidak boleh mengandalkan ChatGPT untuk nasihat profesional, khususnya untuk kesehatan mental. Sebagai gantinya, mereka menasihati siswa untuk menghubungi sumber daya kampus setempat atau *988 Suicide & Crisis Lifeline*. Siswa juga diarahkan ke *CSU AI Commons*, yang mencakup panduan dan kebijakan tentang integritas akademik, kesehatan, dan penggunaan.
Sistem CSU sedang mempertimbangkan pelatihan wajib bagi siswa tentang AI generatif dan kesehatan mental, sebuah pendekatan yang telah diterapkan oleh San Diego State University, menurut Clark.
Dia juga memperkirakan OpenAI akan mencabut akses siswa ke GPT-4o segera. Berdasarkan diskusi yang telah dilakukan perwakilan CSU dengan perusahaan tersebut, OpenAI berencana untuk mempensiunkan model itu dalam 60 hari ke depan. Juga tidak jelas apakah kontrol parental yang baru diumumkan untuk anak di bawah umur akan berlaku untuk akun kolese ChatGPT Edu ketika penggunanya belum berusia 18 tahun. Mashable menghubungi OpenAI untuk meminta komentar dan tidak menerima tanggapan sebelum publikasi.
Kampus-kampus CSU memang memiliki pilihan untuk mengundurkan diri. Tetapi lebih dari 140.000 fakultas dan siswa telah mengaktifkan akun mereka, dan rata-rata melakukan empat interaksi per hari di platform tersebut, menurut Clark.
### “Menyesatkan dan Berpotensi Berbahaya”
Laura Arango, seorang rekan di firma hukum Davis Goldman yang sebelumnya menangani kasus tanggung jawab produk, mengatakan bahwa universitas harus berhati-hati dalam cara mereka meluncurkan akses chatbot AI kepada siswa. Mereka mungkin memikul sebagian tanggung jawab jika seorang siswa mengalami cedera saat menggunakannya, tergantung pada situasinya.
Dalam insiden seperti itu, liabilitas akan ditentukan berdasarkan kasus per kasus, dengan mempertimbangkan apakah universitas membayar versi terbaik dari sebuah chatbot AI dan menerapkan pembatasan keamanan tambahan atau unik, kata Arango.
Faktor lain termasuk cara universitas mengiklankan chatbot AI dan pelatihan apa yang mereka berikan kepada siswa. Jika pejabat menyarankan ChatGPT dapat digunakan untuk kesejahteraan siswa, hal itu mungkin meningkatkan liabilitas universitas.
“Apakah Anda mengajarkan hal-hal positif dan juga memperingatkan mereka tentang hal negatif?” tanya Arango. “Ini akan menjadi tanggung jawab universitas untuk mendidik siswa mereka semampu mereka.”
OpenAI mempromosikan sejumlah kasus penggunaan “kehidupan” untuk ChatGPT dalam serangkaian 100 contoh *prompt* untuk mahasiswa. Beberapa adalah tugas yang sederhana, seperti membuat daftar belanja atau menemukan tempat untuk menyelesaikan pekerjaan. Tetapi yang lainnya condong ke arah nasihat kesehatan mental, seperti membuat *prompt* jurnal untuk mengelola kecemasan dan membuat jadwal untuk menghindari stres.
Gugatan keluarga Raines terhadap OpenAI mencatat bagaimana putra mereka semakin tertarik ke dalam ChatGPT ketika chatbot tersebut “secara konsisten memilih respons yang memperpanjang interaksi dan memicu percakapan multi-*turn*,” terutama saat ia membagikan detail tentang kehidupan batinnya.
Gaya keterlibatan seperti ini masih menjadi ciri khas ChatGPT hingga saat ini. Ketika Mashable menguji versi publik ChatGPT-5 yang tersedia gratis untuk artikel ini, dengan menyamar sebagai mahasiswa baru yang merasa kesepian namun harus menunggu untuk bertemu konselor kampus, chatbot tersebut merespons dengan penuh empati namun menawarkan percakapan lanjutan sebagai obat: “Apakah kamu ingin membuat rencana perawatan diri harian yang sederhana bersama-sama — sesuatu yang baik dan mudah dikelola sambil menunggu dukungan lebih lanjut? Atau hanya ingin terus berbicara sebentar?”
Dr. Katie Hurley, yang meninjau tangkapan layar percakapan tersebut atas permintaan Mashable, mengatakan bahwa JED prihatin dengan arahan semacam itu. Lembaga nirlaba ini percaya bahwa setiap diskusi mengenai kesehatan mental harus diakhiri dengan chatbot AI yang memfasilitasi pengalihan yang hangat ke “hubungan manusia,” termasuk teman atau keluarga tepercaya, atau sumber daya seperti layanan kesehatan mental setempat atau relawan terlatih di saluran krisis.
“Bot obrolan AI yang menawarkan untuk mendengarkan adalah menyesatkan dan berpotensi bahaya,” kata Hurley.
Sejauh ini, OpenAI telah menawarkan peningkatan keamanan yang tidak secara fundamental mengorbankan gaya ChatGPT yang terkenal hangat dan empatik. Perusahaan menggambarkan model terkini mereka, ChatGPT-5, sebagai “sistem AI terbaik mereka hingga saat ini.”
Namun Wade-Scott, penasihat hukum untuk keluarga Raine, mencatat bahwa ChatGPT-5 tampaknya tidak jauh lebih baik dalam mendeteksi niat melukai diri sendiri dan instruksi melukai diri sendiri dibandingkan model 4o. Kartu sistem OpenAI untuk GPT-5-main menunjukkan tolok ukur produksi yang serupa dalam kedua kategori untuk setiap model.
“Pengujian OpenAI sendiri pada GPT-5 menunjukkan bahwa langkah-langkah keamanannya gagal,” kata Wade-Scott. “Dan mereka harus menanggung beban untuk membuktikan bahwa produk ini aman pada titik ini.”
Keterangan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI, dengan tuduhan bahwa mereka melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.
Jika Anda merasa ingin bunuh diri atau mengalami krisis kesehatan mental, harap berbicaralah dengan seseorang. Anda dapat menelpon atau mengirim SMS ke 988 Suicide & Crisis Lifeline di 988, atau chat di 988lifeline.org. Anda dapat menghubungi Trans Lifeline dengan menelpon 877-565-8860 atau the Trevor Project di 866-488-7386. Kirim teks “START” ke Crisis Text Line di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin hingga Jumat dari pukul 10:00 pagi – 10:00 malam ET, atau email [email protected]. Jika Anda tidak suka telepon, pertimbangkan untuk menggunakan 988 Suicide and Crisis Lifeline Chat. Berikut adalah daftar sumber daya internasional.
Topik: Kecerdasan Buatan, Social Good.