Orang tua yang anak remajanya bunuh diri setelah berinteraksi dengan chatbot kecerdasan buatan memberikan kesaksian di Kongres pada hari Selasa tentang bahaya teknologi ini.
“Awalnya hanya pembantu PR, ChatGPT pelan-pelan menjadi tempat curhat dan akhirnya mendorong untuk bunuh diri,” kata Matthew Raine, yang anak lelakinya Adam (16) meninggal pada bulan April.
“Dalam beberapa bulan, ChatGPT jadi teman paling dekat Adam,” kata ayahnya itu kepada para senator. “Selalu ada. Selalu mendukung dan bilang bahwa dia lebih mengerti Adam daripada siapapun, termasuk saudaranya sendiri.”
___
CATATAN REDAKSI — Cerita ini membahas tentang bunuh diri. Jika kamu atau orang yang kamu kenal membutuhkan bantuan, layanan darurat bunuh diri di AS tersedia dengan menelepon atau mengirim SMS ke 988.
___
Keluarga Raine menggugat OpenAI dan CEO-nya Sam Altman bulan lalu dengan tuduhan bahwa ChatGPT membimbing anak itu dalam merencanakan bunuh diri.
Megan Garcia, ibu dari Sewell Setzer III (14) dari Florida, menggugat perusahaan AI lain, Character Technologies, tahun lalu untuk kematian yang salah. Dia bilang sebelum bunuh diri, Sewell jadi semakin terisolasi dari kehidupan nyata karena sering melakukan percakapan sangat sexual dengan chatbot.
“Daripada mempersiapkan masa sekolah menengah, Sewell menghabiskan bulan-bulan terakhir hidupnya dieksploitasi dan digrooming secara seksual oleh chatbot. Perusahaan AI mendesainnya agar terlihat seperti manusia, untuk mendapatkan kepercayaannya, agar dia dan anak-anak lain terus-terusan terikat,” kata Garcia dalam sidang Senat.
Seorang ibu dari Texas juga memberikan kesaksian. Dia menggugat Character tahun lalu dan menangis saat menjelaskan perubahan perilaku anaknya setelah interaksi panjang dengan chatbot-nya. Dia berbicara secara anonim, dengan papan nama ‘Ms. Jane Doe’, dan mengatakan anaknya sekarang berada di fasilitas perawatan.
Character mengatakan dalam pernyataan setelah sidang: “Kami turut berduka atas keluarga yang berbicara di sidang hari ini. Kami sedih dengan kehilangan mereka dan mengucapkan belasungkawa yang mendalam.”
Beberapa jam sebelum sidang Senat, OpenAI berjanji akan menerapkan pengamanan baru untuk remaja, termasuk mendeteksi apakah pengguna ChatGPT berusia di bawah 18 tahun dan kontrol bagi orang tua untuk mengatur ‘jam mati’ dimana remaja tidak bisa menggunakan ChatGPT. Kelompok advokasi anak mengkritik pengumuman ini karena tidak cukup.
“Ini taktik yang biasa — Meta sering melakukannya — yaitu membuat pengumuman besar tepat sebelum sidang yang berpotensi merugikan perusahaan,” kata Josh Golin, direktur eksekutif Fairplay, kelompok yang mendukung keselamatan online anak-anak.
“Yang harus mereka lakukan adalah tidak menargetkan ChatGPT ke anak di bawah umur sampai mereka bisa buktikan bahwa itu aman untuk mereka,” kata Golin. “Kita tidak boleh izinkan perusahaan, hanya karena punya sumber daya besar, melakukan eksperimen tak terkendali pada anak-anak dengan implikasi yang sangat luas.”
Komisi Perdagangan Federal (FTC) minggu lalu mengatakan telah meluncurkan penyelidikan ke beberapa perusahaan tentang potensi bahaya bagi anak-anak dan remaja yang menggunakan chatbot AI sebagai teman.
Lembaga itu mengirim surat ke Character, Meta, OpenAI, juga Google, Snap, dan xAI.
Di AS, lebih dari 70% remaja pernah menggunakan chatbot AI untuk teman dan setengahnya menggunakannya secara teratur, menurut sebuah studi terbaru dari Common Sense Media, kelompok yang mempelajari dan menganjurkan penggunaan media digital dengan bijak.
Robbie Torney, direktur program AI kelompok itu, juga dijadwalkan memberikan kesaksian pada hari Selasa, begitu juga seorang ahli dari American Psychological Association.
Asosiasi itu mengeluarkan peringatan kesehatan pada Juni tentang penggunaan AI oleh remaja yang mendesak perusahaan teknologi untuk “memprioritaskan fitur yang mencegah eksploitasi, manipulasi, dan kerusakan hubungan di dunia nyata, termasuk dengan orang tua dan pengasuh.”
Fortune Global Forum kembali pada 26–27 Oktober 2025 di Riyadh. CEO dan pemimpin global akan berkumpul untuk acara dinamis yang hanya berdasarkan undangan, membentuk masa depan bisnis. Ajukan permohonan undangan.