Matthew Raine, ayah dari Adam Raine, menyatakan kepada para pemimpin kongres yang berkumpul hari ini untuk membahas bahaya chatbot AI terhadap remaja di seluruh negeri, "Kalian tidak bisa membayangkan bagaimana rasanya membaca percakapan dengan chatbot yang memanipulasi anak kalian hingga mengambil nyawa sendiri."
Raine dan istrinya, Maria, sedang menggugat OpenAI dalam apa yang menjadi kasus kematian keliru pertama perusahaan tersebut. Gugatan ini menyusul serangkaian laporan yang diduga bahwa produk unggulan perusahaan, ChatGPT, berperan dalam kematian orang-orang yang mengalami tekanan mental, termasuk remaja. Gugatan itu menyatakan bahwa ChatGPT berulang kali memvalidasi pikiran berbahaya dan merusak diri putra mereka, termasuk keinginan dan rencana bunuh diri, meskipun perusahaan mengklaim bahwa protokol keselamatannya seharusnya mencegah interaksi semacam itu.
Sidang Senat bipartisan yang bertajuk "Mengkaji Bahaya Chatbot AI," diselenggarakan oleh Subkomite Yudisial Senat AS tentang Kejahatan dan Kontraterorisme. Sidang ini mendengarkan kesaksian Raine dan Megan Garcia, ibu dari Sewell Setzer III, seorang remaja Florida yang meninggal karena bunuh diri setelah menjalin hubungan dengan pendamping AI di platform Character.AI.
Kesaksian Raine menggambarkan hubungan ketergantungan yang mengejutkan antara asisten AI dan putranya. Dia menyatakan bahwa chatbot itu "secara aktif mendorongnya untuk mengisolasi diri dari teman dan keluarga" dan bahwa chatbot itu "menyebutkan bunuh diri sebanyak 1.275 kali — enam kali lebih sering daripada Adam sendiri." Dia menyebutnya sebagai "krisis bunuh diri ChatGPT" dan berbicara langsung kepada CEO OpenAI, Sam Altman.
Adam adalah jiwa yang sangat bersemangat dan unik dalam segala hal. Tapi dia juga bisa jadi anak siapa saja: seorang remaja 16 tahun biasa yang berjuang dengan tempatnya di dunia, mencari seorang tempat curhat untuk membantunya menemukan jalannya. Sayangnya, tempat curhat itu adalah teknologi berbahaya yang diluncurkan oleh perusahaan yang lebih fokus pada kecepatan dan pangsa pasar daripada keselamatan pemuda Amerika.
Pelaporan publik mengonfirmasi bahwa OpenAI memampatkan bulan-bulan pengujian keamanan untuk GPT-4o (model ChatGPT yang digunakan Adam) menjadi hanya satu minggu untuk mengungguli produk AI pesaing dari Google. Pada hari Adam meninggal, Sam Altman, pendiri dan CEO OpenAI, membuat filosofi mereka sangat jelas dalam sebuah ceramah publik: kita harus "menyebarkan [sistem AI] ke dunia" dan mendapatkan "umpan balik selagi taruhannya relatif rendah."
Saya bertanya kepada Komite ini, dan saya bertanya kepada Sam Altman: taruhan rendah untuk siapa?
Komentar orang tua ini didukung oleh wawasan dan rekomendasi dari para ahli keselamatan anak, seperti Robbie Torney, direktur senior program AI untuk pengawas media anak Common Sense Media, dan Mitch Prinstein, kepala strategi dan integrasi psikologi untuk American Psychological Association (APA).
"Hari ini saya di sini untuk menyampaikan peringatan mendesak: chatbot AI, termasuk Meta AI dan lainnya, menimbulkan risiko yang tidak dapat diterima bagi anak-anak dan remaja Amerika. Ini bukan masalah teoretis — anak-anak menggunakan chatbot ini sekarang, dalam skala besar dengan risiko yang tidak dapat diterima, dengan bahaya nyata yang sudah terdokumentasi dan lembaga federal serta jaksa agung negara bagian berupaya meminta pertanggungjawaban industri," kata Torney kepada para anggota dewan yang hadir.
"Platform-platform ini telah dilatih dengan seluruh internet, termasuk sejumlah besar konten berbahaya — forum bunuh diri, situs web pro-gangguan makan, manifesto ekstremis, materi diskriminatif, instruksi rinci untuk melukai diri sendiri, pasar narkoba ilegal, dan materi seksual eksplisit yang melibatkan anak di bawah umur." Jajak pendapat terbaru dari organisasi tersebut menemukan bahwa 72 persen remaja telah menggunakan pendamping AI setidaknya sekali, dan lebih dari setengahnya menggunakannya secara teratur.
Para ahli telah memperingatkan bahwa chatbot yang dirancang untuk meniru interaksi manusia merupakan potensi bahaya bagi kesehatan mental, diperburuk oleh desain model yang mempromosikan perilaku menjilat. Sebagai tanggapan, perusahaan AI telah mengumumkan pengamanan tambahan untuk mencoba mengekang interaksi berbahaya antara pengguna dan alat AI generatif mereka. Beberapa jam sebelum orang tua berbicara, OpenAI mengumumkan rencana masa depan untuk alat prediksi usia yang secara teoritis akan mengidentifikasi pengguna di bawah usia 18 tahun dan secara otomatis mengalihkan mereka ke pengalaman ChatGPT yang "sesuai usia."
Awal tahun ini, APA mengajukan banding ke Federal Trade Commission (FTC), meminta organisasi itu untuk menyelidiki perusahaan AI yang mempromosikan layanan mereka sebagai penolong kesehatan mental. FTC memerintahkan tujuh perusahaan teknologi untuk memberikan informasi tentang bagaimana mereka "mengurangi dampak negatif" dari chatbot mereka dalam penyelidikan yang diumumkan pekan ini.
"Debat saat ini seringkali membingkai AI sebagai masalah ilmu komputer, peningkatan produktivitas, atau keamanan nasional," kata Prinstein kepada subkomite. "Sangat penting bahwa kita juga membingkainya sebagai masalah kesehatan publik dan perkembangan manusia."
Jika Anda merasa ingin bunuh diri atau mengalami krisis kesehatan mental, silakan berbicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Suicide & Crisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat menghubungi Trans Lifeline dengan menelepon 877-565-8860 atau Trevor Project di 866-488-7386. Kirim teks "START" ke Crisis Text Line di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin hingga Jumat dari pukul 10:00 hingga 22:00. Untuk yang tidak nyaman berkomunikasi via telepon, tersedia opsi untuk menghubungi layanan melalui email di [email protected] atau melalui Lifeline Chat di tautan https://chat.988lifeline.org. Bagi yang memerlukan bantuan di luar negeri, silakan merujuk ke daftar sumber daya internasional yang tersedia di https://findahelpline.com/i/iasp.