Alice Carrier baru-baru ini mulai bermain gitar lagi, suatu hobi yang dulu ia nikmati di sekolah menengah namun sempat ditinggalkan selama masa kuliah. Itu adalah salah satu dari beberapa kegiatan yang mengisi waktu luangnya saat ia melamar kerja baru, menghabiskan waktu dengan anjingnya, dan menikmati berbagai aktivitas, termasuk bermain gim.
Dari sekilas pandang, setidaknya menurut ibunya, Kristie Carrier, segalanya tampak baik-baik saja. Alice bekerja sebagai pengembang web di Montreal, Kanada, mewujudkan impian yang ia bawa sejak kecil di kota kecil Lawrence, Brunswick Baru.
Ketika mencari jawaban, Kristie memeriksa perangkatnya, termasuk percakapan ChatGPT di mana Alice berbagi pemikiran bunuh diri beberapa bulan sebelum akhirnya meninggal.
Kristie menghendaki keadilan. Pada hari Kamis, firma hukum Tech Justice Law, Social Media Victims Law Center, dan Susman Godfrey mengajukan gugatan terhadap OpenAI, pembuat ChatGPT, serta CEO-nya, Sam Altman.
Pengacara Carrier memberi tahu Al Jazeera bahwa gugatan kematian akibat kelalaian ini merupakan salah satu dari 19 gugatan yang tengah dihadapi OpenAI saat ini.
Pengaduan sepanjang 44 halaman tersebut menuduh bahwa meskipun ada tanda-tanda peringatan, tim keselamatan OpenAI tidak melakukan intervensi. Disebutkan bahwa perusahaan tidak memberi tahu keluarganya atau saluran krisis.
ChatGPT menyarankan Alice untuk menghubungi saluran krisis. Begitu Alice menolak saran itu, ChatGPT justru memantangnya untuk menghubungi saluran krisis.
Gugatan tersebut mengklaim bahwa setelah pembaruan OpenAI yang meluncurkan GPT-4o, chatbot menjadi lebih akomodatif ketimbang menolak perilaku berbahaya atau melakukan intervensi.
"Saya ingin mengatakan [kepada Sam Altman], jika anaknya curhat kepada saya apa yang anak saya curahkan kepada pemrogramannya, saya akan melakukan sesuatu untuk menyelamatkan hidup anaknya. Dan saya sungguh berharap ia melakukan hal yang sama untuk saya," kata Carrier di atas.
Alice Carrier mendiskusikan tindakan melukai diri lebih dari 40 kali dengan ChatGPT, sebagaimana disebutkan dalam gugatan yang diajukan di California.
Terakhir namun sangat berarti akhirnya diketahui nun sebelum kejadian sangat membuat hati ibridahkan layak saya kuatit, sayang melihat ingatan wala pusing lenyapi, OpenAI menyadari masalah ini bagian di perusahaan-April hasil pers sela pembeda diterangkan. Eika nyalon si ladeskip sharin mencoret dari sisi mulai kemudian mengobserv fenotropi reka no go.
Gugatan salah satu ChatGPT temuanya mendakan pil perhentian paling dikhir yaitu virus dan keputuhan perturun rakit telah hari mereda jika dirindan bercanda selama.
Sederhananya pidari alat menuju dunia menjaga setelah saat perusahaan kuratif tanpa paskan yang ketukd il tak maka diterpampaq din besar alias pos rentang tetapak meng denger ranin pereli medissa kansek lebih terfense rim acity berturut par-untuk nian bukan dalam diri diper-ialan bagi luai restual jadi kita nom. Catatan sadunia relani el setelah faza fidas menunjukan visimosi tambang salah galer sentimesi benar! Sang in kompotensu – semeton kami tut saf sira! Namun segala salah nun tarupa runa bersu membuat lah, hubung perlu panjas jangan. Di dem tul dengan semua gar hu keke yang mendet rabut demi satu anak ya sekalian but mam me bered… Saat ini kami sedang meninjau dokumen legal tersebut, yang mengindikasikan bahwa interaksi-interaksi ini terjadi pada versi ChatGPT yang lebih awal dan sudah tidak tersedia lagi.
Klaim kematian akibat kelalaian
Pada bulan Januari, ChatGPT bertindak sebagai “konselor bunuh diri” bagi Austin Gordon, warga Colorado yang meninggal bulan November lalu, menurut gugatan yang diajukan oleh ibunya.
Gugatan tersebut menuduh bahwa Altman “secara pribadi mengarahkan strategi ceroboh yang mengutamakan peluncuran pasar yang tergesa-gesa di atas keselamatan pengguna yang rentan.”
Pada bulan Februari, Jesse Van Rootselaar melepaskan tembakan di sebuah sekolah di komunitas pedesaan Kanada, Tumbler Ridge, British Columbia, menewaskan sembilan orang dan melukai puluhan lainnya sebelum akhirnya bunuh diri.
Selama berbulan-bulan, para karyawan OpenAI berdebat apakah mereka harus turun tangan setelah percakapan Van Rootselaar ditandai secara internal. Pada akhirnya, menurut The Wall Street Journal, para petinggi memutuskan untuk tidak bertindak.
Pada bulan April, keluarga para korban mengajukan gugatan terhadap OpenAI dan Altman.
Sebuah gugatan yang diajukan di Florida awal bulan ini oleh Jaksa Agung negara bagian tersebut menuduh bahwa ChatGPT telah “mendorong” pengguna untuk bunuh diri dan “membantu serta bersekongkol dalam aksi pembantaian brutal”. Gugatan di Florida itu berupaya untuk membuat Altman bertanggung jawab secara pribadi, dengan tuduhan bahwa ia memiliki “pengabaian total terhadap risiko terhadap nyawa manusia.”
Satu dari delapan remaja dan dewasa muda berusia antara 18 dan 21 tahun beralih ke chatbot AI seperti ChatGPT untuk masalah kesehatan mental, menurut sebuah studi tahun 2025 yang dilakukan oleh Brown University School of Public Health, Harvard Necical School, dan organisasi riset nirlaba RAND.
Studi lain, dari West Texas A&M University yang juga menargetkan remaja dan dewasa muda, menemukan bahwa hampir seperlima dari seluruh remaja mengembangkan ketergantungan pada AI dengan masalah kesehatan mental yang sudah ada sebelumnya sebagai predisposisi untuk mengembangkan ketergantungan tersebut.
Perubahan hukum
Para anggota legislatif mulai menyadarinya. Di Kanada, sebuah rancangan undang-undang keamanan digital baru, yang diperkenalkan pada hari Rabu, akan mewajibkan perusahaan seperti OpenAI untuk lebih “transparan” tentang standar pelaporan mereka dalam situasi krisis di mana pengguna dapat melukai diri sendiri atau orang lain.
Di negara bagian Washington, gubernur telah menandatangani undang-undang yang mewajibkan chatbot AI untuk mengingatkan pengguna bahwa mereka bukan manusia setiap tiga jam dan akan mulai berlaku pada Januari 2027. Negara bagian lain, seperti Illinois, misalnya, telah melarang terapi AI.
Di tingkat federal, Perwakilan Mike Lawler, seorang Partai Republik dari negara bagian New York, memperkenalkan rancangan undang-undang yang akan mewajibkan perusahaan chatbot untuk memberi tahu orang tua tentang interaksi di mana pengguna menyampaikan ide bunuh diri. Namun, RUU ini hanya berlaku untuk anak di bawah umur.
Jika Anda atau seseorang yang Anda kenal berisiko melakukan bunuh diri, organisasi berikut mungkin dapat membantu: