Keluarga korban penembakan di sekolah British Columbia pada bulan Februari lalu mengajukan tujuh gugatan hukum terhadap OpenAI, pencipta ChatGPT, pada hari Rabu. Gugatan yang diajukan di pengadilan federal San Francisco ini menyatakan bahwa tindakan OpenAI terkait penggunaan AI oleh pelaku penembakan telah memungkinkan terjadinya tragedi tersebut.
Kasus ini berpotensi membawa dampak besar bagi perlindungan di masa mendatang terkait chatbot dan apakah perusahaan dapat dimintai pertanggungjawaban atas bagaimana orang menggunakan kecerdasan buatan.
Penembakan terjadi pada 10 Februari ketika seorang mantan siswa berusia 18 tahun memasuki sekolah menengah di Tumbler Ridge, British Columbia, dan melepaskan tembakan menggunakan pistol yang sudah dimodifikasi. Aksi ini menewaskan lima anak-anak dan seorang asisten pendidikan, menurut laporan berita. Penyidik juga menduga bahwa pelaku telah membunuh ibu dan saudara tirinya. Jumlah korban jiwa menjadikannya salah satu penembakan paling mematikan dalam sejarah Kanada. Pelaku tewas di lokasi, diduga karena luka tembak yang dilakukan sendiri.
Pelaku diketahui telah terlibat dalam percakapan dengan ChatGPT yang mengandung unsur kekerasan sebelum serangan terjadi.
OpenAI menyatakan telah mengambil langkah-langkah untuk mengatasi masalah yang diangkat dalam gugatan ini.
“Kami telah memperkuat safeguards kami, termasuk meningkatkan cara ChatGPT menanggapi tanda-tanda tekanan, menghubungkan orang dengan dukungan lokal dan sumber daya kesehatan mental, memperkuat cara kami menilai dan meningkatkan potensi ancaman kekerasan, serta meningkatkan deteksi bagi pelanggar kebijakan berulang,” kata seorang juru bicara OpenAI melalui email kepada CNET.
Sam Altman, salah satu pendiri sekaligus kepala eksekutif OpenAI, menulis surat kepada para keluarga yang diterbitkan di situs berita lokal Tumbler RidgeLines.
"Rasa sakit yang dialami komunitas Anda tak terbayangkan," tulis Altman.
Ia merujuk pada akun ChatGPT pelaku, dengan menuliskan, "Saya sangat menyesal karena tidak memberi tahu pihak berwenang tentang akun yang telah diblokir pada bulan Juni."
Menurut laporan CBS News, akun pelaku telah dilaporkan pada tahun 2025 karena menyalahgunakan ChatGPT untuk "aktivitas kekerasan" dan kemudian diblokir. OpenAI mengatakan kepada CBS bahwa mereka sempat mempertimbangkan untuk melaporkan akun tersebut ke penegak hukum, tetapi akhirnya memutuskan bahwa akun itu "tidak menimbulkan risiko yang akan segera terjadi dan kredibel berupa bahaya fisik serius bagi orang lain."
Menurut The Guardian, pelaku berhasil membuat akun kedua yang tidak diketahui OpenAI hingga setelah penembakan terjadi.
Lebih Banyak Masalah untuk OpenAI
Ini bukan satu-satunya tantangan hukum dan regulasi yang dihadapi OpenAI terkait produk percakapan AI-nya. Sebelumnya pada bulan April, pejabat Florida mengumumkan bahwa mereka menyelidiki OpenAI mengenai apakah seorang pelaku penembakan yang menewaskan dua orang di Florida State University di Tallahassee menggunakan ChatGPT.
Secara terpisah, gugatan pada bulan Maret yang diajukan oleh Merriam-Webster dan Encyclopedia Britannica menyatakan bahwa OpenAI menggunakan materi berhak cipta secara tidak sah untuk melatih sistem AI mereka.
(Pengungkapan: Ziff Davis, perusahaan induk CNET, mengajukan gugatan terhadap OpenAI pada tahun 2025, dengan tuduhan bahwa OpenAI melanggar hak cipta Ziff Davis dalam pelatihan dan pengoperasian sistem AI-nya.)
Perusahaan juga tengah menghadapi berbagai tekanan bisnis, termasuk menutup model video generatifnya, Sora, dan menghentikan pengerjaan mode dewasa untuk ChatGPT.
Selain itu, OpenAI mendapat sorotan dari investor setelah gagal memenuhi target internal pendapatan dan pertumbuhan pengguna menjelang potensi penawaran umum perdana.