OpenAI menyatakan perubahan dan penyempurnaan terhadap protokol keamanan serta komunikasinya dengan penegak hukum, menyusul peristiwa penembakan massal di Tumbler Ridge, British Columbia, Kanada, awal bulan ini yang menewaskan sembilan orang, termasuk pelakunya.
Akun ChatGPT pelaku penembakan sempat ditangguhkan pada Juni 2025 setelah OpenAI mendeteksi konten dari pengguna yang menunjukkan "indikasi potensi kekerasan di dunia nyata." OpenAI melarang pengguna tersebut dan mempertimbangkan untuk memberi tahu pihak berwajib. Namun, perusahaan akhirnya memutuskan untuk tidak menginformasikan kepada penegak hukum setelah menilai bahwa pengguna tidak memiliki rencana yang kredibel untuk melakukan aksi.
Keputusan OpenAI untuk tidak memberi tahu otoritas kini menjadi perhatian serius pemerintah Kanada.
Meskipun OpenAI telah memiliki protokol untuk menangani ancaman yang kredibel, perusahaan kini menyatakan akan berbuat lebih banyak. Dalam surat terbuka kepada pemerintah Kanada, Wakil Presiden Kebijakan Global OpenAI, Ann M. O’Leary, tidak merinci perubahan kebijakan tertentu, namun menyebutkan bahwa perubahan telah diterapkan dan akan ada lebih banyak lagi.
Selain itu, O’Leary juga mengungkapkan kelemahan lain dalam protokol OpenAI. Menurut surat terbuka tersebut, pelaku penembakan di Tumbler Ridge membuka akun ChatGPT kedua yang baru ditemukan perusahaan setelah peristiwa terjadi dan nama pelaku diumumkan secara publik. OpenAI kemudian membagikan informasi akun tersebut kepada polisi.
Dalam surat terbukanya, OpenAI menyatakan akan "terus memperkuat" protokol rujukannya kepada penegak hukum. Perusahaan mengatakan sedang berkolaborasi dengan para ahli kesehatan jiwa untuk lebih baik menilai kasus-kasus kompleks dan kapan suatu percakapan telah melampaui batas menjadi sebuah risiko.
OpenAI juga menyebutkan sedang membentuk titik kontak langsung dengan penegak hukum Kanada untuk merujuk kasus yang berpotensi mengakibatkan "kekerasan dunia nyata."
ChatGPT juga akan disesuaikan untuk memberikan bantuan kepada pengguna yang sedang mengalami tekanan psikologis atau melakukan perilaku terlarang dengan menyediakan sumber daya dukungan yang terdekat di komunitas mereka.
Selanjutnya, OpenAI menyatakan sedang memperbaiki protokol yang memungkinkan pelaku membuka akun kedua. Perusahaan mengaku telah memiliki sistem untuk mendeteksi pelanggar kebijakan berulang dan berkomitmen untuk "memperkuat sistem deteksi guna mencegah upaya mengakali pengamanan kami serta memprioritaskan identifikasi pelanggar berisiko tinggi."
Mashable telah menghubungi OpenAI untuk informasi tambahan mengenai penyempurnaan kebijakan ini dan untuk mengetahui apakah kebijakan ini juga mempengaruhi regulasi perusahaan di Amerika Serikat. Kami akan memperbarui artikel ini setelah mendapatkan tanggapan.