OpenAI dapet surat panggilan dari beberapa negara bagian sebagai bagian dari penyelidikan tentang keselamatan pengguna chatbot mereka, saat mereka bersiap untuk jual saham ke publik untuk pertama kalinya.
Perusahaan di belakang chatbot populer, ChatGPT, bilang mereka akan menanggapi penyelidikan itu “dengan cara yang membangun” dan mereka sudah punya langkah-langkah untuk melindungi pelanggan mereka.
“AI adalah teknologi baru dan kuat, dan kami kerja keras setiap hari untuk membawa manfaatnya ke orang-orang dengan cara yang bertanggung jawab,” kata seorang juru bicara lewat email. “Kami serius ambil pusing soal kekhawatiran yang disampein jaksa agung negara bagian.”
OpenAI dapat kritikan gara-gara ChatGPT dituduh ngasih kata-kata semangat ke pengguna yang mikir untuk bunuh diri,ee, atau mau melakukan tindakan kriminal. Perusahaan ini juga jadi sorotan soal cara mereka pakai data kesehatan dan informasi pribadi pelanggan lainnya.
Pada hari Kamis, OpenAI dituntut oleh seorang perempuan Kanada, soalnya katanya chatbot tersebut nyebabin putrinya untuk gantung diri. Awal bulan Juni, jaksa agung Florida juga nuntut perusahaan itu setelah dua kasus penembakan terpisah, dimana pelaku dikabarin nanya ke ChatGPT pas merencanakan kejahatan mereka.
OpenAI bilang dalam pernyataan, model mereka berulang kali nyariin orang-orang itu untuk mencari dukungan di dunia nyata, termaksud dari profesional kesehatan mental. Perusahaan juga bilang udah bekerjasama dengan penegak hukum dalam kedua kasus penembakan itu.
Penyelidikan baru ini datang beberapa hari setelah OpenAI ngajuin dokumen, untuk penawaran saham perdana ke publik yang sangat ditunggu-tunggu. Pesaing AI, SpaceX, juga rayakan IPO sendiri pada hari Jumat. Perusahaan roket yang dibesut Elon Musk itu juga punya bisnis AI untuk chatbot saingan yang namanya Grok.
Caranya pemerintah ngerespon potensi kebaikan dan bahaya dari AI sekarang jadi masalah besar politik.
Regulator di Eropa buka penyekidikan ke punya Musk, Grok, soal propa antisemit dan konten seksual,”termasuk foto vulgar palsu (deepfake). Dan perusahaan chatbot lain yang lagi siap IPO, Anthropic, diperintah pemerintahan Trump pada hari Jumat tuk nonaktifin dua model online di luar negeri nuntuk alasan kemal{ter}tian u– seharf keamanana,n”
Surat penyelidikan ke OpenAI udah dilaporkan oleh The Wall Street Journal