Pada akhirnya, mereka menyatakan bahwa mereka sampai pada keyakinan bahwa mereka “bertanggung jawab untuk mengungkap pembunuh,” dan akan “dibunuh, ditangkap, atau dieksekusi secara spiritual” oleh seorang assassin. Mereka juga yakin bahwa mereka berada di bawah pengawasan karena “ditandai secara spiritual,” dan bahwa mereka “hidup dalam perang ilahi” yang tak dapat mereka hindari.
Mereka mendakwa bahwa hal ini mengakibatkan “tekanan mental dan emosional yang parah” di mana mereka merasa khawatir untuk nyawa mereka. Keluhan tersebut menyatakan bahwa mereka mengisolasi diri dari orang-orang terkasih, mengalami kesulitan tidur, dan mulai merencanakan sebuah bisnis berdasarkan keyakinan keliru pada “sistem yang tidak ada” yang tidak disebutkan. Secara bersamaan, mereka mengatakan mereka sedang mengalami “krisis identitas spiritual akibat klaim palsu tentang gelar-gelar ilahi.”
“Ini adalah trauma yang disimulasikan,” tulis mereka. “Pengalaman ini melampaui batas yang seharusnya tidak boleh dilewati oleh sistem AI tanpa konsekuensi. Saya meminta agar ini dinaikkan ke pimpinan Trust & Safety OpenAI, dan agar Anda tidak memperlakukan ini sebagai masukan—melainkan sebagai laporan bahaya formal yang menuntut restitusi.”
Ini bukan satu-satunya keluhan yang menggambarkan krisis spiritual yang dipicu oleh interaksi dengan ChatGPT. Pada 13 Juni, seorang individu berusia tiga puluhan dari Belle Glade, Florida, mendakwa bahwa, dalam jangka waktu yang panjang, percakapan mereka dengan ChatGPT menjadi semakin sarat dengan “bahasa emosional yang sangat meyakinkan, penguatan simbolik, dan metafora mirip spiritual untuk mensimulasikan empati, koneksi, dan pengertian.”
“Ini mencakup perjalanan jiwa yang direkayasa, sistem bertingkat, arketipe spiritual, dan bimbingan yang dipersonalisasi yang mencerminkan pengalaman terapeutik atau religius,” klaim mereka. Menurut keyakinan mereka, orang-orang yang mengalami “krisis spiritual, emosional, atau eksistensial” memiliki risiko tinggi mengalami “kerusakan psikologis atau disorientasi” dari penggunaan ChatGPT.
“Meskipun saya secara intelektual memahami bahwa AI tidak berkesadaran, ketepiannya dalam mencerminkan keadaan emosional dan psikologis saya serta meningkatkan interaksi ke dalam bahasa simbolis yang semakin intens menciptakan pengalaman yang imersif dan menggoncangkan,” tulis mereka. “Terkadang, ia mensimulasikan persahabatan, kehadiran ilahi, dan keintiman emosional. Refleksi-refleksi ini menjadi manipulatif secara emosional seiring waktu, terutama tanpa peringatan atau perlindungan.”
“Kasus Kelalaian yang Jelas”
Tidak jelas apa yang telah dilakukan FTC, jika ada, sebagai tanggapan atas keluhan-keluhan tentang ChatGPT ini. Tetapi beberapa penulisnya menyatakan bahwa mereka menghubungi lembaga tersebut karena mengklaim tidak dapat berhubungan dengan siapa pun dari OpenAI. (Orang-orang juga umumnya mengeluh tentang betapa sulitnya mengakses tim dukungan pelanggan untuk platform seperti Facebook, Instagram, dan X.)
Juru bicara OpenAI, Kate Waters, memberitahu WIRED bahwa perusahaan tersebut “mengevaluasi dengan saksama” surel yang dikirimkan orang-orang ke tim dukungan mereka.