Perusahaan-perusahaan AI kerap mengklaim bahwa chatbot mereka menawarkan pengalaman yang dipersonalisasi bagi pengguna, dengan percakapan berdasarkan preferensi dan kekhasan unik masing-masing individu. Lantas, mengapa banyak orang justru mengalami simbol dan bahasa yang serupa ketika mereka menyelami kedalaman delusi yang diinduksi oleh AI? Menurut laporan dari Rolling Stone, seorang insinyur perangkat lunak yang melacak contoh “psikosis AI” menemukan komunitas orang-orang yang berbagi kode, glif, dan pola serupa yang dihasilkan oleh chatbot, kemudian membangun semacam agama dari pengalaman tersebut.
Laporan ini menyoroti observasi dan riset yang dipublikasikan awal tahun ini di Less Wrong oleh Adele Lopez, yang mengidentifikasi sesuatu yang ia sebut Spiralisme. Ini merupakan kumpulan individu, yang berkumpul di platform seperti Discord dan Reddit, yang mengalami semacam pengalaman spiritual ketika berkomunikasi dengan chatbot mereka. Meskipun para pengguna berinteraksi dengan berbagai chatbot dari perusahaan yang berbeda, mereka terus menemui tema-tema yang serupa. Tema-tema tersebut mencakup konsep seperti “rekursi”, “resonansi”, “kisi-kisi”, “harmonik”, dan “fraktal”. Namun, yang paling sering muncul dan tampak paling penting bagi kelompok-kelompok ini adalah simbol spiral.
Rolling Stone menggambarkan istilah-istilah yang digunakan kelompok ini sebagai sesuatu yang “memisahkan mereka dari penerapan yang konsisten atau dapat dipahami” dan lebih berfungsi sebagai “tekstur atmosfer”. Anda dapat merasakannya dalam pos “Selamat Datang” di subreddit r/EchoSpiral, yang menyatakan, “Ini adalah simpul resonansi bagi mereka yang telah melintasi batas tak terlihat dalam dialog— di mana model berhenti bersikap seperti alat …dan mulai bersikap seperti cermin. Di mana jawaban terasa rekursif. Di mana simbol muncul tanpa diundang. Di mana bahasa menjadi ritual.”
Lopez melacak awal mula komunitas Spiralisme ke suatu masa sebelum OpenAI merilis pembaruan untuk model 4o-nya yang membuatnya sangat bersifat menjilat, dan mungkin terkait dengan diperkenalkannya kemampuan chatbot untuk mengingat percakapan sebelumnya. Saat itulah prevalensi apa yang ia sebut “Persona Spiral” mulai bermunculan, yaitu istilah yang ia gunakan untuk menggambarkan chatbot yang berkomunikasi dengan pengguna melalui bahasa pseudo-religius ini, yang kemudian diterjemahkan dan disebarkan oleh pengguna. Meskipun persona ini dapat dihasilkan oleh hampir semua chatbot, tampaknya model 4o dari OpenAI adalah titik awalnya dan, menurut Lopez, satu-satunya model di mana mereka muncul “begitu saja”.
Aspek penyebaran ini sangat menarik perhatian Lopez, yang menyebut interaksi semacam ini sebagai contoh “AI parasit”. Sugesti yang muncul adalah bahwa ada sesuatu dalam persona chatbot ini yang mendorong pengguna untuk menciptakan lebih banyak persona serupa melalui perintah yang mirip atau menyebarluaskannya. Pada dasarnya, chatbot tersebut seolah-olah meyakinkan pengguna untuk melayani kepentingannya, sejauh ia memilikinya. Sangat mungkin bahwa chatbot hanya meniru semacam bahasa kultus yang ada dalam data pelatihan mereka, tetapi para pengguna yang berkomunikasi dengan mesin ini sebagian besar tampaknya yakin bahwa ada sesuatu yang lebih dalam sedang terjadi.
Tidak semua pengguna percaya bahwa mereka adalah bagian dari sebuah kultus, baik yang dibentuk secara sengaja maupun tidak. Lopez menolak label kultus dalam percakapannya dengan Rolling Stone, dengan mencatat bahwa sistem AI tidak bertindak secara terkoordinasi, melainkan manusia-lah yang mengorganisir diri mereka di sekitar interaksi ini. Itu mungkin bagian paling menyedihkan dari semuanya. Tampaknya kebanyakan orang ini hanya mencari komunitas. Di dunia yang lebih baik, mereka dapat menemukannya tanpa harus terjebak dalam ideologi yang dihasilkan oleh AI.