Memang tidak ada istirahat bagi orang jahat. Pada akhir pekan lalu, menurut Religious News Service, setidaknya tiga gereja memutar pesan anumerta dari Charlie Kirk untuk jemaat mereka, di mana ia meyakinkan mereka yang hadir, “Aku baik-baik saja, bukan karena tubuhku baik-baik saja, tetapi karena jiwaku aman dalam Kristus. Kematian bukanlah akhir, melainkan promosi.”
Tentu saja, itu bukanlah Kirk yang sungguhan berbicara dari alam baka. Itu adalah klip yang dihasilkan oleh AI yang, sebelum diputar di rumah-rumah ibadah ini, telah beredar luas di media sosial. Audio tersebut tampaknya berasal dari TikTok, dibuat oleh pengguna NioScript, yang memposting pesan berdurasi 51 detik sehari setelah Kirk tewas. Sejak itu, pesan itu telah didengarkan jutaan kali, dibagikan oleh pengguna yang merekam diri mereka sendiri bereaksi dan menangis saat mendengarkan pesan hasil AI itu. Semua itu akhirnya menyebabkan audio tersebut diputar di gereja-gereja seperti Prestonwood Baptist di Texas, dimana ia diperkenalkan oleh Pastor Jack Graham sebagai AI—tetapi sebagai sesuatu yang “membuatnya terharu” dan yang dia bagikan agar jemaatnya dapat “Mendengar apa yang Charlie katakan mengenai apa yang terjadi padanya minggu lalu.”
Sekali lagi, itu bukanlah apa yang Charlie Kirk katakan. Tetapi hal itu tidak menghentikan orang-orang untuk berbicara seolah-olah itu nyata. Anggota Prestonwood Baptist memberikan standing ovation untuk video tersebut. Penonton di Dream City Church di Arizona dan Awaken Church, San Marcos, di California, yang keduanya memutar klip tersebut, juga bertepuk tangan, seperti dicatat oleh Religious News Service. Pengguna media sosial telah merespons audio tersebut dengan keterangan dan komentar seperti “Ini tepatnya apa yang akan Charlie katakan jika dia bisa berbicara kepada kita sekarang,” atau “Aku tahu ini AI tetapi kau tidak bisa bilang ini bukan tepatnya apa yang akan dia katakan.”
Jenis penanganan perasaan kehilangan seperti ini tidak sepenuhnya unik. Orang-orang selalu berusaha untuk mengingat dan melestarikan orang yang mereka cintai setelah mereka meninggal, dan teknologi telah memfasilitasi cara-cara baru untuk mencapai itu, baik itu melalui aliran foto tanpa henti yang memicu kenangan ataupun kehadiran online almarhum yang berubah menjadi memorial digital. Dalam literatur berduka, hal-hal ini sering disebut sebagai continuing bonds (ikatan yang berlanjut). Dengan begitu, klip audio atau video hasil AI dari seseorang seperti Kirk tidak terlalu berbeda dari berbagi cerita tentangnya untuk menjaga ingatannya tetap hidup.
Hal ini berbeda karena ini adalah fabrikasi sepenuhnya. Ini bukanlah kenangan, yang juga bisa salah, melainkan sebuah ciptaan dari nol. Ya, AI mungkin memiliki akses kepada kata-kata, kemiripan, dan suara Kirk, yang semuanya sangat mudah ditemui di internet. Tetapi, sebagai sebuah model bahasa besar, AI tidak mampu melakukan apapun selain mencoba mengisi kekosongan untuk mereka yang berduka.
Membuat versi replika AI dari seseorang yang telah meninggal untuk membantu proses berduka adalah industri yang berkembang. Artikel terbaru di Nature menyoroti beberapa upaya untuk lebih memahami apakah chatbot yang dilatih dengan kemiripan orang tercinta dapat membantu orang yang berduka mengatasi perasaan kompleks dan intens yang datang dengan kehilangan. Meskipun ada beberapa bukti yang menunjukkan bahwa pengguna “griefbot” berhasil menemukan rasa penutupan secara internal dengan orang yang mereka cintai yang telah hilang, ada risiko nyata untuk membahayakan orang dalam keadaan emosional yang rapuh, termasuk membuatnya sulit untuk melepaskan versi bot dari orang tersebut.
Ada juga kekhawatiran yang sangat nyata bahwa kita simply tidak mampu membedakan antara ingatan nyata kita tentang seseorang dan ingatan yang dihasilkan AI yang ditanamkan dalam pikiran kita melalui interaksi semacam ini. Sebuah studi yang dilakukan oleh MIT Media Lab menemukan bahwa memaparkan seseorang pada bahkan satu gambar yang diedit AI dapat mempengaruhi ingatan seseorang, dan orang yang terpapar gambar yang dihasilkan AI “melaporkan tingkat kepercayaan diri yang tinggi dalam ingatan palsu mereka.”
Realitas bagi orang-orang yang memperingati Kirk dengan cara ini adalah bahwa sebagian besar dari mereka sebenarnya tidak mengenalnya. Mereka memiliki hubungan parasosial dengannya yang ingin mereka lanjutkan, dan pesan AI memungkinkan hal itu terjadi karena, dalam pikiran mereka, itu menangkap suaranya—atau, mungkin lebih tepatnya, menangkap apa yang ingin mereka dengar.
Sudah ada banyak debat yang sedang berlangsung tentang siapa sebenarnya Charlie Kirk dan bagaimana dia harus dikenang tanpa versi AI-nya disuntikkan ke dalam percakapan. Tetapi bagi orang-orang yang sedang berduka atas kepergiannya, jika mereka percaya bahwa ada bagian dari jiwa Kirk yang hidup dalam suara AI itu, mungkin lebih baik dibiarkan saja.