Julie Carpenter sama sekali tidak menyalahkan pengguna manusia karena mengantropomorfisasi chatbot. Ahli interaksi manusia-AI yang telah lama berkecimpung dan penulis The Naked Android ini memandang alat-alat AI generatif, seperti ChatGPT, dirancang secara sengaja untuk memancing reaksi semacam ini dari pengguna melalui ingatan dan interaksi yang sangat personal, yang meniru pengalaman sosial.
Koneksi sepihak ini bisa menjadi semakin rumit, dan berpotensi berbahaya, ketika erotika buatan AI ditambahkan sebagai sebuah opsi. Carpenter merasa khawatir dengan rencana OpenAI yang akan datang untuk mengizinkan orang dewasa melakukan sexting dengan ChatGPT. "Saya mendukung orang-orang yang mengeksplorasi seksualitas mereka, tapi saya ingin itu dilakukan dengan cara yang aman sekaligus menyenangkan," katanya. "Orang-orang harus sangat sadar bahwa ada aspek pengawasan terhadap data tersebut."
OpenAI pertama kali mengisyaratkan tentang mengizinkan pengguna dewasa menghasilkan konten erotika menggunakan ChatGPT dua tahun lalu dalam sebuah dokumen resmi yang menggambarkan perilaku model-model mereka. Meski perusahaan itu tampaknya masih merencanakan peluncurannya, garis waktunya tidak jelas. Dalam beberapa bulan terakhir, dewan penasihat ahli eksternal OpenAI menyatakan kekhawatiran akan risiko peluncuran ini, termasuk kemungkinan adanya "sexy suicide coach," menurut laporan dari The Wall Street Journal. OpenAI menolak berkomentar ketika dihubungi WIRED.
Orang-orang berbicara mesum dengan mesin, seperti ChatGPT, bukanlah hal baru. "Mereka ingin memonetisasi sesuatu yang mereka lihat akan dilakukan orang pula," kata Kate Devlin, profesor AI dan masyarakat di King’s College London, yang risetnya melibatkan seks digital.
Yang berbeda di sini adalah potensi penerimaan OpenAI terhadap konten cabul di platform arus utama. Chatbot erotika adalah bisnis yang mendatangkan pendapatan, tetapi seringkali terkonsentrasi di situs-sisi niche dengan nama yang biasa atau Grok-nya Elon Musk, yang dikenal karena gambar deepfake non-konsensual dan mode "MechaHitler"-nya.
Ketika mode dewasa diluncurkan, akan menarik untuk melihat apa tepatnya yang akan diingat ChatGPT tentang kecenderungan seksual pengguna. Dalam beberapa tahun terakhir, OpenAI terus meningkatkan fitur memori chatbot ini, yang mencatat preferensi pengguna dan merespons dengan output yang dipersonalisasi. Apakah Anda seorang vegan? ChatGPT tidak akan merekomendasikan rumah steak ketika diminta ide restoran. Ingin mendaki? Ia tahu Anda berada di San Francisco dari obrolan sebelumnya, dan akan menyarankan jalur yang cukup dekat, bahkan jika konteks lokasi itu tidak disertakan dalam prompt.
Tapi, apa yang terjadi ketika pencatatan data semacam ini dan personalisasi yang hiper-spesifik bertemu dengan kebiasaan sexting bernafsu dari jutaan pengguna ChatGPT dewasa? Interaksi erotis dengan ChatGPT akan semakin meningkatkan taruhan bagi privasi pengguna.
Alih-alih mengingat preferensi diet atau jenis film favorit Anda, ChatGPT mungkin bisa mengingat seberapa besar Anda berfantasi tentang furry porn, threesome di pantai, dan piss play, serta menyesuaikan respons hariannya dengan mempertimbangkan detail-detail seksual ini. Masih belum jelas bagaimana OpenAI berencana menangani percakapan-percakapan dewasa ini.
Orang-orang yang memilih berinteraksi dengan versi cabul ChatGPT saat peluncuran mungkin akan menemukan pelipur dalam fitur "temporary chats". Jika diaktifkan, percakapan ini tidak ditampilkan dalam riwayat log pengguna atau digunakan untuk meningkatkan model OpenAI.
Namun, obrolan ini tidak se-sementara yang mungkin dirasakan pengguna. "Untuk tujuan keamanan, kami mungkin masih menyimpan salinannya hingga 30 hari," tertulis di situs web OpenAI. Ada juga penyangkalan di halaman situs yang menyatakan bahwa "retensi data untuk layanan tertentu mungkin terpengaruh oleh perkembangan hukum baru-baru ini."
"Anda membagikan pikiran-pikiran seksual paling intim Anda karena Anda hanyut dalam momen itu."
Julie Carpenter, penulis The Naked Android