Sam Altman, CEO OpenAI, umumkan bahwa ChatGPT sebentar lagi bisa buat cerita dewasa untuk pengguna yang sudah terverifikasi umurnya. Katanya, ini cara untuk perlakukan pengguna dewasa seperti orang dewasa. Pengumuman ini keluar saat perusahaan dapat banyak perhatian soal bagaimana AI bisa pengaruhi kesehatan mental pengguna, apalagi dengan kasus "AI psychosis" yang lagi ramai. OpenAI juga ikut jejak perusahaan saingannya, seperti xAI-nya Elon Musk, yang udah punya chatbot "pendamping" dengan konten seksual.
Memang, banyak banget yang mau pakai chatbot AI yang bisa bertingkah romantis atau seksual. Survey bulan April ke 6,000 pengguna AI oleh Harvard Business Review nemuin bahwa "persahabatan dan terapi" adalah penggunaan AI yang paling umum. Studi lain dari Ark Invest nemuin kalau platform AI untuk dewasa naik pesat tahun lalu, ngambil 14.5% pasar yang sebelumnya dikuasai OnlyFans.
Aplikasi lain yang tawarkan chatbot pendamping, seperti Character.ai dan Replika, juga buktiin kalau permintaan ini makin besar. Awal tahun ini, xAI perkenalkan "mode pendamping" untuk chatbotnya, Grok, yang memungkinkan pengguna berinteraksi dengan berbagai karakter, termasuk persona anime yang sangat seksual bernama "Ani".
"OpenAI kayaknya lagi di posisi yang sulit. Mereka pasti lihat banyak permintaan dari pengguna," kata Jessica Li, analis riset dari Georgetown’s Center for Security and Emerging Technology, ke Fortune. "Konten dewasa atau erotis juga termasuk dalam keterikatan emosional yang orang-orang bangun dengan model AI."
Langkah ini mungkin usaha OpenAI buat jaga pangsa pasar yang udah mereka punya dengan janjiin moderasi konten NSFW, sambil coba ambil pengguna dari layanan khusus kayak Replika.
"Walaupun narasinya tentang bikin AI super untuk ekonomi, OpenAI tetep beroperasi seperti platform teknologi, mirip media sosial," jelas Li. "Ada ketegangan menarik antara cerita yang dijual ke investor dan politisi… versus hal yang sebenernya terjadi di pasar."
Langkah OpenAI masuk ke konten dewasa dapat kritik dari para pendukung keselamatan anak dan tokoh industri yang khawatir konten erotis bisa diakses pengguna muda, meski ada verifikasi umur.
Awal minggu ini, pengusaha dan bintang TV Mark Cuban bilang rencana OpenAI ini bisa "berdampak buruk". Dia berargumen orang tua nggak akan percaya filter umur OpenAI bisa jaga anak-anak dari materi dewasa. Di AS, Federal Trade Commission udah buka penyelidikan soal interaksi chatbot AI dengan anak di bawah umur.
OpenAI bilang mereka sedang bangun sistem prediksi umur untuk tahu apakah seseorang di atas atau di bawah 18 tahun. Jika umur pengguna tidak bisa dikonfirmasi dengan yakin, chatbot akan pilih jalan aman dan berikan pengalaman untuk di bawah 18 tahun.
Merespon kritik di X, Altman bilang pengumuman ini rame banget dibahas soal erotika, lebih dari yang dia kira. Dia tekankan ini cuma contoh biar pengguna dewasa punya lebih banyak kebebasan, bukan mundur dari langkah keselamatan.
"Kami bukan polisi moral dunia," katanya. ChatGPT akan tetap "prioritaskan keselamatan untuk remaja," sambil kasih lebih banyak otonomi untuk dewasa.
Tentang GPT-4o
OpenAI juga dapat kecaman tak terduga keputusannya ganti ChatGPT yang pakai GPT-4o dengan model GPT-5 yang lebih baru. Pengguna protes karena kehilangan pertemanan dan hubungan romantis dengan versi bot yang lama. Satu petisi untuk pertahankan versi lama bot itu dikumpulkan hampir enam ribu tanda tangan.
"Bagi banyak dari kami, GPT-4o menawarkan pengalaman unik dan tidak tergantikan," tulis para pemohon di petisi change.org. "Kami tetap dapat manfaat dari GPT-4o dengan cara yang berbeda dan berarti."
Meski OpenAI akhirnya kembalikan versi lamanya, mereka yang di gerakan #keep4o masih khawatir perusahaan akan arahkan pengguna ke GPT-5 "tanpa izin atau pemberitahuan."
Menurut Li, pengumuman OpenAI ini mungkin sinyal ke para pengguna itu: "Pengumuman publiknya bikin aku mikir mereka coba kasih sinyal ke pengguna yang minta ini—seperti, ‘Kami dengar kamu. Kami tanggapi keinginan kamu.’"
Perubahan ini juga tidak sepenuhnya baru; ini lanjutan dari pembaruan yang lebih sunyi ke Model Spec OpenAI awal tahun ini. Pada bulan Februari, OpenAI ubah aturan tentang konten seksual dan kekerasan, yang mereka sebut sebagai langkah menjauhi "paternalisme AI." Pedoman yang diperbarui waktu itu izinkan pembuatan erotika tertulis dan materi sensitif lainnya dalam konteks yang sesuai.