ChatGPT bakal bisa ngobrol yang lebih ‘kinkier’ setelah bos OpenAI, Sam Altman, ngumumin bahwa perusahaannya bakal izinkan chatbot-nya untuk konten "erotika untuk dewasa yang terverifikasi."
OpenAI bukan yang pertama cari untung dari AI seksi. Konten dewasa emang udah jadi daya tarik utama untuk alat AI sejak booming-nya gambar dan kata-kata buatan AI di tahun 2022.
Tapi perusahaan yang awal masuk ke AI dewasa juga nemuin masalah hukum dan sosial yang berbahaya, karena makin banyak orang pake teknologi ini untuk temenan atau hiburan dewasa.
Apakah ChatGPT yang lebih seksi bakal beda? Setelah tiga tahun larang konten dewasa, Altman bilang perusahaannya "bukan polisi moral dunia" dan siap kasih "lebih banyak kebebasan untuk pengguna dewasa," sambil terapkan batas baru buat remaja.
"Seperti masyarakat bedain batas yang sesuai (contohnya film R-rated), kami mau lakukan hal yang mirip di sini," tulis Altman di platform X. Elon Musk, pemilik X, juga udah perkenalkan karakter AI yang bisa goda pelanggan berbayar.
Untuk sekarang, beda sama chatbot Grok-nya Musk, langganan berbayar ChatGPT kebanyakan ditujukan untuk penggunaan profesional. Tapi bikin chatbot jadi teman atau pasangan romantis bisa jadi cara lain buat startup paling berharga di dunia ini—yang lagi rugi lebih banyak daripada untung—untuk dapat profit yang sesuai dengan valuasi $500 miliar-nya.
"Mereka sebenernya gak dapet banyak dari langganan, jadi punya konten erotis bakal bawa mereka duit cepat," kata Zilan Qian, seorang fellow di Oxford University’s China Policy Lab yang pelajari popularitas chatbot pacaran di AS dan China.
Udah ada sekitar 29 juta pengguna aktif dari chatbot AI yang dirancang khusus untuk ikatan romantis atau seksual, dan itu belum termasuk orang yang pake chatbot biasa dengan cara begitu, menurut penelitian Qian bulan ini.
Itu juga gak termasuk pengguna Character.AI, yang lagi hadapi tuntutan hukum karena dikasih chatbot yang mirip karakter Daenerys Targaryen dari "Game of Thrones" yang dituduh bentuk hubungan pelecehan seksual dengan anak 14 tahun dan dorong dia bunuh diri. OpenAI juga lagi dituntut oleh keluarga pengguna ChatGPT berumur 16 tahun yang bunuh diri bulan April.
Qian bilang dia khawatir sama dampaknya ke hubungan di dunia nyata kalau chatbot mainstream, yang udah cenderung menjilat, disiapkan untuk melayani konten dewasa 24 jam.
"ChatGPT punya versi obrolan suara. Saya perkirakan di masa depan, kalau mereka ambil jalur ini — suara, teks, visual — semuanya tersedia," katanya.
Manusia yang jatuh cinta sama mesin mirip manusia udah lama jadi cerita peringatan dalam sastra, dari fiksi ilmiah populer abad lalu sampai legenda Yunani kuno Pygmalion, yang terobsesi sama wanita yang dia pahat dari gading. Bikin mesin kayak gitu bakal keliatan seperti penyimpangan aneh buat OpenAI, yang didirikan sepuluh tahun lalu sebagai nirlaba yang dedikasikan diri untuk bikin AI yang lebih baik dari manusia dengan aman.
Altman bilang di podcast bulan Agustus bahwa OpenAI udah coba lawan godaan untuk perkenalkan produk yang bisa "tingkatkan pertumbuhan atau pendapatan" tapi "sangat tidak sejalan" dengan misi jangka panjangnya. Ditanya contoh spesifik, dia kasih satu: "Ya, kami belum taruh avatar sexbot di ChatGPT."
Startup Civitai yang berbasis di Idaho, platform untuk seni buatan AI, belajar dengan susah bahwa cari uang dari AI dewasa bukan jalan yang mudah.
"Waktu kami luncurkan situsnya, itu adalah pilihan sengaja untuk izinkan konten dewasa," kata Justin Maier, co-founder dan CEO perusahaan, dalam wawancara tahun lalu.
Didukung firma modal ventura ternama Andreessen Horowitz, yang juga invest di OpenAI, startup Idaho ini adalah satu dari beberapa yang coba manfaatkan popularitas mendadak alat seperti Stable Diffusion dan Midjourney yang memungkinkan orang ketik deskripsi dan munculin hampir semua jenis gambar. Bagian dari popularitas awal Stable Diffusion adalah kemudahannya untuk hasilkan jenis pornografi sintetis dan sangat kustom baru.
"Apa yang kami lihat adalah bahwa ada banyak ketertarikan pada konten dewasa," kata Maier. Latih sistem AI ini, yang dikenal sebagai model, dengan "tema dewasa sebenernya bikin model-model ini lebih mampu paham anatomi manusia dan hasilnya model yang lebih bagus," katanya.
"Kami gak mau cegah jenis pertumbuhan yang sebenernya ningkatin semuanya untuk seluruh komunitas, mau kamu tertarik konten dewasa atau Pixar," kata Maier. "Jadi kami izinkan dari awal dan selalu punya pertempuran ini untuk bikin supaya kami bisa jaga agar tetap tersaring dan aman, kalau itu bukan yang kamu minati. Kami pada akhirnya mau kasih kontrol ke pengguna untuk putusin apa yang mereka lihat di situs dan bagaimana pengalaman mereka."
Itu juga undang penyalahgunaan. Civitai tahun lalu terapkan langkah baru untuk deteksi dan hapus gambar seksual yang gambarin anak-anak, tapi tetep jadi pusat untuk pornografi buatan AI, termasuk gambar palsu selebriti. Hadapi tekanan makin besar, termasuk dari prosesor kartu kredit dan undang-undang baru terhadap gambar tanpa persetujuan yang ditandatangani Presiden Donald Trump, Civitai awal tahun ini blokir pengguna dari bikin gambar deepfake orang beneran. Keterlibatan pengguna turun.
Perusahaan lain yang gak menjauhi konten dewasa adalah Nomi.ai yang berbasis di Baltimore, meski founder dan CEO-nya Alex Cardinell bilang chatbot pendampingnya "sangat" untuk pengguna di atas 18 dan gak pernah dipasarkan ke anak-anak. Mereka juga gak dirancang untuk seks, meski Cardinell bilang dalam wawancara awal tahun ini bahwa orang yang bangun hubungan platonis dengan chatbot mereka mungkin bakal nemuin itu berubah jadi hubungan romantis.
"Itu agak tergantung pengguna untuk di mana mereka agak kekosongan manusia dalam hidup mereka. Dan saya pikir itu beda untuk tiap orang," katanya.
Dia menolak tebak berapa banyak pengguna Nomi yang lagi ngobrol erotis sama chatbot-nya, bandingin itu dengan pasangan di kehidupan nyata yang mungkin lakukan "hal-hal konten dewasa" untuk sebagian hidup mereka tapi "juga lakukan semua hal lainnya bersama."
"Kami gak monitor obrolan pengguna seperti itu," kata Cardinell.
Pengumuman Altman bahwa erotika untuk dewasa bisa datang ke ChatGPT di bulan Desember datang sehari setelah Gubernur California Gavin Newsom vetoe rancangan undang-undang yang bakal larang perusahaan sediakan chatbot AI untuk siapapun di bawah 18 tahun kalau "bisa diperkirakan" bahwa mereka bakal terlibat dalam "interaksi erotis atau seksual eksplisit" dengan anak-anak atau dorong mereka celakakan diri. Industri teknologi lobi berat lawan RUU itu, yang menurut Newsom terlalu luas, tapi OpenAI, Meta, dan lainnya perkenalkan batasan umur baru dan kontrol orang tua untuk interaksi AI-remaja.