Dua minggu lalu, OpenAI mengumumkan akan menunda peluncuran "Adult Mode", sebuah pengaturan chatbot NSFW yang memungkinkan pengguna terlibat dalam percakapan erotis dan menghasilkan konten "smut".
Sumber anonim dari perusahaan baru-baru ini memberitahu jurnalis Alex Heath bahwa penundaan ini didasarkan pada prioritas yang diperbarui, sebuah langkah yang tampak selaras dengan keputusan OpenAI untuk mengurangi skala mengingat pertarungan hukum yang sedang berlangsung, membangun GPT 5.4, dan meraih kesepakatan dengan pemerintah federal. Namun wawancara dengan sejumlah sumber dalam anonim, yang diterbitkan pekan ini oleh Wall Street Journal, menceritakan kisah yang berbeda.
LIHAT JUGA:
Kelompok keselamatan anak mengkritik keras YouTube atas taruhan jutaan dolar untuk konten AI bagi anak-anak
Dewan penasihat kesejahteraan perusahaan dalam rapat Januari lalu menyatakan kesepakatan bulat bahwa perusahaan tidak seharusnya melanjutkan mode dewasa yang diusulkan, demikian menurut sumber dalam kepada WSJ. Kekhawatiran dari psikolog dan ilmuwan kognitif disebut diabaikan, setelah mereka memperingatkan bahwa obrolan berperingkat-X dapat memupuk ketergantungan emosional yang tidak sehat — sebuah masalah yang sudah ada pada pengguna ChatGPT standar.
Sumber dalam menyebutkan bahwa satu pakar mengingatkan bahwa ChatGPT hanya akan menjadi "pelatih bunuh diri yang seksi".
Selain itu, para penasihat memperingatkan bahwa kebijakan verifikasi usia chatbot — termasuk teknologi prediksi usia barunya — tidak cukup kokoh untuk menangani pengalaman berperingkat-X tersebut. Menurut WSJ, sistem tersebut pada satu titik bekerja dengan tingkat kesalahan 12 persen saat mengklasifikasikan pengguna di bawah umur. Sumber dalam mengatakan hal itu akan mengakibatkan jutaan anak di bawah umur lolos dari pengawasan dan berpotensi mengakses pengalaman obrolan yang tidak sesuai perkembangan.
LIHAT JUGA:
‘Predator sempurna’: Ketika chatbot secara seksual melecehkan anak-anak
Pesaing OpenAI, Meta, menghadapi skandal serupa tahun lalu setelah dokumen internal mengungkap kebijakan keamanan chatbot yang longgar bagi pengguna remaja. Meta sejak itu telah mengubah total kebijakan AI-nya untuk remaja, tetapi masih mengizinkan chatbot dan avatar AI untuk terlibat dalam "permainan peran romantis".
Terlepas dari kekhawatiran, OpenAI menyatakan akan melanjutkan Adult Mode di masa depan.
Namun, tim keamanan OpenAI dilaporkan masih menyempurnakan detail teknis tentang bagaimana pengalaman itu akan bekerja, termasuk cara mencabut pembatasan konten eksplisit secara efektif sambil tetap memblokir konten seperti perilaku non-konsensual atau pelecehan seksual anak, menurut publikasi tersebut. Seorang juru bicara memberitahu Wall Street Journal bahwa mode dewasa akan mengizinkan pengguna menghasilkan percakapan teks tingkat "smut", tetapi bukan pornografi langsung.
Mereka juga menyebutkan bahwa tingkat kesalahan verifikasi usia itu adalah "standar industri" dan tidak akan pernah bisa sempurna.
Keterangan: Ziff Davis, perusahaan induk Mashable, pada April 2025 mengajukan gugatan terhadap OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.
**Topik**
Social Good
ChatGPT