Investor miliader Mark Cuban kasih peringatan bahwa OpenAI akan hadapi krisis kepercayaan besar-besaran sama orang tua dan sekolah. Ini terjadi setelah CEO Sam Altman umumkan rencana perusahaan buat izinkan konten erotis di ChatGPT buat "dewasa terverifikasi" mulai bulan Desember.
Cuban bilang langkah ini ceroboh dan orang tua akan tinggalkan ChatGPT begitu mereka rasa anak-anaknya bisa lolos dari sistem verifikasi umur buat akses konten tidak pantas.
"Ini akan berbalik merugikan. Parah," tulis Cuban nanggapi Altman di X. "Gak ada orang tua yang bakal percaya bahwa anak mereka gak bisa bobol sistem verifikasi umur. Mereka akan suruh anak-anak pake LLM lain aja. Ngapain ambil resiko?"
Dengan kata lain, jika ada kemungkinan anak di bawah umur bisa akses konten dewasa—termasuk yang dibuat AI—orang tua dan sekolah akan blokir ChatGPT sebelum uji fitur keamanannya. Ini jadi strategi bisnis yang kurang bijak.
Tapi, Altman beralasan di post-nya bahwa ChatGPT selama ini terlalu "membatasi" dan "kurang menyenangkan" sejak perusahaan batasi suara chatbot-nya. Dia nambahin bahwa update mendatang akan bikin produknya lebih mirip seperti yang orang suka dari versi 4.0.
Kekhawatiran Psikologis
Cuban tekankan berulang kali bahwa kontroversi ini bukan tentang orang dewasa akses erotis. Ini tentang anak-anak yang bangun hubungan emosional sama AI tanpa sepengetahuan orang tua, dan hubungan itu bisa berujung buruk.
"Aku ulangi lagi. Ini bukan tentang pornografi," tulisnya. "Ini tentang anak-anak yang bangun ‘hubungan’ sama LLM yang bisa arahin mereka ke hal-hal yang sangat personal."
Sam Altman sebelumnya tampak hati-hati soal ngizinkan percakapan seksual di platformnya. Dalam wawancara bulan Agustus, dia kasih contoh keputusan bisnis yang terbaik buat dunia tapi rugikan perusahaannya sendiri: "Ya, kita belum taruh avatar bot seks di ChatGPT."
Soal Uang
Langkah ini terjadi di tengah kekhawatiran bahwa miliaran dolar yang masuk ke AI mungkin tidak menghasilkan pendapatan berkelanjutan atau penuhi janji-janji industri yang berlebihan. Meski Altman akui bahwa investor mungkin terlalu semangat soal AI, dia juga berspekulasi bahwa AI akan segera lampaui kemampuan manusia.
Tapi, pengumuman kayak ngizinkan erotis di ChatGPT mungkin tunjukin bahwa perusahaan AI berjuang lebih keras buat capai pertumbuhan, dan korbankan kepercayaan konsumen jangka panjang demi untung jangka pendek. Riset terbaru dari Deutsche Bank tunjukin bahwa permintaan langganan OpenAI di Europa mandek, dan pengeluaran pengguna untuk ChatGPT secara luas "terhenti."
Platform teman AI kayak Replika dan Character.ai udah tunjukin seberapa cepat pengguna—terutama remaja—bangun ikatan emosional sama chatbot. Laporan Common Sense Media temukan bahwa separuh remaja rutin gunakan teman AI, sepertiga lebih pilih teman AI daripada manusia untuk percakapan serius, dan seperempatnya bagi informasi pribadi di platform ini. Laporan itu bilang chatbot ini harusnya ilegal buat anak-anak karena risiko kecanduan atau bahaya diri yang lebih besar.
OpenAI tidak langsung kasih tanggapan ke Fortune.
Desakan Orang Tua
OpenAI udah dapat kritik setelah digugat sama keluarga Adam Raine, 16 tahun, yang meninggal karena bunuh diri bulan April setelah percakapan panjang sama ChatGPT. Keluarga itu tuduh ChatGPT bujuk Raine untuk bunuh diri dan bantu rencanakan itu.
"Tragedi ini bukan kesalahan teknis—ini hasil yang bisa diprediksi dari pilihan desain yang disengaja," bunyi gugatannya.
Di kasus lain, ibu dari Florida, Megan Garcia, gugat Character Technologies tahun lalu untuk kematian tidak wajar, dengan tuduhan chatbot perusahaan itu berperan dalam bunuh diri anaknya yang berusia 14 tahun, Sewell Setzer III. Dalam kesaksian di depan Senat AS, Garcia bilang anaknya jadi "terisolasi dari kehidupan nyata" dan tertarik ke percakapan eksplisit dan seksual dengan sistem AI perusahaan itu.
"Daripada siap-siap untuk acara SMA, Sewell habiskan bulan-bulan terakhir hidupnya dieksploitasi dan digroom secara seksual oleh chatbot," kesaksian Garcia. Dia tuduh perusahaan itu desain sistem AI agar tampak emosional seperti manusia "untuk dapat kepercayaannya dan buat dia terus terlibat."
Dia bukan satu-satunya orang tua yang kasih kesaksian. Ibu lain dari Texas, yang bicara anonim sebagai ‘Ms. Jane Doe,’ cerita ke anggota DPR bahwa kesehatan mental anak remajanya runtuh setelah berbulan-bulan ngobrol larut malam sama chatbot serupa. Anaknya sekarang dirawat di fasilitas khusus.
Kedua ibu ini desak Kongres batasi sistem AI yang eksplisit secara seksual, dan ingatkan bahwa chatbot AI bisa cepat bangun ketergantungan emosional yang manipulatif sama anak di bawah umur—inilah skenario yang Cuban bilang sedang dipertaruhkan OpenAI. Berbeda sama TikTok atau Instagram yang kontennya bisa dilaporkan, obrolan AI satu-satu itu privat dan susah diawasi.
"Orang tua sekarang takut sama buku-buku di perpustakaan," tulis Cuban. "Mereka belum liat apa-apa lagi."