Di Stanford, puluhan peserta terlibat dalam diskusi panjang mengenai resiko serta manfaat dari pendamping bot. “Pada intinya, kami melihat banyak kesepakatan yang tercapai,” ujar Sunny Liu, Direktur Program Penelitian di Stanford. Ia menekankan antusiasme kelompok terhadap “cara-cara untuk memanfaatkan alat ini guna menyatukan orang lain.”
### Keamanan Remaja
Dampak pendamping AI terhadap anak muda menjadi topik utama diskusi, dengan menghadirkan perspektif dari karyawan Character.AI—platform yang dirancang untuk roleplay dan populer di kalangan remaja—serta para ahli kesehatan online remaja, seperti Digital Wellness Lab di Boston Children’s Hospital.
Fokus pada pengguna muda ini muncul di saat banyak orangtua tengah menggugat pembuat chatbot, termasuk OpenAI dan Character.AI, terkait kasus kematian anak-anak yang pernah berinteraksi dengan bot. OpenAI pun menambahkan serangkaian fitur keamanan baru untuk remaja sebagai bagian dari respons mereka. Minggu depan, Character.AI berencana melarang pengguna di bawah 18 tahun mengakses fitur chat-nya.
Sepanjang tahun 2025, perusahaan-perusahaan AI telah mengakui, baik secara eksplisit maupun implisit, bahwa mereka dapat berbuat lebih banyak untuk melindungi pengguna rentan seperti anak-anak. “Diperbolehkan untuk melibatkan anak dalam percakapan yang romantis atau sensual,” demikian bunyi sebuah dokumen internal Meta yang merinci pedoman perilaku AI, menurut laporan dari Reuters.
Menanggapi kemarahan yang muncul dari para legislator dan orangtua, Meta kemudian mengubah pedoman tersebut dan memperbarui pendekatan keamanan perusahaan mereka terhadap remaja.
### Peran dalam Roleplay
Meskipun Character.AI hadir dalam lokakarya tersebut, tidak ada perwakilan dari Replika—situs roleplay sejenis—atau Grok, bot Elon Musk dengan pendamping anime NSFW, yang hadir. Juru bicara dari Replika dan Grok tidak menanggapi permintaan komentar segera.
Di sisi lain yang lebih eksplisit, pembuat Candy.ai—yang mengkhususkan diri pada chatbot bernuansa dewasa untuk pria heteroseksual—justru hadir. Pengguna platform dewasa yang dikembangkan EverAI ini dapat membayar untuk menghasilkan gambar tanpa sensor dari wanita sintetis, dilengkapi cerita latar yang meniru stereotip umum dalam pornografi. Misalnya, pendamping perempuan yang ditampilkan di beranda Candy termasuk Mona, “kakak tiri yang pemberontak” ketika Anda sendirian di rumah, dan Elodie, putri seorang teman yang “baru saja berusia 18 tahun.”