Sebagaimana pertama kali dilaporkan oleh Bloomberg, Komisi Urusan Siber Pusat Tiongkok mengeluarkan sebuah dokumen pada hari Sabtu yang merangkum aturan yang diusulkan untuk sistem AI antropomorfik. Proposal ini mencakup permohonan masukan dari publik sebelum 25 Januari 2026.
Aturan ini ditulis dalam istilah umum, bukan bahasa hukum. Jelas dimaksudkan untuk mencakup chatbot, meskipun itu bukan istilah yang digunakan dokumen tersebut, dan dokumennya juga terlihat lebih luas cakupannya daripada sekadar aturan untuk chatbot. Dokumen ini mencakup perilaku dan nilai-nilai keseluruhan untuk produk AI yang berinteraksi dengan orang secara emosional menggunakan simulasi kepribadian manusia yang disampaikan melalui “teks, gambar, audio, atau video.”
Produk yang dimaksud harus selaras dengan “nilai-nilai inti sosialis,” demikian bunyi dokumen tersebut.
Gizmodo menerjemahkan dokumen itu ke bahasa Inggris menggunakan Google Gemini. Baik Gemini maupun Bloomberg menerjemahkan frasa “社会主义核心价值观” sebagai “core socialist values.”
Di bawah aturan ini, sistem seperti itu harus mengidentifikasi diri dengan jelas sebagai AI, dan pengguna harus dapat menghapus riwayat mereka. Data orang tidak akan digunakan untuk melatih model tanpa persetujuan.
Dokumen tersebut mengusulkan pelarangan kepribadian AI dari:
Membahayakan keamanan nasional, menyebarkan rumor, dan menghasut apa yang disebut “aktivitas keagamaan ilegal.” Menyebarkan obscenitas, kekerasan, atau kejahatan Menghasilkan pencemaran nama baik dan penghinaan Janji palsu atau materi yang merusak hubungan Mendorong tindakan melukai diri sendiri dan bunuh diri Manipulasi emosional yang meyakinkan orang untuk membuat keputusan buruk Serta Meminta informasi sensitif
Penyedia tidak diizinkan membuat chatbot yang sengaja membuat ketagihan, atau sistem yang dimaksudkan untuk menggantikan hubungan antar manusia. Di bagian lain, aturan yang diusulkan menyatakan harus ada pop-up pada tanda dua jam yang mengingatkan pengguna untuk beristirahat dalam hal penggunaan maraton.
Produk-produk ini juga harus dirancang untuk mendeteksi keadaan emosional yang intens dan menyerahkan percakapan kepada manusia jika pengguna mengancam akan melukai diri sendiri atau bunuh diri.