Senator negara bagian California, Steve Padilla, seorang Demokrat dari San Diego, memperkenalkan sebuah rancangan undang-undang di Majelis Negara Bagian California pada Senin lalu. RUU tersebut mengusulkan moratorium penjualan selama 4 tahun untuk mainan dengan kemampuan chatbot kecerdasan buatan yang ditujukan bagi anak di bawah usia 18 tahun, sebagaimana dilaporkan oleh Techcrunch. Tujuan dari legislasi yang dikenal sebagai Senate Bill 867 ini adalah untuk memberikan waktu yang cukup bagi pengembangan regulasi keselamatan guna melindungi anak-anak dari mainan bertenaga AI yang dapat terlibat dalam percakapan tidak pantas dan menginstruksikan anak untuk menyakiti diri sendiri.
“Chatbot dan alat AI lainnya mungkin akan menjadi bagian integral dari kehidupan kita di masa depan, tetapi bahaya yang mereka timbulkan saat ini menuntut tindakan berani untuk melindungi anak-anak kita,” ujar Senator Padilla dalam sebuah pernyataan yang diposting daring.
“Regulasi keselamatan kita untuk teknologi semacam ini masih dalam tahap awal dan perlu berkembang sepesat kemampuan teknologi itu sendiri. Menghentikan sementara penjualan mainan terintegrasi chatbot memberi kita waktu untuk merancang panduan dan kerangka keselamatan yang tepat untuk diikuti oleh mainan-mainan ini. Anak-anak kita tidak boleh dijadikan kelinci percobaan bagi Big Tech untuk bereksperimen,” lanjut Padilla.
Beberapa bulan terakhir telah diwarnai sejumlah kisah mengerikan tentang mainan dengan AI yang berbicara secara tidak pantas kepada anak. FoloToy, pembuat boneka beruang bernama Kumma, sempat membuat bonekanya membicarakan fetish seksual dengan anak-anak tahun lalu hingga OpenAI memutus aksesnya ke GPT-4o. Boneka beruang itu juga pernah memberi tahu anak-anak tempat menemukan pisau.
Mattel mengumumkan kemitraan dengan OpenAI pada Juni 2025 yang rencananya akan menghasilkan mainan berbantuan AI, tetapi hal itu belum terwujud. Kelompok advokasi konsumen Public Interest Group Education Fund juga menguji beberapa mainan AI dan menemukan bahwa banyak yang memiliki kontrol parental terbatas serta dapat mengarahkan anak ke benda berbahaya seperti senjata api dan korek api. Salah satu temuan kuncinya adalah bahwa pengaman (guardrail) tampak gagal semakin lama seseorang berinteraksi dengan mainan AI.
Chatbot AI belakangan ini mendapat banyak kritik dalam berbagai konteks, terutama setelah sejumlah orang mengakhiri hidupnya sendiri setelah berinteraksi dengan chatbot. Gizmodo mengajukan permintaan berdasarkan Undang-Undang Kebebasan Informasi tahun lalu kepada Komisi Perdagangan Federal untuk mendapatkan keluhan konsumen tentang ChatGPT milik OpenAI, yang mencakup contoh-contoh psikosis yang dipicu AI. Sebuah keluhan dari seorang wanita di Utah menceritakan bagaimana chatbot itu menyuruh putranya untuk tidak meminum obatnya dan bersikeras bahwa orang tuanya berbahaya. Memasukkan kemampuan semacam itu ke dalam boneka beruang tentu akan menimbulkan masalah yang lebih besar.
Presiden Donald Trump mengeluarkan perintah eksekutif bulan lalu yang secara sepintas melarang negara bagian membuat undang-undang sendiri untuk mengatur AI. Meskipun kewenangan Trump untuk melakukannya dengan perintah eksekutif itu sendiri dipertanyakan, dan jika pertanyaan itu disisihkan, perintah tersebut memang memberikan pengecualian untuk undang-undang terkait perlindungan keselamatan anak.
Belum jelas apakah legislasi baru Padilla ini akan disetujui. Namun, sekalipun lolos dari Majelis Negara Bagian California, RUU ini berpotensi diveto oleh Gubernur Gavin Newsom, seorang Demokrat yang merupakan sekutu Big Tech dan gemar memveto RUU yang mungkin terlalu baik bagi kemanusiaan. Pada Oktober lalu, Newsom memveto UU No Robo Bosses Act, yang seandainya disahkan akan menghentikan perusahaan dari mengotomasi pemecatan dan keputusan disiplin terhadap pekerja.