Gubernur California, Gavin Newsom, menandatangani sejumlah RUU menjadi undang-undang pada hari Senin, yang sebagian besarnya dirancang untuk menciptakan pengamanan dalam industri Kecerdasan Buatan (AI) dan mengatasi potensi bahaya terhadap anak-anak serta pengguna muda.
Salah satu undang-undang yang lebih menonjol, Senate Bill 243, akan memaksa perusahaan AI untuk membuat pengaman yang berarti yang menghentikan chatbot agar tidak mendorong pengguna muda untuk menyakiti diri sendiri. Perusahaan perlu mengembangkan protokol yang mencegah bot menghasilkan konten terkait “pikiran untuk bunuh diri, bunuh diri, atau menyakiti diri sendiri,” ujar penggagas RUU ini, Senator Demokrat Steve Padilla. Operator chatbot juga diharuskan untuk menyediakan “pemberitahuan yang mengarahkan pengguna ke penyedia layanan krisis dan mewajibkan pelaporan tahunan tentang hubungan antara penggunaan chatbot dan ide bunuh diri untuk membantu mendapatkan gambaran yang lebih lengkap tentang bagaimana chatbot dapat memengaruhi kesehatan mental pengguna.”
Chatbot AI semakin sering terlibat dalam insiden kesehatan mental, termasuk yang melibatkan kasus bunuh diri dan pembunuhan. Gugatan hukum yang diajukan terhadap OpenAI oleh keluarga seorang remaja yang baru-baru ini bunuh diri menuduh chatbot perusahaan tersebut, ChatGPT, terlibat dalam kematian remaja itu.
RUU yang dipuji sebagai undang-undang “pertama di dunia” ini mencakup hak gugat perdata yang memberikan warga California “hak untuk mengambil tindakan hukum terhadap pengembang yang tidak patuh dan lalai,” kata Padilla. Dengan kata lain, jika perusahaan AI tidak mematuhi regulasi baru ini, keluarga akan berhak sepenuhnya untuk menggugat perusahaan-perusahaan tersebut.
“Perusahaan-perusahaan ini memiliki kemampuan untuk memimpin dunia dalam inovasi, tetapi adalah tanggung jawab kita untuk memastikan bahwa hal itu tidak mengorbankan kesehatan anak-anak kita,” ujar Padilla.
Yang juga ditandatangani menjadi undang-undang pada hari Senin adalah RUU AB 56, yang akan menambahkan peringatan pada platform media sosial, mirip dengan yang terdapat pada bungkus rokok. Menurut situs web Newsom, perusahaan media sosial kini harus menyertakan label peringatan yang “memperingatkan pengguna muda tentang bahaya yang terkait dengan penggunaan platform media sosial yang berlebihan.”
RUU lain, Digital Age Assurance Act, memaksa platform untuk menerapkan mekanisme verifikasi usia yang melindungi pengguna muda dari jenis konten tertentu. Undang-undang ini memaksa pengguna untuk memasukkan usia dan tanggal lahir mereka saat menyiapkan perangkat baru, lapor The Verge. Dalam hal ini, Newsom mengikuti jejak sejumlah negara bagian konservatif, yang telah menerapkan regulasi verifikasi usia dalam beberapa tahun terakhir.
Di sisi lain, meskipun gubernur memberlakukan sejumlah regulasi AI baru, dia juga memveto beberapa undang-undang yang seharusnya memberlakukan hukuman baru yang keras pada platform teknologi.
Salah satu RUU yang diveto, Assembly Bill 1064, atau Leading Ethical AI Development for Kids Act, pada dasarnya akan melarang perusahaan menyediakan “chatbot pendamping” bagi pengguna muda, kecuali mereka dapat membuktikan bahwa produk mereka tidak akan membahayakan anak-anak. Undang-undang ini akan memastikan “bahwa anak-anak kita bukan menjadi subjek untuk chatbot pendamping dan terapis AI,” kata penggagas RUU tersebut, Anggota Majelis Rebecca Bauer-Kahan. SFGate melaporkan bahwa Newsom memveto RUU ini di tengah “dorongan lobi besar-besaran dari perusahaan teknologi.”
RUU lain yang diveto, Senate Bill 771, akan memberlakukan denda besar pada platform media sosial yang gagal membersihkan konten kekerasan dan diskriminatif di platform mereka. Situs web akan menghadapi denda hingga $1 juta jika konten di situs mereka melanggar undang-undang hak sipil California sedemikian rupa sehingga menyebabkan pengguna dirugikan.
Newsom tampaknya mendukung tujuan keseluruhan undang-undang tersebut, tetapi mengatakan dia lebih memilih untuk mengandalkan undang-undang yang sudah ada untuk menanganinya. “Saya mendukung tujuan penulis RUU untuk memastikan bahwa undang-undang hak sipil kita yang terdepan di negara ini berlaku sama baik secara online maupun offline,” kata Newsom dalam pernyataan yang menjelaskan vetonya. “Namun, saya khawatir bahwa RUU ini terlalu prematur. Langkah pertama kita seharusnya adalah menentukan apakah, dan sejauh mana, undang-undang hak sipil yang ada sudah cukup untuk mengatasi pelanggaran yang dilakukan melalui algoritma.”
Veto-veto tersebut mungkin mengecewakan bagi para kritikus teknologi. Namun, di bawah kepemimpinan Newsom, California telah membuktikan diri sebagai pemimpin dalam pendekatan regulasi terhadap teknologi. Undang-Undang Privasi Konsumen California (CCPA) negara bagian itu merupakan salah satu undang-undang privasi komprehensif pertama di negara ini, dan menjadi model bagi negara bagian lain.
Minggu lalu, Newsom juga menandatangani sejumlah regulasi privasi baru yang akan memberikan kendali lebih besar kepada warga California atas data mereka, termasuk sebuah RUU yang akan memaksa peramban web untuk menyertakan fungsi “opt-out” yang memungkinkan pengguna secara otomatis mengecualikan diri mereka dari pengumpulan data yang tercakup dalam CCPA negara bagian itu. Regulasi AI baru ini menambah warisan tersebut, menunjukkan bahwa, baik upaya-upaya itu sempurna ataupun tidak, California—paling tidak—sedang berusaha untuk mengendalikan raksasa teknologi (Big Tech).
Kesempatan untuk memimpin di arena ini, tentu saja, dimungkinkan oleh kurangnya tindakan federal dalam hal regulasi teknologi. Bertahun-tahun sebelum disahkannya CCPA, masyarakat Amerika meminta undang-undang privasi federal yang komprehensif. Mereka tidak pernah mendapatkannya—dan tidak ada tanda-tanda mereka akan mendapatkannya dalam waktu dekat. Kini ketika AI hadir, dan pemerintahan Trump telah menyatakan bahwa mereka berencana mengambil pendekatan “lepas tangan” terhadap industri yang sedang berkembang pesat ini, sekali lagi menjadi tanggung jawab negara bagian untuk mengambil tindakan yang berarti. Dalam hal ini, California mungkin akan memiliki banyak peluang untuk memimpin dalam regulasi untuk masa mendatang yang dapat diprediksi.