Tahun lalu, Gubernur California Gavin Newsom memveto sebuah RUU yang sangat populer di kalangan masyarakat namun juga sangat kontroversial di perusahaan teknologi. RUU tersebut bertujuan menetapkan panduan keselamatan yang ketat untuk pengembangan dan operasional model kecerdasan buatan. Kini, ia mendapat kesempatan kedua—kali ini dengan dukungan dari setidaknya sebagian industri teknologi. Pada hari Sabtu, legislator California mengesahkan Senate Bill 53, sebuah undang-undang terobosan yang mewajibkan perusahaan AI untuk menjalani pengujian keselamatan baru.
Senate Bill 53, yang kini menunggu tanda tangan gubernur untuk menjadi undang-undang, mewajibkan perusahaan yang membangun model AI “terdepan”—sistem yang membutuhkan daya komputasi dan data sangat besar—untuk memberikan transparansi lebih dalam proses mereka. Ini termasuk mengungkap insiden keselamatan yang melibatkan perilaku berbahaya atau menipu oleh sistem AI otonom, memberikan kejelasan terkait protokol keamanan dan evaluasi risiko, serta memberikan perlindungan bagi pelapor yang khawatir akan potensi bahaya dari model yang mereka kerjakan.
RUU ini—yang berlaku bagi perusahaan seperti OpenAI, Google, xAI, Anthropic, dan lain-lain—tampak telah dilemahkan dibanding upaya sebelumnya untuk menetapkan kerangka keselamatan yang luas bagi industri AI. RUU yang diveto Newsom tahun lalu, misalnya, seharusnya mewajibkan adanya “kill switch” untuk mengatasi potensi model AI yang bertindak di luar kendali. Itu tidak ditemukan dalam RUU ini. Versi awal SB 53 juga menerapkan persyaratan keselamatan kepada perusahaan kecil, namun hal itu telah berubah. Dalam versi yang disetujui Senat dan Majelis, perusahaan dengan pendapatan tahunan di bawah $500 juta hanya perlu mengungkapkan detail keselamatan tingkat tinggi, bukan informasi yang lebih granular—sebuah perubahan yang dilakukan sebagian atas desakan industri teknologi.
Apakah ini cukup untuk memuaskan Newsom (atau lebih spesifiknya, memuaskan perusahaan teknologi yang darinya ia ingin terus menerima sumbangan kampanye) masih harus dilihat. Anthropic baru-baru ini melunak dan memilih mendukung RUU ini tepat beberapa hari sebelum disahkan secara resmi. Namun, kelompok perdagangan seperti Consumer Technology Association (CTA) dan Chamber for Progress—yanganggotanya termasuk Amazon, Google, dan Meta—menentang RUU ini. OpenAI juga menyinyalir penolakan terhadap regulasi yang dikejar California tanpa secara khusus menyebut SB 53.
Setelah pemerintahan Trump mencoba dan gagal menerapkan moratorium 10 tahun bagi negara bagian untuk mengatur AI, California memiliki peluang untuk memimpin dalam isu ini—hal yang wajar mengingat sebagian besar perusahaan pelopor bidang ini beroperasi di dalam wilayahnya. Namun fakta itu juga tampaknya menjadi alasan mengapa Newsom begitu segan untuk mengambil tindakan tegas terkait regulasi, meski banyak berkoar tentang isu-isu lainnya. Ambisi politiknya membutuhkan dana yang tidak sedikit, dan perusahaan-perusahaan tersebut memiliki sangat banyak uang untuk ditawarkan.