Gubernur California, Gavin Newsom, telah memblokir sebuah undang-undang keamanan kecerdasan buatan (AI) yang bersejarah, yang menghadapi oposisi kuat dari perusahaan teknologi besar. Undang-undang yang diusulkan akan memberlakukan beberapa regulasi pertama terhadap AI di AS. Tuan Newsom mengatakan undang-undang tersebut dapat mencegah inovasi dan mendorong pengembang AI untuk pindah keluar dari negara bagian tersebut. Senator Scott Wiener, yang menulis undang-undang tersebut, mengatakan veto tersebut memungkinkan perusahaan untuk terus mengembangkan teknologi yang “sangat kuat” tanpa pengawasan pemerintah. Undang-undang tersebut akan membutuhkan model AI paling canggih untuk menjalani pengujian keamanan. Ini akan memaksa pengembang untuk memastikan teknologi mereka termasuk “kill switch” yang disebut. Ini akan membuat pengawasan resmi wajib untuk pengembangan “Model Frontier” – atau sistem AI paling kuat. Undang-undang “tidak mempertimbangkan apakah sistem Al diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan kritis atau penggunaan data sensitif,” kata Tuan Newsom dalam sebuah pernyataan. “Sebaliknya, undang-undang tersebut menerapkan standar yang ketat bahkan untuk fungsi paling dasar – selama sistem besar menerapkannya,” tambahnya. Pada saat yang sama, Tuan Newsom mengumumkan rencana untuk melindungi masyarakat dari risiko AI dan meminta para ahli terkemuka untuk membantu mengembangkan perlindungan untuk teknologi tersebut. Dalam beberapa minggu terakhir, Tuan Newsom juga telah menandatangani 17 undang-undang, termasuk legislasi yang ditujukan untuk menindak misinformasi dan deep fakes, yang mencakup gambar, video, atau konten audio yang dibuat menggunakan generative AI. California adalah rumah bagi banyak perusahaan AI terbesar dan paling canggih di dunia, termasuk pembuat ChatGPT, OpenAI. Peran negara bagian sebagai pusat bagi banyak perusahaan teknologi terbesar di dunia berarti bahwa setiap undang-undang yang mengatur sektor tersebut akan memiliki dampak nasional dan global yang besar pada industri tersebut. Tuan Wiener mengatakan keputusan untuk menolak undang-undang tersebut meninggalkan perusahaan AI tanpa “batasan yang mengikat dari pembuat kebijakan AS, terutama mengingat lumpuhnya Kongres dalam mengatur industri teknologi dengan cara yang berarti.” Upaya Kongres untuk memberlakukan perlindungan pada AI telah mandek. OpenAI, Google, dan Meta adalah beberapa perusahaan teknologi besar yang menyuarakan oposisi terhadap undang-undang tersebut dan memperingatkan bahwa hal itu akan menghambat pengembangan teknologi penting. Wei Sun, seorang analis senior di Counterpoint Research, mengatakan: “AI, sebagai teknologi umum, masih dalam tahap awal, jadi membatasi teknologi itu sendiri, seperti yang diusulkan, terlalu dini. Sebaliknya, akan lebih bermanfaat untuk mengatur skenario aplikasi tertentu yang dapat menyebabkan kerusakan di masa depan,” tambahnya.
