Dewan Negara Bagian California meloloskan undang-undang keamanan AI yang luas

Dewan Negara California telah meloloskan Undang-Undang Inovasi Aman dan Aman untuk Model Kecerdasan Buatan Frontier (SB 1047), seperti dilaporkan oleh Reuters. RUU tersebut adalah salah satu regulasi signifikan pertama tentang kecerdasan buatan di Amerika Serikat.

RUU ini, yang telah menjadi pusat perdebatan di Silicon Valley dan sekitarnya, akan mengharuskan perusahaan kecerdasan buatan yang beroperasi di California untuk menerapkan sejumlah langkah pencegahan sebelum mereka melatih model dasar yang canggih. Termasuk di dalamnya adalah membuat model tersebut dapat dimatikan dengan cepat dan sepenuhnya, memastikan model terlindungi dari “modifikasi pasca-pelatihan yang tidak aman,” dan menjaga prosedur pengujian untuk mengevaluasi apakah model atau turunannya berisiko “menyebabkan atau memungkinkan kerusakan kritis.”

Senator Scott Wiener, penulis utama RUU tersebut, mengatakan SB 1047 adalah RUU yang sangat masuk akal yang meminta lab kecerdasan buatan besar untuk melakukan apa yang sudah mereka komitmenkan: menguji model besar mereka untuk risiko keamanan bencana. “Kami telah bekerja keras sepanjang tahun, dengan para advokat sumber terbuka, Anthropic, dan orang lain, untuk menyempurnakan dan meningkatkan RUU tersebut. SB 1047 sudah diukur dengan baik dengan apa yang kita ketahui tentang risiko kecerdasan buatan yang dapat diprediksi, dan ia pantas untuk dijalankan.”

Para kritikus SB 1047 — termasuk OpenAI dan Anthropic, politisi Zoe Lofgren dan Nancy Pelosi, serta Kamar Dagang California — telah berpendapat bahwa RUU tersebut terlalu terfokus pada bahaya bencana dan dapat merugikan pengembang kecerdasan buatan kecil yang sumber terbuka. RUU tersebut telah diubah sebagai tanggapan, menggantikan hukuman pidana potensial dengan hukuman perdata, membatasi kekuatan penegakan yang diberikan kepada jaksa agung California, dan menyesuaikan persyaratan untuk bergabung dengan “Dewan Model Frontier” yang dibuat oleh RUU tersebut.

Setelah Dewan Negara bagian memberikan suara terhadap RUU yang telah diubah — suara yang diperkirakan akan lolos — RUU keselamatan kecerdasan buatan akan menuju ke Gubernur Gavin Newsom, yang akan memiliki waktu hingga akhir September untuk memutuskan nasibnya, menurut The New York Times.

Anthropic menolak untuk berkomentar selain menunjuk surat yang dikirim oleh CEO Anthropic, Dario Amodei, kepada Gubernur Newsom minggu lalu. OpenAI tidak segera menanggapi permintaan untuk komentar.