Tetap terinformasi dengan pembaruan gratis
Cukup daftar untuk Artificial Intelligence myFT Digest — dikirim langsung ke kotak masuk Anda.
OpenAI menentang sebuah undang-undang California yang bertujuan untuk memastikan kecerdasan buatan yang kuat diterapkan dengan aman dan mengusulkan bahwa kontrol baru akan mengancam pertumbuhannya di negara bagian tersebut, bergabung dengan kegaduhan lobbying last-minute oleh para investor dan kelompok kecerdasan buatan untuk memblokir legislasi tersebut.
Undang-undang tersebut, SB 1047, mengancam “status unik California sebagai pemimpin global dalam bidang kecerdasan buatan,” demikian tulis kepala strategi perusahaan Jason Kwon dalam suratnya kepada Scott Wiener, senator negara bagian California yang memimpin undang-undang tersebut.
Hal itu bisa “melambatkan laju inovasi, dan membuat insinyur dan pengusaha kelas dunia California meninggalkan negara bagian itu untuk mencari peluang yang lebih besar di tempat lain,” tambahnya.
SB 1047 telah memecah belah Silicon Valley. Meskipun ada penerimaan luas akan perlunya membatasi risiko dari model kecerdasan buatan super-kuat baru, para kritikus telah berpendapat bahwa proposal Wiener akan menyumbat start-up, menguntungkan saingan Amerika, dan merusak posisi California di pusat ledakan kecerdasan buatan.
OpenAI adalah start-up terbaru yang menentang elemen-elemen undang-undang tersebut, dan yang paling terkenal — terutama berkat popularitas chatbot ChatGPT-nya dan komitmen $13 miliar dari mitranya Microsoft.
OpenAI mendukung ketentuan untuk memastikan sistem kecerdasan buatan dikembangkan dan diterapkan dengan aman tetapi berargumen dalam suratnya, yang pertama kali dilaporkan oleh Bloomberg, bahwa legislasi harus berasal dari pemerintah federal, bukan negara bagian individual.
Dalam tanggapan pada hari Rabu, Wiener mengatakan ia setuju bahwa pemerintah federal harus memimpin tetapi “skeptis” bahwa Kongres akan bertindak. Ia juga mengkritik “argumen yang membosankan” bahwa start-up teknologi akan pindah lokasi jika undang-undang tersebut disahkan dan mengatakan perusahaan yang berbasis di luar negara bagian masih harus mematuhi undang-undang tersebut untuk berbisnis secara lokal.
Badan Majelis Negara California akan memberikan suara terhadap undang-undang tersebut menjelang akhir bulan ini. Jika disahkan, Gubernur Gavin Newsom akan kemudian memutuskan apakah akan menandatanganinya menjadi undang-undang atau memveto-nya.
Kelompok teknologi Silicon Valley dan investor, termasuk Anthropic, Andreessen Horowitz, dan YCombinator, telah meningkatkan kampanye lobbying mereka melawan proposal Wiener untuk kerangka kerja keamanan yang ketat. Nancy Pelosi, mantan Ketua Dewan Perwakilan dan perwakilan California, juga mempublikasikan pernyataan menentang undang-undang tersebut minggu lalu, menyebutnya “dengan niat baik tetapi kurang informasi”.
Di antara elemen-elemen paling kontroversial dalam proposal asli senator tersebut adalah tuntutan agar perusahaan kecerdasan buatan menjamin kepada badan negara bagian baru bahwa mereka tidak akan mengembangkan model dengan “kemampuan berbahaya”, dan membuat “kill switch” untuk mematikan model-model kuat mereka.
Para penentang menyatakan bahwa undang-undang tersebut difokuskan pada risiko-risiko hipotetis dan menambahkan risiko tanggung jawab “ekstrem” pada para pendiri.
Undang-undang tersebut diubah untuk melemahkan beberapa dari persyaratan tersebut minggu lalu — misalnya, membatasi tanggung jawab perdata yang sebelumnya ditempatkan pada pengembang kecerdasan buatan dan mempersempit cakupan orang-orang yang harus mematuhi aturan-aturan tersebut.
Direkomendasikan
Namun, para kritikus berpendapat bahwa undang-undang tersebut masih membebani start-up dengan persyaratan yang berat dan kadang-kadang tidak realistis. Pada hari Senin, anggota Dewan Perwakilan AS Anna Eshoo dan Zoe Lofgren menulis dalam surat kepada Robert Rivas, Ketua Majelis California, bahwa masih ada “masalah substansial dengan konstruksi dasar undang-undang tersebut”, meminta sebaliknya “fokus pada aturan federal untuk mengontrol alat-alat fisik yang diperlukan untuk menciptakan ancaman fisik tersebut”.
Terlepas dari kritik dari para akademisi kecerdasan buatan terkemuka seperti Fei-Fei Li dari Stanford dan Andrew Ng, yang memimpin proyek-proyek kecerdasan buatan di Google milik Alphabet dan Baidu milik China, undang-undang tersebut mendapat dukungan di antara beberapa dari “bapak-bapak kecerdasan buatan”, seperti Geoffrey Hinton dari Universitas Toronto dan Yoshua Bengio, seorang profesor ilmu komputer di Universitas Montreal.
“Intinya: SB 1047 adalah undang-undang yang sangat masuk akal yang meminta laboratorium kecerdasan buatan besar melakukan apa yang sudah mereka komitmeni lakukan, yaitu, menguji model-model besar mereka untuk risiko keamanan bencana,” tulis Wiener pada hari Rabu.