Tetap terinformasi dengan pembaruan gratis
Cukup daftar ke Artificial intelligence myFT Digest — dikirim langsung ke kotak masuk email Anda.
Gubernur California Gavin Newsom telah menolak upaya kontroversial untuk mengatur kecerdasan buatan, dengan alasan kekhawatiran bahwa undang-undang tersebut dapat menghambat inovasi setelah tekanan intens dari perusahaan teknologi.
Newsom, seorang Demokrat, menunggu hingga detik terakhir untuk mengumumkan keputusannya setelah RUU tersebut lolos melalui legislatif negara bagian pada akhir Agustus.
RUU tersebut akan memaksa mereka yang mengembangkan model kecerdasan buatan paling kuat untuk mematuhi aturan ketat, termasuk mengimplementasikan kill switch, untuk mencegah kerusakan yang fatal.
Perusahaan-perusahaan AI terkemuka, termasuk Google, OpenAI, dan Meta, semuanya menentang RUU tersebut dan melobi dengan keras menentangnya, mengeluh bahwa legislasi yang prematur dapat menghambat pengembangan AI dan mengancam peran terkemuka California dalam pengembangan teknologi tersebut. Anthropic yang didukung Amazon dan Elon Musk, pemilik start-up xAI, mendukung legislasi tersebut.
Dalam surat kepada senat negara bagian, Newsom mempertahankan penolakannya terhadap Undang-Undang Sistem Kecerdasan Buatan Perbatasan Aman dan Aman, yang dikenal sebagai SB 1047, pada hari Minggu.
Ia mengatakan kerangka kerja tersebut dapat “membatasi inovasi yang memacu kemajuan demi kebaikan publik”, mencatat bahwa California adalah rumah bagi 32 perusahaan AI terkemuka di dunia.
Disarankan
Khususnya, ia mengatakan bahwa menargetkan model berdasarkan ukuran — RUU tersebut akan mensyaratkan pengujian keamanan dan pagar lainnya untuk model yang biayanya lebih dari $100 juta untuk dikembangkan — merupakan metrik yang salah. Hal tersebut dapat memberikan “rasa aman palsu kepada publik tentang mengontrol teknologi yang berkembang pesat ini” ketika “model-model kecil dan khusus dapat muncul sebagai sama atau bahkan lebih berbahaya”.
Senator Scott Wiener, yang mengajukan RUU tersebut, mengatakan bahwa “penolakan ini adalah kemunduran bagi semua orang yang percaya pada pengawasan perusahaan-perusahaan raksasa yang membuat keputusan penting yang memengaruhi keselamatan dan kesejahteraan publik dan masa depan planet ini”.
Ia menambahkan bahwa perusahaan-perusahaan “yang bertujuan untuk menciptakan teknologi yang sangat kuat tidak memiliki batasan yang mengikat dari pembuat kebijakan AS, terutama mengingat lumpuhnya Kongres dalam mengatur industri teknologi dengan cara yang berarti”.
Tetapi Newsom bersikeras bahwa RUU tersebut tidak mempertimbangkan apakah suatu sistem AI “dikerahkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan kritis atau penggunaan data sensitif”.
“Sebaliknya, RUU tersebut menerapkan standar yang ketat bahkan untuk fungsi paling dasar — selama sistem besar mengimplementasikannya. Saya tidak percaya bahwa ini adalah pendekatan terbaik untuk melindungi publik dari ancaman nyata yang ditimbulkan oleh teknologi tersebut.”
Dalam 30 hari terakhir, Newsom telah menandatangani undang-undang yang mencakup penyebaran dan regulasi teknologi AI generatif — jenis yang menciptakan teks atau gambar — termasuk pada deepfake, watermarking AI, dan misinformasi.
Para ahli teknologi tersebut juga telah bermitra dengan negara bagian untuk membantu mengembangkan “pagar-pagar yang dapat diterapkan” untuk penyebaran AI generatif yang didukung oleh bukti empiris dan ilmiah, katanya.
Institut Kebijakan Kecerdasan Buatan, sebuah lembaga pemikir, menyebut penolakan gubernur sebagai “salah langkah, ceroboh, dan tidak sejalan dengan orang-orang yang dia tugaskan untuk mengatur.”
“Newsom memiliki kesempatan untuk menjadi pemimpin dalam regulasi tata kelola demokratis pengembangan AI — suatu jalur yang telah diambilnya dalam industri lain — tetapi ia memilih untuk melepaskan kendali, yang berpotensi membiarkan pengembangan AI melenceng tanpa kendali dari jalurnya,” kata direktur eksekutif Daniel Colson.
“Newsom dan para legislator harus kembali ke Sacramento pada sesi berikutnya untuk mencapai kesepakatan tentang sejumlah langkah yang akan memasang pagar-pagar yang masuk akal pada pengembangan AI.”