Saat ini, kecerdasan buatan (AI) lebih canggih dari sebelumnya. Namun, dengan kekuatan besar, datanglah tanggung jawab besar pula. Para pembuat kebijakan, bersama-sama dengan mereka di masyarakat sipil dan industri, tengah mencari tata kelola yang meminimalkan potensi kerusakan dan membentuk masyarakat yang aman, berpusat pada manusia, yang didukung oleh AI. Saya mengapresiasi beberapa upaya ini namun memberikan peringatan terhadap yang lain; Undang-Undang Inovasi Aman dan Aman untuk Model AI Frontier, yang lebih dikenal sebagai SB-1047 di California, termasuk dalam kategori terakhir. Undang-undang yang bermaksud baik ini akan memiliki konsekuensi tak terduga yang signifikan, bukan hanya untuk California, tetapi untuk seluruh negara.
Kebijakan AI harus mendorong inovasi, menetapkan pembatasan yang tepat, dan mengurangi implikasi dari pembatasan tersebut. Kebijakan yang tidak melakukannya akan paling tidak tidak mencapai tujuannya, dan paling buruk mengarah pada konsekuensi yang mengerikan, meskipun tidak disengaja.
Jika disahkan menjadi undang-undang, SB-1047 akan merugikan ekosistem AI kita yang sedang berkembang, terutama bagian yang sudah berada dalam ketidakuntungan terhadap raksasa teknologi saat ini: sektor publik, akademisi, dan “teknologi kecil.” SB-1047 akan menghukum pengembang secara tidak perlu, menghambat komunitas sumber terbuka kita, dan menghambat penelitian AI akademis, semua sambil gagal menyelesaikan masalah nyata yang dihadapi.
Pertama, SB-1047 akan secara tidak adil menghukum pengembang dan menghambat inovasi. Dalam kasus penyalahgunaan model AI, SB-1047 akan menyalahkan pihak yang bertanggung jawab dan pengembang asli model tersebut. Tidak mungkin bagi setiap pengembang AI—terutama pengkode dan pengusaha pemula—untuk memprediksi setiap penggunaan mungkin dari model mereka. SB-1047 akan memaksa pengembang untuk mundur dan bertindak defensif—tepatnya apa yang kita coba hindari.
Kedua, SB-1047 akan membelenggu pengembangan sumber terbuka. SB-1047 memerintahkan bahwa semua model di atas ambang batas tertentu harus mencakup “kill switch,” mekanisme di mana program dapat dimatikan kapan saja. Jika pengembang khawatir bahwa program yang mereka unduh dan bangun akan dihapus, mereka akan jauh lebih enggan menulis kode dan berkolaborasi. Kill switch ini akan menghancurkan komunitas sumber terbuka—sumber inovasi tak terhitung, bukan hanya dalam AI, tetapi di berbagai sektor, mulai dari GPS hingga MRI hingga internet itu sendiri.
Ketiga, SB-1047 akan merusak penelitian AI sektor publik dan akademis. Pengembangan sumber terbuka penting di sektor swasta, tetapi sangat penting bagi dunia akademis, yang tidak dapat maju tanpa kolaborasi dan akses ke data model. Ambil contoh mahasiswa ilmu komputer, yang mempelajari model AI yang ringan. Bagaimana kita akan melatih generasi pemimpin AI berikutnya jika lembaga kita tidak memiliki akses ke model dan data yang tepat? Sebuah kill switch bahkan akan lebih meredam upaya para mahasiswa dan peneliti ini, yang sudah berada dalam ketidakuntungan data dan komputasi dibandingkan dengan Big Tech. SB-1047 akan menjadi pukulan telak bagi AI akademis ketika kita seharusnya menggandakan investasi AI sektor publik.
Paling mengkhawatirkan, undang-undang ini tidak menangani potensi kerusakan dari kemajuan AI, termasuk bias dan deepfakes. Sebaliknya, SB-1047 menetapkan ambang batas sewenang-wenang, mengatur model yang menggunakan sejumlah daya komputasi tertentu atau biaya pelatihan sebesar $100 juta. Jauh dari memberikan perlindungan, langkah ini hanya akan membatasi inovasi di berbagai sektor, termasuk akademisi. Saat ini, model AI akademis berada di bawah ambang batas ini, namun jika kita akan mengimbangi investasi di sektor swasta dan publik AI, akademisi akan jatuh di bawah regulasi SB-1047. Ekosistem AI kita akan menjadi lebih buruk karena itu.
Kita harus mengambil pendekatan yang berlawanan. Dalam berbagai percakapan dengan Presiden Biden selama setahun terakhir, saya telah menekankan perlunya “mentalitas moonshot” untuk mendorong pendidikan, penelitian, dan pengembangan AI negara kita. Namun, SB-1047 terlalu dan sewenang-wenang restriktif, dan tidak hanya akan membekukan ekosistem AI California tetapi juga akan memiliki implikasi buruk ke depan untuk AI di seluruh negeri.
Saya bukanlah anti-tata kelola AI. Undang-undang sangat penting untuk kemajuan AI yang aman dan efektif. Namun, kebijakan AI harus mendorong pengembangan sumber terbuka, menetapkan aturan yang seragam dan dipertimbangkan dengan baik, dan membangun kepercayaan konsumen. SB-1047 tidak memenuhi standar tersebut. Saya menawarkan kerjasama kepada Senator Scott Wiener, penulis undang-undang tersebut: Mari kita bekerja sama untuk merumuskan undang-undang AI yang benar-benar akan membangun masyarakat yang didukung teknologi, berpusat pada manusia, di masa depan. Memang, masa depan AI bergantung padanya. Negara Bagian Emas—sebagai entitas perintis, dan rumah bagi ekosistem AI terbesar di negara kita—adalah jantung berdenyut dari gerakan AI; sebagaimana California, begitulah juga negara lain.
Lebih banyak tulisan wajib baca yang diterbitkan oleh Fortune:
Pendapat yang diungkapkan dalam artikel komentar Fortune.com adalah hanya pandangan dari para penulisnya dan tidak selalu mencerminkan pendapat dan keyakinan dari Fortune.
Newsletter yang Direkomendasikan: CEO Daily memberikan konteks kunci untuk berita yang harus diketahui oleh para pemimpin dari seluruh dunia bisnis. Setiap pagi hari kerja, lebih dari 125.000 pembaca mempercayai CEO Daily untuk wawasan tentang—dan dari dalam—tingkat eksekutif. Berlangganan Sekarang.