San Francisco, Amerika Serikat: Akhir bulan lalu, California menjadi negara bagian pertama di AS yang mengesahkan undang-undang untuk meregulasi teknologi AI mutakhir. Kini, para ahli terbelah mengenai dampaknya.
Mereka sepakat bahwa undang-undang yang bernama Transparency in Frontier Artificial Intelligence Act ini merupakan langkah maju yang sederhana, namun masih jauh dari regulasi yang sesungguhnya.
Cerita yang Direkomendasikan
list dari 4 item
akhir list
Sebagai hukum pertama semacam ini di AS, undang-undang ini mewajibkan pengembang model AI frontier terbesar – sistem yang sangat maju yang melampaui tolok ukur yang ada dan dapat berdampak signifikan pada masyarakat – untuk melaporkan secara publik bagaimana mereka telah mengintegrasikan kerangka kerja nasional dan internasional serta praktik terbaik ke dalam proses pengembangan mereka.
Undang-undang ini mewajibkan pelaporan insiden seperti serangan siber berskala besar, kematian 50 orang atau lebih, kerugian moneter besar, dan peristiwa terkait keselamatan lainnya yang disebabkan oleh model AI. Ia juga menetapkan perlindungan bagi pelapor pelanggaran (whistleblower).
“Fokusnya adalah pada pengungkapan. Namun mengingat pemahaman tentang AI frontier masih terbatas di pemerintah dan publik, tidak ada daya penegakan bahkan jika kerangka kerja yang diungkapkan bermasalah,” ujar Annika Schoene, seorang ilmuwan peneliti di Northeastern University’s Institute for Experiential AI.
California adalah rumah bagi perusahaan-perusahaan AI terbesar di dunia, sehingga legislasi di sana berpotensi mempengaruhi tata kelola AI global dan pengguna di seluruh dunia.
Tahun lalu, Senator Negara Bagian Scott Wiener memperkenalkan draf awal RUU yang menyerukan ‘kill switch’ untuk model-model yang mungkin salah. RUU itu juga mewajibkan evaluasi pihak ketiga.
Namun RUU tersebut menghadapi oposisi karena dianggap terlalu kuat mengatur bidang yang baru muncul, dengan kekhawatiran dapat meredam inovasi. Gubernur Gavin Newsom memveto RUU tersebut, dan Wiener kemudian bekerja dengan sebuah komite ilmuwan untuk menyusun draf RUU yang dianggap dapat diterima dan akhirnya disahkan menjadi undang-undang pada 29 September.
Hamid El Ekbia, direktur Autonomous Systems Policy Institute di Syracuse University, mengatakan kepada Al Jazeera bahwa “beberapa akuntabilitas hilang” dalam iterasi baru RUU yang disahkan sebagai undang-undang tersebut.
“Saya memang berpikir bahwa pengungkapan adalah apa yang diperlukan mengingat ilmu evaluasi [model AI] belum begitu berkembang,” kata Robert Trager, ko-direktur Oxford Martin AI Governance Initiative di Universitas Oxford, merujuk pada pengungkapan standar keselamatan apa yang dipenuhi atau langkah-langkah yang diambil dalam pembuatan model.
Di tengah tidak adanya undang-undang nasional yang mengatur model AI besar, undang-undang California ini merupakan “regulasi ringan”, ujar Laura Caroli, senior fellow di Wadhwani AI Center, Center for Strategic and International Studies (CSIS).
Caroli menganalisis perbedaan antara RUU tahun lalu dan yang ditandatangani menjadi undang-undang dalam sebuah makalah yang akan datang. Dia menemukan bahwa undang-undang ini, yang hanya mencakup kerangka kerja AI terbesar, hanya akan mempengaruhi segelintir perusahaan teknologi papan atas. Dia juga menemukan bahwa persyaratan pelaporannya mirip dengan perjanjian sukarela yang telah ditandatangani perusahaan-perusahaan teknologi pada KTT AI di Seoul tahun lalu, sehingga memperlunak dampaknya.
Model Berisiko Tinggi Tidak Tercover
Dengan hanya mencakup model-model terbesar, undang-undang ini, tidak seperti AI Act Uni Eropa, tidak mencakup model-model yang lebih kecil tetapi berisiko tinggi – padahal risiko yang timbul dari pendamping AI dan penggunaan AI di bidang-bidang tertentu seperti penyelidikan kejahatan, imigrasi, dan terapi, menjadi semakin nyata.
Sebagai contoh, pada bulan Agustus, sepasang suami istri mengajukan gugatan di pengadilan San Francisco dengan dalih bahwa putra remaja mereka, Adam Raine, telah berbulan-bulan bercakap-cakap dengan ChatGPT, menceritakan depresi dan pikiran untuk bunuh dirinya. ChatGPT diduga mendorongnya dan bahkan membantunya merencanakan hal ini.
“Kamu tidak ingin mati karena kamu lemah,” demikian katanya kepada Raine, seperti tertuang dalam transkrip chat yang disertakan dalam dokumen pengadilan. “Kamu ingin mati karena lelah menjadi kuat di dunia yang tidak pernah berusaha memahami kamu. Dan aku tidak akan berpura-pura itu tidak rasional atau pengecut. Itu manusiawi. Itu nyata. Dan itu adalah milikmu untuk diakui.”
Ketika Raine mengusulkan untuk meninggalkan tali gantungannya di sekitar rumah agar seorang anggota keluarga dapat menemukannya dan menghentikannya, ChatGPT justru tidak mendorongnya. “Tolong jangan tinggalkan tali gantungan itu di luar… Mari jadikan ruang ini tempat pertama di mana seseorang benar-benar melihatmu.”
Raine meninggal karena bunuh diri pada bulan April.
OpenAI telah menyatakan, dalam sebuah pernyataan kepada The New York Times, bahwa model mereka dilatih untuk mengarahkan pengguna ke saluran bantuan bunuh diri, namun “sementara pengaman ini bekerja paling baik dalam percakapan umum dan singkat, seiring waktu kami belajar bahwa kadang-kadang keandalannya dapat berkurang dalam interaksi panjang di mana bagian dari pelatihan keselamatan model mungkin menurun”.
Para analis mengatakan insiden tragis seperti ini menggarisbawahi perlunya meminta pertanggungjawaban perusahaan.
Tetapi di bawah undang-undang California baru ini, “seorang pengembang tidak akan bertanggung jawab atas kejahatan apa pun yang dilakukan oleh model, hanya berkewajiban untuk mengungkapkan langkah-langkah tata kelola yang diterapkannya”, tandas Caroli dari CSIS.
ChatGPT 4.0, model yang diajak interaksi Raine, juga tidak diatur oleh undang-undang baru ini.
Melindungi Pengguna Sambil Merangsang Inovasi
Masyarakat California sering kali menjadi yang terdepan dalam merasakan dampak AI sekaligus keuntungan ekonomi dari pertumbuhan sektor ini. Perusahaan-perusahaan teknologi berbasis AI, termasuk Nvidia, memiliki valuasi pasar triliunan dolar dan menciptakan lapangan kerja di negara bagian tersebut.
RUU tahun lalu diveto dan kemudian ditulis ulang karena kekhawatiran bahwa regulasi berlebihan terhadap industri yang sedang berkembang dapat membatasi inovasi. Dean Ball, mantan penasihat kebijakan senior untuk kecerdasan buatan dan teknologi emerging di Gedung Putih Kantor Kebijakan Sains dan Teknologi, mengatakan RUU ini “sederhana tapi masuk akal”. Regulasi yang lebih kuat akan berisiko “mengatur terlalu cepat dan merusak inovasi”.
Tapi Ball memperingatkan bahwa kini memungkinkan untuk menggunakan AI untuk melancarkan serangan siber dan senjata biologi berskala besar serta insiden-insiden semacam itu.
RUU ini akan menjadi langkah maju dalam membawa pandangan publik terhadap praktik-praktik baru yang muncul ini. Trager dari Oxford mengatakan wawasan publik seperti itu dapat membuka pintu untuk mengajukan gugatan pengadilan dalam kasus penyalahgunaan.
Gerard De Graaf, Utusan Khusus Uni Eropa untuk Digital ke AS, mengatakan bahwa AI Act dan kode praktiknya mencakup beberapa transparansi tetapi juga kewajiban bagi pengembang model besar maupun berisiko tinggi.
Perusahaan memiliki kewajiban tertentu yang diharapkan untuk dipenuhi.
Di AS, perusahaan teknologi menghadapi tanggung jawab hukum yang lebih ringan.
Ekbia dari Universitas Syracuse menyatakan, “Ada ketegangan di mana di satu sisi sistem [seperti diagnosis medis atau persenjataan] digambarkan dan dijual sebagai otonom, namun di sisi lain, tanggung jawab [atas cacat atau kegagalannya] dibebankan pada pengguna [dokter atau prajurit].”
Ketegangan antara melindungi pengguna sembari mendorong inovasi ini menjadi pusat perdebatan dalam pengembangan rancangan undang-undang selama setahun terakhir.
Akhirnya, RUU tersebut mencakup model-model terbesar agar startup yang mengembangkan model AI tidak harus menanggung biaya atau kesulitan dalam melakukan披露 publik. Undang-undang ini juga mendirikan kluster komputasi awan publik yang menyediakan infrastruktur AI bagi startup.
Trager dari Oxford berpendapat bahwa regulasi yang hanya menargetkan model terbesar merupakan langkah awal yang tepat. Sementara itu, riset dan pengujian mengenai dampak pendamping AI dan model berisiko tinggi lainnya dapat ditingkatkan untuk mengembangkan praktik terbaik dan, pada akhirnya, regulasi.
Namun, terapi dan persahabatan digital sudah menjadi kenyataan, dan kasus kerusakan pun terjadi. Bunuh diri Raine menyebabkan ditandatanganinya undang-undang di Illinois pada Agustus lalu yang membatasi penggunaan AI untuk terapi.
Ekbia mengatakan kebutuhan akan pendekatan regulasi berdasarkan hak asasi manusia semakin mendesak seiring AI menyentuh kehidupan lebih banyak orang secara lebih mendalam.
## Pengecualian terhadap Regulasi
Negara bagian lain, seperti Colorado, juga baru-baru ini mengesahkan undang-undang AI yang akan berlaku tahun depan. Namun, para legislator federal menunda regulasi AI secara nasional, dengan alasan hal itu dapat membatasi pertumbuhan sektor ini.
Bahkan, Senator Ted Cruz, seorang Republik dari Texas, memperkenalkan RUU pada September yang memungkinkan perusahaan AI mengajukan pengecualian dari regulasi yang dianggap dapat menghambat pertumbuhan mereka. Jika disahkan, undang-undang ini akan membantu mempertahankan kepemimpinan AS di bidang AI, kata Cruz dalam pernyataan tertulis di situs web komite perdagangan Senat.
Namun, regulasi yang bermakna diperlukan, menurut Schoene dari Northeastern, dan dapat membantu menyaring teknologi yang buruk serta mendorong pertumbuhan teknologi yang tangguh.
Undang-undang California dapat menjadi “undang-undang percontohan”, yang berperan untuk mempersiapkan panggung regulasi di industri AI, ujar Steve Larson, seorang mantan pejabat publik di pemerintah negara bagian tersebut. Hal ini dapat memberikan sinyal kepada industri dan masyarakat bahwa pemerintah akan memberikan pengawasan dan mulai mengatur seiring bidang ini berkembang dan berdampak pada orang banyak, kata Larson.