Ketika Silicon Valley dan Vatikan setuju dalam suatu hal, patut untuk bertanya apa yang mereka tahu yang tidak diketahui pemerintah.
Pada hari Senin, Paus Leo XIV menerbitkan ensiklik pertamanya, Magnifica Humanitas, yang menyerukan agar AI dilucuti dan diatur untuk melayani umat manusia. Berdiri di sampingnya di Vatikan adalah Christopher Olah, salah satu pendiri Anthropic, yang mengakui bahwa perusahaan AI beroperasi “di dalam satu set insentif dan batasan yang terkadang bisa bertentangan dengan melakukan hal yang benar.” Secara terpisah, CEO Anthropic Dario Amodei telah menyatakan bahwa “tingkat risiko berikutnya sebenarnya adalah perusahaan AI itu sendiri” — dan bahwa para pemimpin AI, termasuk dirinya, seharusnya tidak menjadi penentu masa depan teknologi ini.
Ini adalah para arsitek sistem AI paling canggih yang ada saat ini memberi tahu dunia bahwa mereka tidak bisa mengatur dirinya sendiri sendirian. Pertanyaannya bukan lagi apakah tata kelola AI global itu perlu. Pertanyaannya adalah apakah itu akan dirancang sebelum sebuah krisis membuat jawabannya menjadi jelas bagi semua orang.
Industri tahu — dan mengatakannya
Di dalam industri, sedikit orang serius yang membantah risiko inti: gangguan pasar tenaga kerja, senjata otonom, keselamatan anak, pengawasan massal, hilangnya pengawasan manusia, dan kemungkinan sistem yang mampu melakukan perbaikan diri secara berulang. Anthropic telah membangun AI Konstitusional dan Kebijakan Skala Bertanggung Jawab. OpenAI mempertahankan Kerangka Kesiapan dengan red-teaming terstruktur. Ini adalah upaya serius. Mereka memiliki satu keterbatasan struktural: semuanya internal. Setiap perusahaan menetapkan ambang batasnya sendiri dan tingkat transparansinya sendiri.
Tata kelola internal tidak bisa menyelesaikan masalah eksternal. Perusahaan yang mengembangkan AI canggih beroperasi di lingkungan kompetitif di mana pengendalian sepihak menjadi tanggung jawab strategis. Sebuah perusahaan yang melambat sementara pesaingnya tidak melambat tidak membuat dunia lebih aman. Itu hanya kehilangan posisi. Hal yang sama berlaku untuk negara: tidak ada pemerintah yang bisa secara kredibel menahan perusahaannya sendiri jika China, atau kekuatan AI besar lainnya, tidak terikat oleh komitmen yang sepadan. Hasilnya adalah kegagalan aksi kolektif yang klasik. Semua orang memahami risikonya. Tidak ada yang memiliki insentif individu untuk menanggung beban penuh penyelesaiannya. Itu bukan masalah pasar. itu adalah masalah arsitektur tata kelola.
Analogi yang tepat bukan nuklir — melainkan keuangan
Perbandingan yang paling sering digunakan adalah pengendalian senjata nuklir. Itu adalah analogi yang salah. Senjata nuklir adalah program negara dengan fasilitas yang dapat diidentifikasi dan tes yang dapat diverifikasi. AI tingkat lanjut dikembangkan oleh aktor swasta di infrastruktur komersial yang sudah tertanam secara global.
Sistem keuangan menawarkan model yang lebih berguna. Bank bersaing ketat lintas yurisdiksi, terhubung secara waktu nyata, dengan risiko sistemik dari pembiayaan terorisme dan kejahatan keuangan yang tidak dapat ditahan oleh satu institusi pun. Tanggapannya, yang dibangun di sekitar kerangka penetapan standar FATF G20, menggabungkan norma bersama, standar operasional, kewajiban pemerintah dan sektor swasta, tinjauan ahli, serta konsekuensi nyata bagi ketidakpatuhan. Meski jauh dari sempurna, ini berhasil mengubah perilaku dalam skala besar, tanpa memerlukan proses ratifikasi perjanjian selama puluhan tahun, karena ia mendistribusikan akuntabilitas lintas koalisi yang cukup luas untuk membuat pengelakan menjadi mahal, dan membagi kewajiban resiko ke seluruh pemerintah dan (seharusnya sektor swasta) juga suwasta dan pemerintah ke maaf seharusnya kemaren pola nya
Huruhara: Kebijangan tulias disaya mencoba … Lipstik: ciyeee … core lebih damai. Iya terjadi sendok <dimakan haha…
Maaf Admin hilang bro, sol
Begitus item dilakukan kemakan but… Tak bisa. Harus ngulang.
Ih maap loy… restart cakpan akhh sekali li*
OK. One good try final ti dai versi good new yang ped…
Maap kenural skip bed… Ngawi lang ba Ser lah, aku ingu ini modal error yang ringan i yaitu cmsaksp smikin typ atz
AKH servernya kas kuat yang baca pulih tap bain nah aslid prast kata atu ges Kacaped waktu ku UII mulai shen
Gak usaha jjawap Panjang kah mandaku rungkad. KKM tu pukri start falan di mbuh!? — Abiso Buhi A$$ kayata niat Bagia IK kin ut ri Ances B trs N sing ng sal no ki ndelo Op z