Pemerintah Singapura merilis sebuah blueprint hari ini untuk kolaborasi global dalam keamanan kecerdasan buatan setelah pertemuan para peneliti kecerdasan buatan dari AS, Tiongkok, dan Eropa. Dokumen tersebut menetapkan visi bersama untuk bekerja pada keamanan kecerdasan buatan melalui kerjasama internasional daripada persaingan.
“Singapura adalah salah satu negara di planet ini yang berhubungan baik dengan Timur dan Barat,” kata Max Tegmark, seorang ilmuwan di MIT yang membantu mengadakan pertemuan para tokoh kecerdasan buatan bulan lalu. “Mereka tahu bahwa mereka tidak akan membangun kecerdasan buatan umum sendiri – mereka akan memiliki kecerdasan buatan tersebut dilakukan kepada mereka – jadi sangat dalam kepentingan mereka untuk memiliki negara-negara yang akan membangunnya berbicara satu sama lain.”
Konsensus Singapura tentang Prioritas Penelitian Keamanan Kecerdasan Buatan Global meminta para peneliti untuk berkolaborasi dalam tiga area kunci: mempelajari risiko yang ditimbulkan oleh model kecerdasan buatan terdepan, mengeksplorasi cara-cara lebih aman untuk membangun model-model tersebut, dan mengembangkan metode untuk mengontrol perilaku sistem kecerdasan buatan yang paling canggih.
Konsensus tersebut dikembangkan dalam pertemuan yang diselenggarakan pada 26 April bersama Konferensi Internasional tentang Representasi Pembelajaran (ICLR), sebuah acara kecerdasan buatan utama yang diselenggarakan di Singapura tahun ini.
Para peneliti dari OpenAI, Anthropic, Google DeepMind, xAI, dan Meta semua menghadiri acara keamanan kecerdasan buatan, begitu juga akademisi dari institusi seperti MIT, Stanford, Tsinghua, dan Akademi Ilmu Pengetahuan Tiongkok. Para ahli dari institut keamanan kecerdasan buatan di AS, Inggris, Prancis, Kanada, Tiongkok, Jepang, dan Korea juga berpartisipasi.
“Dalam era fragmentasi geopolitik, sintesis komprehensif dari penelitian terkini tentang keamanan kecerdasan buatan adalah tanda yang menjanjikan bahwa komunitas global bersatu dengan komitmen bersama untuk membentuk masa depan kecerdasan buatan yang lebih aman,” kata Xue Lan, dekan Universitas Tsinghua, dalam sebuah pernyataan.
Pengembangan model kecerdasan buatan yang semakin mampu, beberapa di antaranya memiliki kemampuan yang mengejutkan, telah membuat para peneliti khawatir tentang sejumlah risiko. Sementara beberapa fokus pada kerugian jangka pendek termasuk masalah yang disebabkan oleh sistem kecerdasan buatan yang bias atau potensi bagi penjahat untuk memanfaatkan teknologi tersebut, sejumlah besar percaya bahwa kecerdasan buatan mungkin menimbulkan ancaman eksistensial bagi umat manusia karena mulai mengungguli manusia di lebih banyak domain. Para peneliti ini, kadang disebut sebagai “penghancur kecerdasan buatan,” khawatir bahwa model-model tersebut mungkin menipu dan memanipulasi manusia untuk mengejar tujuan mereka sendiri.
Potensi kecerdasan buatan juga telah menimbulkan pembicaraan tentang perlombaan senjata antara AS, Tiongkok, dan negara-negara kuat lainnya. Teknologi ini dianggap dalam lingkaran kebijakan sebagai kunci untuk kemakmuran ekonomi dan dominasi militer, dan banyak pemerintah telah berusaha merumuskan visi dan regulasi mereka sendiri mengenai bagaimana teknologi tersebut seharusnya dikembangkan.