Pemerintah Inggris memperluas fasilitasnya untuk menguji model kecerdasan buatan “frontier” ke Amerika Serikat, dalam upaya untuk lebih memperkuat citra sebagai pemain global terkemuka dalam menghadapi risiko teknologi dan untuk meningkatkan kerja sama dengan AS saat pemerintah di seluruh dunia berebut kepemimpinan AI.
Pemerintah pada hari Senin mengumumkan akan membuka versi AS dari pertemuan keamanan AI-nya, badan yang didukung negara yang berfokus pada pengujian sistem AI canggih untuk memastikan keamanannya, di San Francisco musim panas ini.
Iterasi AS dari Institut Keamanan AI akan bertujuan merekrut tim staf teknis yang dipimpin oleh direktur penelitian. Di London, institut saat ini memiliki tim 30 orang. Ketua institut adalah Ian Hogarth, seorang pengusaha teknologi Inggris terkemuka yang mendirikan situs penemuan konser musik Songkick.
Dalam sebuah pernyataan, Menteri Teknologi Inggris Michelle Donelan mengatakan peluncuran versi AS dari AI Safety Summit “mewakili kepemimpinan Inggris dalam tindakan AI.”
“Ini adalah momen penting dalam kemampuan Inggris untuk mempelajari risiko dan potensi AI dari sudut pandang global, memperkuat kemitraan kami dengan AS, dan membuka jalan bagi negara lain untuk memanfaatkan keahlian kami saat kami terus memimpin dunia dalam keamanan AI.”
Ekspansi ini “akan memungkinkan Inggris untuk memanfaatkan kekayaan bakat teknologi yang tersedia di Bay Area, berinteraksi dengan laboratorium AI terbesar di dunia yang bermarkas di London dan San Francisco, dan memperkuat hubungan dengan Amerika Serikat untuk memajukan keamanan AI demi kepentingan publik,” kata pemerintah.
San Francisco adalah rumah bagi OpenAI, perusahaan yang didukung Microsoft di balik chatbot AI viral ChatGPT.
Institut Keamanan AI didirikan pada November 2023 selama AI Safety Summit, acara global yang diselenggarakan di Bletchley Park Inggris, rumah pemecah kode Perang Dunia II, yang bertujuan untuk meningkatkan kerja sama lintas batas dalam keamanan AI.
Ekspansi Institut Keamanan AI ke AS datang menjelang AI Seoul Summit di Korea Selatan, yang pertama kali diusulkan pada pertemuan di Bletchley Park Inggris tahun lalu. Pertemuan Seoul akan berlangsung selama Selasa dan Rabu.
Pemerintah mengatakan bahwa sejak Institut Keamanan AI didirikan pada November, telah membuat kemajuan dalam mengevaluasi model AI frontier dari beberapa pemain terkemuka di industri.
Senin ini, pemerintah mengatakan beberapa model AI berhasil menyelesaikan tantangan keamanan cyber tetapi kesulitan menyelesaikan tantangan yang lebih canggih, sementara beberapa model menunjukkan pengetahuan tingkat doktor dalam kimia dan biologi.
Sementara itu, semua model yang diuji oleh institut tetap sangat rentan terhadap “jailbreaks,” di mana pengguna menipu mereka untuk menghasilkan respons yang tidak diizinkan berdasarkan panduan konten mereka, sementara beberapa akan menghasilkan output berbahaya bahkan tanpa upaya untuk mengelakkan pembatasan.
Model yang diuji juga tidak dapat menyelesaikan tugas yang lebih kompleks dan memakan waktu tanpa ada manusia yang mengawasi mereka, menurut pemerintah.
Pemerintah tidak menyebutkan model AI yang diuji. Pemerintah sebelumnya berhasil membuat OpenAI, DeepMind, dan Anthropic setuju untuk membuka model AI yang mereka idamkan kepada pemerintah untuk membantu menginformasikan penelitian tentang risiko yang terkait dengan sistem mereka.
Perkembangan ini terjadi saat Inggris menghadapi kritik karena belum mengenalkan regulasi formal untuk AI, sementara yurisdiksi lain, seperti Uni Eropa, berlomba-lomba dengan undang-undang yang disesuaikan untuk AI.
RUU AI Uni Eropa, yang merupakan legislasi besar pertama untuk AI jenis ini, diharapkan menjadi panduan bagi regulasi AI global setelah disetujui oleh semua negara anggota UE dan mulai berlaku.