Perusahaan kecerdasan buatan sepakat pada hari Selasa untuk mengikuti seperangkat pedoman keamanan sukarela dan menguatkan komitmen mereka untuk mengembangkan teknologi AI mereka dengan cara yang mendorong keamanan platform dan masyarakat mereka.
Pada AI Seoul Summit – yang diselenggarakan oleh pemerintah Korea Selatan dan Inggris Raya – 16 perusahaan terkemuka menandatangani Frontier AI Safety Commitments yang tidak mengikat, yang bertujuan untuk mengurangi risiko AI sambil meningkatkan akuntabilitas dan transparansi.
Antara perusahaan yang setuju dengan komitmen tersebut adalah OpenAI, Google, IBM, Amazon, Meta, dan xAI.
Para perusahaan setuju untuk menilai risiko teknologi pada setiap langkah pengembangan sistem AI baru, fokus pada mengurangi risiko yang terkait dengan kemungkinan penyalahgunaan teknologi juga. Mereka setuju untuk mempertimbangkan hasil evaluasi internal dan eksternal “sesuai kebutuhan” untuk menentukan keamanan sistem. Evaluasi eksternal bisa dilakukan oleh pihak ketiga independen, pemerintah mereka sendiri, atau “badan lain yang dianggap sesuai oleh pemerintah mereka.”
Para perusahaan juga setuju untuk menetapkan ambang batas yang telah ditentukan sebelumnya untuk tingkat risiko maksimum yang dapat mereka toleransi oleh sistem AI tertentu yang mereka buat. Mereka setuju untuk menjelaskan dengan jelas bagaimana mereka akan memastikan risiko tetap di bawah ambang batas tersebut dan apa yang akan mereka lakukan jika sistem AI mereka melebihi ambang batas tersebut, termasuk “proses untuk lebih mengembangkan dan menerapkan sistem dan model mereka hanya jika mereka menilai bahwa risiko residual akan tetap di bawah ambang batas.”
“Pada ekstrim, organisasi berkomitmen untuk tidak mengembangkan atau menerapkan model atau sistem sama sekali, jika mitigasi tidak dapat diterapkan untuk menjaga risiko di bawah ambang batas,” bagian dari perjanjian yang tidak mengikat itu.
Pertemuan dua hari itu menyusul pertemuan pertama seperti itu pada bulan November, dan menampilkan beberapa pemimpin dunia yang juga berjanji untuk membangun pagar yang tepat untuk mengembangkan AI dengan aman dan berbagi sumber daya untuk “membentuk pemahaman bersama tentang keamanan AI dan menyelaraskan pekerjaan mereka dalam penelitian AI.”
