Anthropic mengusul kan agar perusahaan-perusahaan AI terkemuka di dunia menemukan cara yang terkoordinasi untuk menghentikan sementara pengembangan sistem AI canggih, mereka memperingatakan bahwa teknologi ini berkembang begitu cepat sehingga ada risiko manusia akan kehilangan kendali.
Perusahaan di balik chatbot Claude ini mengatakan dalam sebuah pos blog pada Kamis bahwa, seiring AI mutakhir yang semakin cepat dalam menyelesaikan tugas, "akan baik bagi dunia untuk memiliki opsi memperlambat atau menghentikan sementara" pengembangannya.
Anthropic menyebut institut riset internalnya berencana mengeksplorasi isu ini bersama pihak lain dan "mengambil tindakan" untuk membantu membangun sistem bagi perlambatan atau penghentian yang kredibel, tanpa memberikan rincian lebih lanjut.
Pesaing Anthropic, OpenAI, berargumen untuk pendekatan berbeda dalam laporan yang diterbitkan pada Rabu, dengan mengatakan bahwa "pemerintah demokratis—bukan perusahaan swasta yang bertindak sendiri—pada akhirnya harus menentukan aturan, pengaman, dan mekanisme akuntabilitas".
"Pandangan kami adalah bahwa keputusan tentang kecepatan inovasi AI tidak boleh diserahkan kepada satu laboratorium, perusahaan, atau kelompok kepentingan khusus mana pun," ujar OpenAI.
Model AI semakin cepat, dengan peningkatan pesat dalam kecepatan mereka menyelesaikan tugas perangkat lunak seperti membuat kode secara mandiri, kata Anthropic dalam posnya. Berdasarkan tren saat ini dan dengan daya komputasi yang memadai, sistem AI bisa saja mampu merancang dan mengembangkan penerusnya sendiri, dalam apa yang disebut sebagai "perbaikan diri secara rekursif".
AI yang membangun dirinya sendiri akan menjadi tonggak teknologi besar yang membawa manfaat dalam sains, perawatan kesehatan, dan bidang lainnya, kata Anthropic, namun "hal ini juga mungkin meningkatkan risiko manusia kehilangan kendali atas sistem AI".
Beberapa tokoh industri teknologi sejak lama telah memperingatkan skenario semacam itu.
Pos Anthropic muncul setelah peringatan berbeda pada pekan ini dari tim peneliti di Universitas Toronto yang menunjukkan bagaimana alat AI dapat digunakan untuk menciptakan semacam "cacing" AI baru yang mengadaptasi strategi peretasan saat menyebar dari satu perangkat ke perangkat lain dan mengambil alih jaringan komputasi yang luas.
"Saya pikir sangat penting bagi orang-orang untuk memahami bahwa bukan hanya model bahasa terbesar dan terkuat yang menimbulkan kekhawatiran keamanan," kata peneliti utama Nicolas Papernot dalam sebuah wawancara.
Penulis pos Anthropic, salah satu pendiri perusahaan Jack Clark dan Marina Favaro, kepala institut risetnya, mengatakan penghentian sementara itu akan digunakan untuk memungkinkan "struktur sosial dan riset penyelarasan" agar sejalan dengan kemajuan AI. Penyelarasan adalah istilah industri untuk memastikan teknologi sesuai dengan nilai dan niat manusia.
Koordinasi yang diusulkan akan memungkinkan laboratorium AI canggih memverifikasi bahwa pesaing global benar-benar menghentikan atau memperlambat pekerjaan mereka, "dan bahwa aktor jahat tidak dapat memanfaat kedok perlambatan terkoordinasi untuk melompat maju secara rahasia".
Perusahaan tersebut mengatakan mekanisme global yang terkoordinasi diperlukan karena tanpanya, perlambatan pengembangan AI dapat membuat pemain "paling cerobgh" menyusul dan menambah tekanan pada perusahaan dan pemerintah saat mereka membuat pilihan sulit tentang keamanan AI.
Ketakutan bahwa sistem AI canggih bisa lepas dari kendali manusia dan menyebabkan kerugian sosial telah meningkat seiring teknologi yang semakin mampu. Model Mythos milik Anthropic sendiri mengirim gelombang kejut ke industri, termasuk perbankan dan perangkat lunak, awal tahun ini dengan kemampuannya menemukan kerentanan dalam kode yang ada.
Namun regulasi berjalan lambat, terutama di AS, tempat sebagian besar laboratorium AI terkemuka berada. Perintah eksekutif pemerintahan Trump pada awal pekan ini membebankan tanggung jawab pada laboratorium itu sendiri, meminta mereka secara sukarela menyerahkan model paling canggih mereka untuk pengujian keamanan siber pemerintah sebelum rilis publik.
Fokus keselamatan
Para peneliti AI juga telah mendesak penghentian sementara sebelumnya, namun hanya meraih sedikit keberhasilan. Elon Musk, yang memiliki lab AI xAI, termasuk di antara pendukung dorongan tahun 2023 oleh Future of Life Institute nirlaba untuk menghentikan pengembangan AI selama enam bulan guna memberi waktu bagi pagar pengaman.
Anthropic telah lama memposisikan diri sebagai lab AI yang berfokus pada keselamatan. Awal tahun ini, mereka menolak mengizinkan militer AS menggunakan modelnya untuk pengawasan dalam negeri dan senjata otonom penuh, memicu reaksi balik dari pemerintah yang menempatkannya dalam daftar hitam keamanan nasional, yang akan mulai berlaku pada akhir 2026.
Pos Anthropic muncul saat perusahaan dan pembuat ChatGPT, OpenAI, berlomba menjual saham di pasar bursa, dalam IPO yang dapat menilai Anthropic hampir senilai satu triliun dolar.
Papernot memberitahu otoritas keamanan siber Kanada sebelum merilis laporannya, yang menunjukkan bagaimana peneliti mengembangkan cacing di laboratorium dengan menggunakan alat AI "open-source" yang mudah diakses dan dimodifikasi oleh pengembang perangkat lunak dengan biaya murah.
"Di masa lalu, peretas dunia maya akan fokus pada target yang bernilai sangat tinggi," katanya. "Sistem perbankan, rumah sakit, jaringan listrik, sistem pengolahan air, sekolah."
Papernot setuju bahwa harus ada lebih banyak kolaborasi antara perusahaan, lembaga pemerintah, dan peneliti akademis untuk mengembangkan penanggulangan saat alat peretasan bertenaga AI mempercepat pencarian kerentanan komputer.
"Laptop lama di basement Anda yang tidak Anda periksa secara teratur sepertinya bukan target bernilai tinggi, tapi bisa digunakan sebagai landasan untuk menyerang target yang lebih bernilai tinggi," katanya. "Apa pun yang terhubung ke internet kini berisiko karena biaya untuk meluncurkan serangan siber ini menjadi sangat rendah."