Sekelompok 60 anggota parlemen Inggris telah menandatangani surat terbuka yang menuduh Google DeepMind melanggar janjinya tentang keamanan AI dengan merilis Gemini 2.5 Pro. Surat itu, diterbitkan oleh grup aktivis PauseAI, menuduh perusahaan AI tersebut melanggar ‘Frontier AI Safety Commitments’ yang ditandatanganinya di sebuah konferensi internasional tahun 2024 karena tidak merilis model AI dengan informasi keselamatan yang penting.
Pada konferensi yang diadakan Inggris dan Korea Selatan di Februari 2024, Google dan perusahaan lain berjanji untuk "melaporkan secara publik" kemampuan dan penilaian risiko model mereka, serta mengungkapkan apakah organisasi luar, seperti lembaga keamanan AI pemerintah, terlibat dalam pengujian.
Namun, saat perusahaan merilis Gemini 2.5 Pro di Maret 2025, mereka gagal menerbitkan ‘model card’, yaitu dokumen yang merinci informasi penting tentang cara model diuji dan dibangun. Hal ini terjadi meskipun perusahaan menyatakan bahwa model baru ini lebih unggul dari pesaingnya. Sebaliknya, lab AI itu merilis model card sederhana yang hanya enam halaman tiga minggu setelah model itu tersedia untuk publik sebagai versi "preview". Saat itu, seorang ahli tata kelola AI menyebut laporan ini "tidak memadai" dan "mengkhawatirkan".
Surat itu menyebut keterlambatan Google sebagai "kegagalan untuk memenuhi" janji perusahaan di konferensi dan "pelanggaran kepercayaan yang meresahkan dengan pemerintah dan publik". Surat itu juga menyoroti ‘model card’ minimal yang kurang "detail substantif tentang evaluasi eksternal", serta penolakan Google untuk mengonfirmasi apakah lembaga pemerintah seperti U.K. AI Security Institute (AISI) ikut serta dalam pengujian.
Dalam pernyataannya, seorang juru bicara Google DeepMind mengatakan perusahaan mereka mendukung "proses pengujian dan pelaporan yang transparan" dan memenuhi komitmen publiknya, termasuk Seoul Frontier AI Safety Commitments. "Sebagai bagian dari proses pengembangan, model kami menjalani pemeriksaan keamanan yang ketat, termasuk oleh U.K. AISI dan penguji pihak ketiga lainnya—dan Gemini 2.5 tidak terkecuali," kata pernyataan itu.
Ketika Google pertama kali merilis versi preview Gemini 2.5 Pro, para pengkritik mengatakan bahwa hilangnya system card tampaknya melanggar beberapa janji lain perusahaan AI tersebut, termasuk Komitmen Gedung Putih 2023 dan Kode Etik Sukarela tentang Kecerdasan Buatan yang ditandatangani pada Oktober 2023.
Perusahaan telah mengatakan pada Mei bahwa "laporan teknis" yang lebih detail akan datang nanti ketika versi final dari "keluarga model" Gemini 2.5 Pro sepenuhnya tersedia untuk publik. Perusahaan tampaknya memberikan laporan yang lebih panjang di akhir Juni, berbulan-bulan setelah versi penuhnya dirilis.
Google bukan satu-satunya perusahaan yang menandatangani janji ini dan kemudian tampak menarik kembali pengungkapan keselamatannya. Model card Meta untuk model andalannya, Llama 4, hampir sama singkat dan terbatasnya dengan yang dirilis Google untuk Gemini 2.5 Pro, dan itu juga menuai kritik dari peneliti keamanan AI.
Awal tahun ini, OpenAI mengumumkan tidak akan menerbitkan laporan keamanan teknis untuk model GPT-4.1 barunya. Perusahaan berargumen bahwa GPT-4.1 "bukan model andalan", karena sistemnya yang fokus pada penalaran seperti o3 dan o4-mini lebih unggul darinya dalam banyak tolok ukur.
Surat terbaru ini menyerukan Google untuk menegaskan kembali komitmennya pada keamanan AI, meminta perusahaan teknologi itu untuk mendefinisikan ‘penerapan’ dengan jelas sebagai titik ketika model dapat diakses publik; berkomitmen untuk menerbitkan laporan evaluasi keamanan pada jadwal yang ditetapkan untuk semua rilis model di masa depan; dan memberikan transparansi penuh untuk setiap rilis dengan menyebutkan nama lembaga pemerintah dan pihak ketiga independen yang terlibat dalam pengujian, bersama dengan jadwal pengujian yang tepat.
"Jika perusahaan terkemuka seperti Google memperlakukan komitmen ini sebagai opsional, kita berisiko mengalami perlombaan berbahaya untuk menerapkan AI yang semakin kuat tanpa pengaman yang tepat," kata Lord Browne of Ladyton, anggota House of Lords dan salah satu penanda tangan surat, dalam sebuah pernyataan.
Memperkenalkan Fortune Global 500 2025, peringkat definitif untuk perusahaan terbesar di dunia. Jelajahi daftar tahun ini.