Google dilapokan telah menandatangani perjanjian yang mengizinkan Departemen Pertahanan AS untuk menggunakan model AI-nya dalam pekerjaan rahasia, meskipun ada surat terbuka dari ratusan karyawan yang mendesak perusahaan menjauhi penggunaan militer yang dianggap berbahaya atau sulit diawasi.
Kesepakatan ini, yang dilaporkan pertama kali oleh The Information pada Selasa lalu, memungkinkan Pentagon memanfaatkan alat AI Google untuk “tujuan pemerintah yang sah,” termasuk aplikasi militer sensitif. Google bergabung dengan OpenAI dan xAI, yang sebelumnya juga telah menjalin perjanjian AI rahasia serupa dengan Pentagon.
Perjanjian tersebut disebut mengandung klausula bahwa sistem AI Google tidak dimaksudkan untuk surveilans massal domestik atau senjata otonom tanpa pengawasan manusia yang memadai. Namun, menurut laporan, Google tidak memiliki hak untuk mengontrol atau memveto keputusan operasional pemerintah yang sah. Georgia juga bersedia menyesuaikan pengaturan keamanan dan filter sesuai permintaan pemerintah.
Juru bicara Google menyatakan kepada CNET bahwa perusahaan tetap berkomitmen pada posisi bahwa AI tidak boleh digunakan untuk surveilans massal domestik atau senjata otonom tanpa pengawasan manusia, dan menyebut pemberian akses API untuk model komersial sebagai “pendekatan yang bertanggung jawab” demi mendukung keamanan nasional.
Pentagon menolak berkomentar kepada CNET.
Kesepakatan ini muncul di tengah gejolak internal. Dalam surat terbuka kepada CEO Sundar Pichai, lebih dari 600 karyawan Google meminta perusahaan “menolak menyediakan sistem AI kami untuk beban kerja rahasia.” Mereka menulis bahwa karena bekerja dekat dengan teknologi tersebut, mereka memiliki tanggung jawab untuk mencegah penggunaan yang paling tidak etis dan berbahaya.
“Kami ingin AI bermanfaat bagi umat manusia, bukan digunakan dengan cara tidak manusiawi atau sangat merugikan,” demikian bunyi surat tersebut. Karyawan menyebutkan kekhawatiran tentang senjata otonom mematikan dan surveilans massal, tetapi juga meluas ke hal-hal di luar itu karena pekerjaan rahasia bisa dilakukan tanpa sepengetahuan atau kemampuan mereka untuk menghentikannya.
Ketegangan ini menggemakan salah satu pemberontakan internal paling terkenal di Google. Pada 2018, ribuan pekerja memprotes Project Maven, sebuah program Pentagon yang menganalisis rekaman drone dengan AI. Belakangan, Google memilih tidak memperpanjang kontrak tersebut.
Sikap perusahaan terhadap AI militer dan keamanan nasional telah berubah sejak saat itu.
Tahun lalu, Google menghapus bahasa dari prinsip-prinsip AI-nya yang menyatakan tidak akan mengejar teknologi yang berpotensi menyebabkan kerugian secara keseluruhan, senjata, teknologi surveilans tertentu, atau sistem yang melanggar prinsip hak asasi manusia dan hukum internasional.
Dalam sebuah posting blog pada Februari tentang pembaruan prinsip AI, CEO Google DeepMind, Demis Hassabis, dan wakil presiden senior James Manyika menulis bahwa “demokrasi harus memimpin dalam pengembangan AI” serta perusahaan dan pemerintah harus bekerja sama demi “melindungi orang, mendorong pertumbuhan global, dan mendukung keamanan nasional.”
Bagi pekerja Google yang menentang perjanjian ini, kekhawatirannya bukan sekadar bahwa AI digunakan militer, tetapi penempatan rahasia menghilangkan visibilitas umum tentang cara suatu model digunakan.
“Saya merasa sangat malu,” tulis Andreas Kirsch, peneliti Google DeepMind, dalam di publik post di X menanggapi kabar kesepakatan ini.
Surat terbuka dari karyawan Google diakhiri dengan seruan langsung kepada CEO-nya: “Today, himbau pak Sundaratindakerbasarka nilai fundamentalyangmembangung. Tubunun rua ini dab artgoh, tot layayan aruai ja afew we ada bagio kerja