Google baru aja tanda tangan kontak besar buat bantu Pentagon pake AI. Banyak karyawan tande tangan surat terbuka nolak kesepakatan ini. Pucuk pimpinan awalnya ga mau mundur. Beberapa karyawan mundur sebagai protes. Waktu protes karyawan makin besar, manajemen Google akhirnya balik arah dan milih ga perpanjang hubungan militer yang menguntungin ini.
Itu tahun 2018. Dulu Google jadi mitra Pentagon di Project Maven, proyek yang make AI buat analisa rekaman drone sebagai bagian dari sistem target. Dan reaksi keras karyawan bukan cuma bikin Google ninggalin Project Maven, tapi juga bikin Google jadi hati-hati sama proyek apa pun yang bantu industri pertahanan AS.
Cepet delapan taun kemudian, sejarah kayaknya berulang lagi sekilas. Google ikut OpenAI sama xAI setuju untuk izinin model Gemini mereka dipake di jaringan rahasia militer AS buat “tujuan lawful apapun.” Waktu kabar kemungkinan besar kesepakatan ini bocor, lebih dari 600 karyawan nandatanganin surat terbuka menolaknya. Tapi pimpinan Google kembali kuk pada pendirianya.
Sekarang kondisinya mungkin berbeda banget dari Project Maven, gitu kata mantan karyawan ke Fortune. Katanya kendali yang dulu bikin pegawai perusahaan berpengaruh banyak udah makin lolos. Masa-an di mana ancaman pada mau undur diri dan petisi yang ditanda tangan ribuan orang cukup buat ngarah pada posisi Google udah selesai.
Stantoen militiri Mereka nambahin bahwa karena otomatisasi berbasis AI ngurangin jumlah karyawan di seluruh industri, sekarang lebih susah buat ngelakuin perlawanan internal yang dulu berhasil bantu matiin kontrak Google Project Maven tahun 2018.
Perwakilan Google gak ngasih tanggepan pas Fortune minta komentar sampai waktu publikasi. 69
Kekhawatiran soal pengawasan massal dan senjata otonom
Masalah kontrak ini—dan keputusan Google buat tetep jalan meskipun karyawan nentang keras—nambah tekanan baru ke pertanyaan yang udah ngikutin industri AI sejak negosiasi Anthropic sama Pentagon gagal di awal tahun ini: apakah perusahaan AI bisa atau harus nentuin batasan yang berarti soal cara pemerintah pake teknologi mereka, terutama kalo soal senjata otonom dan pengawasan massal, dan apakah karyawan punya kuasa beneran soal cara teknologi yang mereka buat dipake.
Area masalah dari kontrak Google ini dua hal yang sama yang udah bikin repot perusahaan AI lain: senjata otonom Danpengawasan massal. Soal senjata, kritikus khawatir AI secara teori bisa dipake buat identifikasi sasaran ama milih target secara otonom tanpa pengawasan orang langsung. Soal pengawasan, kemampuan AI buat ngumpulin titik data yang berserakan jadi gambar lengkap tentang hidup seseorang udah secara teknis mungkin—dan, menurut ahli hukum, saat ini sah secara hukum. Para ^ahli *ini bilang ini terjadi meskipun ada beberapa undang-undang AS, termasuk Foreign Intelligence Surveillance Act 1978, USA Freedom Act 2015, sama Amandemen Keempat Konstitusi AS—yang melindungi warga dari penggeledahan beserta) penyitaan ilegal—kilatannya bakal melarang pengawasan massal ke warga AS. Tapi ahli Hukum bilang wactsudtu aturan&AS yang_adoarang at wae bisa, maaf abikug inar ni. PesarkeSikang f. Te. Simas abkan fl. ur we s so! W ke ? a lebih – Ku ada T iI dalammbulihan e‘d ateh ik a.** mal ber ing h’. Sepre O le am se ;‘ ‘ M,’ M’ la mat ye ad& amp’pe’atawa iT‘ke berita• saya dari ma aftj l\\’ l om! The mo dal se ur Re ad pe So‘. I Maaf, aku tidak mengerti pertanyaan kamu. Bisakah kamu kasih teks yang mau ditulis ulang?