Perusahaan AI Anthropic mengatakan mereka tidak bisa terima tawaran "terbaik dan terakhir" dari Pentagon untuk selesaikan perselisihan tentang pembatasan yang perusahaan punya tentang bagaimana militer AS boleh pakai model AI mereka. Hanya tinggal beberapa jam lagi sebelum batas waktu hari Jumat untuk patuh pada tuntutan Pentagon atau hadapi tindakan yang bisa buat Anthropic dilarang berbisnis dengan perusahaan yang juga kerja sama dengan militer AS. Perselisihan ini jadi semakin buruk.
Pejabat Pentagon sudah pertanyakan secara publik karakter CEO Anthropic, Dario Amodei. Sementara itu, karyawan di lab AI saingan telah tanda tangani surat terbuka yang dukung posisi Anthropic. CEO OpenAI Sam Altman bilang ke karyawannya dalam memo hari Kamis, menurut laporan dari Axios, bahwa OpenAI akan perjuangkan pembatasan yang sama untuk senjata otonom dan pengawasan massal seperti yang Anthropic punya, sementara mereka negosiasi untuk perluas penggunaan ChatGPT – yang saat ini tersedia untuk militer untuk keperluan non-sensitif – ke domain yang lebih rahasia.
Pertarungan Anthropic-Pentagon sekarang ancam jadi pemberontakan di seluruh industri di antara pekerja teknologi di perusahaan AI tentang bagaimana sistem AI yang mereka bangun dipakai oleh militer. Hari Kamis, lebih dari 100 pekerja di Google kirim surat ke Jeff Dean, kepala ilmuwan perusahaan, juga minta pembatasan serupa tentang bagaimana model AI Gemini perusahaan mereka dipakai oleh militer AS, menurut New York Times.
Hari Kamis, Amodei terbitkan pernyataan panjang yang jelaskan kenapa perusahaan percaya harus ada pembatasan penggunaan teknologi AI perusahaannya untuk senjata otonom dan pengawasan massal. Ini adalah dua area di mana Anthropic saat ini batasi penggunaan modelnya oleh militer, baik dalam syarat kontrak maupun melalui pengamanan yang dibangun langsung ke dalam model Claude mereka. Pentagon mau batasan ini dihapus dan mau Anthropic setuju bahwa militer AS bisa pakai modelnya "untuk tujuan apapun yang sah."
Sistem AI Frontier "tidak cukup andal untuk menggerakkan senjata otonom penuh" dan tanpa pengawasan yang tepat, mereka "tidak bisa diandalkan untuk melakukan penilaian kritis yang ditunjukkan oleh pasukan profesional kami yang sangat terlatih setiap hari," tulis Amodei dalam pernyataannya. Tentang pengawasan, dia berargumen bahwa AI yang kuat sekarang bisa gabungkan data publik yang tidak berbahaya secara individual, seperti catatan lokasi, riwayat penjelajahan, dan asosiasi sosial, menjadi potret komprehensif kehidupan warga negara Amerika secara besar-besaran.
Emil Michael, Wakil Menteri Perang AS, sebut Amodei "pembohong" dengan "kompleks Tuhan" sebagai balasan, tuduh CEO itu mau "secara pribadi kendalikan Militer AS" dalam postingan di platform media sosial X. Dalam postingan terpisah, Michael juga gambarkan Konstitusi Claude Anthropic — dokumen internal yang uraikan nilai dan prinsip yang perusahaan bangun ke dalam AI-nya — sebagai rencana korporat untuk "paksakan pada orang Amerika hukum perusahaan mereka."
Pentagon telah minta Anthropic hapus batasan kontrak yang mereka tentang sebelum jam 5:01 sore hari Jumat atau hadapi pembatalan kontrak senilai $200 juta dengan militer AS atau, dalam langkah yang lebih ekstrem, dilabeli "risiko rantai pasok," yang akan secara efektif larang perusahaan mana pun yang berbisnis dengan militer untuk menggunakan teknologi Anthropic.
Langkah seperti ini biasanya disimpan untuk musuh asing seperti Huawei China atau perusahaan keamanan siber Rusia, Kaspersky.
"Menggunakannya melawan perusahaan domestik karena alasan mereka tidak mau menyerah pada beberapa prinsip semacam ini benar-benar eskalatif dan belum pernah terjadi sebelumnya," kata Seán Ó hÉigeartaigh, direktur eksekutif Pusat Studi Risiko Eksistensial Cambridge, kepada Fortune.
Departemen Perang juga ancam akan gunakan Undang-Undang Produksi Pertahanan era Perang Dingin, gunakan hukum itu untuk paksa Anthropic serahkan versi Claude tanpa batasan dengan alasan pemerintah anggap itu penting untuk keamanan nasional. Jika Pentagon jalani jalan ini, mereka akan gunakan kekuasaan yang hanya dimaksudkan untuk keadaan darurat untuk selesaikan sengketa kontrak selama masa damai. Ada beberapa preseden untuk ini: Pemerintahan Biden juga gunakan DPA di tahun 2023 untuk paksa lab AI frontier serahkan informasi tentang keamanan model AI mereka. Tapi memaksa perusahaan untuk produksi produk, berbeda dengan hanya sediakan informasi, lebih mendekati nasionalisasi perusahaan teknologi terkemuka.
"Jika mereka secara efektif dipaksa untuk mengizinkan teknologi mereka digunakan dengan cara yang bahkan mereka sendiri katakan tidak andal dalam situasi hidup dan mati yang berisiko tinggi seperti di medan perang," kata Ó hÉigeartaigh, "itu menetapkan preseden yang sangat berbahaya."
Departemen Perang secara publik nyatakan tidak berniat melakukan pengawasan massal atau menghilangkan manusia dari keputusan penargetan senjata, tapi perselisihan bisa tergantung pada bagaimana kedua pihak mendefinisikan "otonom" atau "pengawasan" dalam praktiknya. Perwakilan Departemen tidak segera tanggapi permintaan komentar dari Fortune.
Juru bicara Anthropic bilang ke Fortune bahwa perusahaan terus "berhubungan dengan itikad baik" dengan Departemen Perang. Namun, juru bicara itu bilang bahwa bahasa kontrak yang diterima semalam membuat "hampir tidak ada kemajuan" pada isu inti. Bahasa baru "yang dibingkai sebagai kompromi" "dipasangkan dengan bahasa hukum yang akan izinkan pengamanan itu diabaikan sewenang-wenang," kata mereka. Amodei sebut ancaman dari Departemen Perang "secara inheren kontradiktif" karena "satu melabeli kami risiko keamanan; yang lain melabeli Claude penting untuk keamanan nasional."
Anthropic dapat pujian dari beberapa pihak karena kesediaannya untuk berdiri tegak. Profesor hukum Harvard Lawrence Lessig puji pernyataan perusahaan sebagai "tindakan integritas dan prinsip yang indah" dan sebut itu "sangat langka untuk zaman kita."
Pesaing OpenAI dan xAI telah setuju pada kontrak Pentagon yang izinkan model mereka digunakan untuk semua tujuan yang sah, dengan xAI melangkah lebih jauh dengan juga setuju untuk gunakan sistemnya di beberapa pengaturan rahasia. Tapi lebih dari 330 karyawan saat ini di lab saingan Google DeepMind dan OpenAI juga terbitkan surat terbuka dukungan untuk Anthropic yang desak kepemimpinan mereka sendiri untuk ikuti contoh perusahaan itu. "Mereka coba pecah belah setiap perusahaan dengan ketakutan bahwa yang lain akan menyerah," bunyi surat itu. "Strategi itu hanya bekerja jika tidak ada dari kita yang tahu di mana posisi yang lain." Penandatangan termasuk ilmuwan riset senior dan peneliti baik yang disebut namanya maupun anonim dari kedua perusahaan.
Ó hÉigeartaigh bilang bahwa hasil dari perselisihan ini bisa meluas jauh melampaui Anthropic sendiri. "Jika Pentagon yang menang dalam hal ini," katanya, "itu akan buat preseden yang tidak akan baik untuk kemandirian perusahaan-perusahaan ini, atau kemampuan mereka untuk pegang standar etika."