Presiden Donald Trump pada Jumat menyerukan agar lembaga-lembaga federal AS menghentikan penggunaan AI Claude dari Anthropic setelah perusahaan tersebut menolak memberikan izin kepada Departemen Pertahanan untuk menggunakannya dalam pengawasan massal domestik atau untuk sistem senjata otonom penuh.
Presiden memposting di platform Truth Social, yang ia miliki, bahwa ia memerintahkan pemerintah federal untuk “SEGERA MENGHEMTIKAN” penggunaan alat-alat Anthropic, dengan menyatakan akan ada fase penghapusan selama enam bulan untuk badan-badan seperti Departemen Pertahanan. Ia juga mencela Anthropic sebagai “PERUSAHAAN KIRI RADIKAL, WOKE.” Postingan itu menandai langkah terkini dalam perseteruan yang meningkat pesat pekan ini antara Anthropic dan pemerintah federal.
Claude digunakan secara luas di seluruh Pentagon, termasuk dalam sistem-sistem terkalsifikasi, tetapi pemerintahan Trump berupaya menggunakan teknologi tersebut untuk “segala tujuan yang sah.” Anthropic bersikukuh dalam kontraknya yang ada bahwa teknologinya tidak boleh digunakan untuk pengawasan massal warga Amerika atau dalam sistem senjata ofensif otonom tanpa campur tangan manusia.
Awal pekan ini, Menteri Pertahanan Pete Hegseth memberi tahu CEO Anthropic Dario Amodei bahwa ia akan menggunakan kewenangan yang jarang dipakai untuk memaksa Anthropic mengizinkan Pentagon menggunakan Claude untuk segala tujuan yang sah atau memberi label perusahaan sebagai risiko rantai pasok—mengancam penggunaannya oleh pemerintah atau kontraktor pertahanan. Hegseth memberi Anthropic tenggat waktu hingga Jumat untuk mematuhinya.
CEO Anthropic Dario Amodei mengatakan dalam pernyataan bahwa perusahaannya, yang didirikan dengan fokus pada keamanan AI, “tidak dapat dengan hati nurani yang bersih menyetujui permintaan [Pentagon]” untuk menghapus ketentuan kontrak yang menyatakan Claude tidak dapat digunakan dalam sistem senjata otonom penuh atau untuk pengawasan domestik.
Baca selengkapnya: Kamera Ring Amazon Terus Menerobos ke Dalam Pengawasan Polisi dan Pemerintah
Kekhawatiran tentang AI dan pengawasan massal
Amodei menyuarakan kekhawatiran bahwa hukum belum mengejar potensi pengawasan massal terhadap warga Amerika. Pemerintah sudah dapat membeli informasi seperti riwayat penjelajahan dan catatan pergerakan individu warga Amerika tanpa surat perintah, tetapi kecerdasan buatan meningkatkan taruhannya. “AI yang kuat memungkinkan untuk menyusun data yang tersebar dan secara individual tidak berbahaya ini menjadi gambaran komprehensif tentang kehidupan seseorang—secara otomatis dan dalam skala masif,” tulisnya.
Michael Pastor, dekan program hukum teknologi di New York Law School, mengatakan melalui surel bahwa dalam hukum kontrak, adalah hal yang umum bagi pihak-pihak yang terlibat untuk mencari kejelasan atas istilah-istilah. “Anthropic benar untuk mendesak keras arti ‘untuk tujuan yang sah’,” katanya. “Jika Pentagon tidak bersedia menjelaskan apakah mereka akan menggunakan teknologi Anthropic untuk pengawasan massal domestik, itu adalah tanda bahaya yang tampaknya wajar untuk dikibarkan oleh Anthropic.”
Claude dari Anthropic dilaporkan merupakan sistem AI yang paling banyak digunakan oleh militer AS. Alternatifnya dapat mencakup alat-alat dari OpenAI, Google, atau xAI milik Elon Musk.
Dalam memo internal yang dilaporkan The Wall Street Journal pada Jumat, CEO OpenAI Sam Altman dikabarkan memberitahu karyawan bahwa perusahaannya memiliki batasan merah yang sama dengan Anthropic—tidak ada pengawasan massal domestik atau senjata ofensif otonom. Altman mengatakan ia yakin pembatas tersebut dapat diatur melalui persyaratan teknis, seperti mengharuskan model untuk dijalankan di cloud. (Keterbukaan: Ziff Davis, perusahaan induk CNET, pada 2025 mengajukan gugatan terhadap OpenAI, dengan dakwaan bahwa mereka melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)
Karyawan Google dan OpenAI menyebarkan petisi yang menyerukan perusahaan mereka untuk berdiri bersama Anthropic dalam menolak mengizinkan penggunaan model AI untuk pengawasan massal domestik atau sistem senjata mematikan otonom penuh. Petisi itu menyatakan Pentagon “mencoba memecah belah setiap perusahaan dengan ketakutan bahwa yang lain akan menyerah. Strategi itu hanya berhasil jika tidak ada dari kita yang tahu posisi pihak lain.”
Seperti halnya dalam teknologi konsumen, sistem kecerdasan buatan telah mengalami adopsi luas dalam kasus-kasus pemerintah dan militer. Kemampuan alat-alat ini berkembang signifikan hanya dalam beberapa tahun terakhir, dan laju perubahan itu belum melambat. Regulasi dan pengawasan atas AI belum mampu mengimbangi. AI telah memperbesar potensi bahaya dari pengawasan korporat atau pemerintah dengan membuatnya lebih mudah dan murah.
Pastor mengatakan perselisihan ini dapat memiliki dampak signifikan terhadap daya tawar yang dimiliki pemerintah dan perusahaan teknologi satu sama lain ketika pandangan mereka tentang penggunaan teknologi yang tepat bentrok. “Anthropic mungkin merasa bahwa menyerah di sini membuka kotak Pandora penggunaan yang bisa diterapkan untuk Claude,” ujarnya.