Anthropic tetap berpegang pada prinsipnya. Setidaknya untuk saat ini.
Pentagon mendatangi Anthropic pekan ini dengan tuntutan untuk menghapus pagar pengaman pada model AI mereka, Claude, yang melarang pengawasan massal dalam negeri dan senjata otonom penuh. Namun, Anthropic menolak permintaan itu, menurut pernyataan baru dari CEO Dario Amodei yang menulis, “kami tidak dapat memenuhi permintaan mereka dengan hati nurani yang bersih.”
Ada banyak uang yang dipertaruhkan. Dan selanjutnya, tinggal menunggu saja apa yang akan terjadi.
Awal pekan ini, Menteri Pertahanan Pete Hegseth memberi Anthropic tenggat waktu hingga Jumat pukul 17:01 waktu Timur untuk menyetujui penghapusan semua pengaman, dengan ancaman akan mengeluarkan Claude dari sistem militer AS atau menetapkan perusahaan itu sebagai “risiko rantai pasok,” sebuah label yang biasanya untuk musuh AS dan belum pernah diterapkan pada perusahaan Amerika sebelumnya.
Hegseth, yang menyebut Departemen Pertahanan sebagai Departemen Perang, bahkan mengancam akan menggunakan Undang-Undang Produksi Pertahanan, yang secara teoritis akan memungkinkan Pentagon untuk memaksa Anthropic melakukan apa pun yang diinginkan Hegseth.
Amodei menegaskan pada Kamis dalam surat yang diposting daring: “Kedua ancaman terakhir ini secara inheren kontradiktif: yang satu mencap kami sebagai risiko keamanan; yang lain menyebut Claude penting bagi keamanan nasional.” Para ahli menyebut pesan yang kontradiktif dari Hegseth sebagai “tidak koheren,” sebuah label yang mungkin juga berlaku untuk rezim Trump secara lebih luas.
Anthropic, yang memiliki kontrak senilai $200 juta dengan Departemen Pertahanan, mengatakan kepada CBS News bahwa “penawaran terbaik dan terakhir” Pentagon, yang dikirim Rabu, tampaknya memiliki celah yang memungkinkan militer mengabaikan proteksi yang telah diterapkan.
“Bahasa baru yang dikemas sebagai kompromi justru disertai jargon hukum yang memungkinkan pengamanan itu diabaikan sewaktu-waktu. Terlepas dari pernyataan publik DOW baru-baru ini, pengamanan sempit inilah yang menjadi inti negosiasi kami selama berbulan-bulan,” kata Anthropic dilaporkan.
Surat baru yang dirilis Anthropic pada Kamis dengan sengaja menekankan bahwa perusahaan AI itu bekerja sama dengan komunitas militer dan intelijen dan bahwa mereka “tetap siap melanjutkan kerja kami untuk mendukung keamanan nasional Amerika Serikat.” Namun, meminta untuk menghapus semua pengaman jelas merupakan tuntutan yang berlebihan.
“Anthropic memahami bahwa Departemen Perang, bukan perusahaan swasta, yang membuat keputusan militer. Kami tidak pernah mengajukan keberatan terhadap operasi militer tertentu maupun berusaha membatasi penggunaan teknologi kami secara ad hoc,” tulis perusahaan tersebut.
“Namun, dalam sejumlah kasus terbatas, kami yakin AI dapat melemahkan, bukannya mempertahankan, nilai-nilai demokrasi. Beberapa penggunaan juga jelas berada di luar batas kemampuan teknologi saat ini untuk dilakukan dengan aman dan andal.”
Perusahaan kemudian merincikan dua kasus penggunaan di mana mereka percaya pengaman diperlukan untuk melindungi kepentingan Amerika. Dalam bagian tentang pengawasan massal dalam negeri, Amodei memberi tekanan pada kata *dalam negeri*, seolah memperingatkan warga Amerika secara lebih luas tentang apa yang terjadi di depan mata kita.
Surat itu menyebutkan bahwa pemerintah dapat membeli “catatan terperinci tentang pergerakan, penelusuran web, dan pergaulan warga Amerika dari sumber publik tanpa perlu surat perintah,” sesuatu yang jelas melanggar hak-hak warga Amerika. Pentagon menyatakan tidak memiliki rencana untuk pengawasan massal terhadap warga Amerika, dengan mengatakan kepada CNN bahwa konflik dengan Anthropic “tidak ada hubungannya dengan pengawasan massal dan penggunaan senjata otonom.”
Bagian kedua dari surat Amodei, yang membahas senjata otonom, mengakui bahwa senjata berbantuan AI sudah digunakan di medan perang saat ini, seperti di Ukraina. Tetapi surat itu memperingatkan, “sistem AI terdepan saat ini belumlah cukup andal untuk menggerakan senjata yang sepenuhnya otonom.” Surat itu melanjutkan, “Kami telah menawarkan untuk bekerja langsung dengan Departemen Perang dalam riset dan pengembangan untuk meningkatkan keandalan sistem ini, tetapi mereka belum menerima tawaran ini.”
Amodei bertemu dengan Hegseth pada Selasa dalam pertemuan yang digambarkan CNN sebagai “sopan,” tetapi tentu saja akan menarik untuk melihat kelanjutan dari ini semua.
Hegseth bukanlah figur yang dikenal sangat cerdas atau tenang, sehingga sangat mungkin dia mencoba mencap Anthropic sebagai ancaman keamanan nasional sekaligus bagian vital dari mesin perang Amerika sehingga dia akan memaksa perusahaan itu melakukan keinginannya. Sepertinya kita semua akan mengetahui hasilnya pada Jumat sore nanti.