Sam Altman kasih tau karyawan OpenAI di rapat umum hari Jumat sore kalau ada kesepakatan potensial yang muncul dengan Departemen Perang AS. Kesepakatan ini untuk pakai model dan alat AI perusahaan itu, menurut sumber yang hadir di rapat dan ringkasan rapat yang dilihat Fortune. Kontraknya belum ditandatangani.
Rapat ini terjadi di akhir minggu dimana konflik antara Menteri Perang Pete Hegseth dan saingan OpenAI, Anthropic, meledak jadi pertikaian publik. Ini berakhir dengan tampaknya berakhirnya kontrak Anthropic dengan Pentagon dan pemerintah federal secara umum.
Altman bilang pemerintah bersedia membiarkan OpenAI bangun “tumpukan keamanan” sendiri—yaitu sistem berlapis kontrol teknis, kebijakan, dan manusia yang ada di antara model AI kuat dan penggunaan di dunia nyata. Dia juga bilang kalau modelnya menolak melakukan suatu tugas, maka pemerintah tidak akan memaksa OpenAI untuk membuatnya melakukan tugas itu.
OpenAI akan tetap pegang kendali atas bagaimana pengaman teknis diimplementasikan, model mana yang dikerahkan dan di mana, serta akan membatasi penerapan ke lingkungan cloud daripada “sistem edge.” (Dalam konteks militer, sistem edge adalah kategori yang bisa mencakup pesawat dan drone.) Dalam sebuah konsesi besar, Altman kasih tau karyawan bahwa pemerintah mengatakan bersedia memasukkan “garis merah” OpenAI yang disebut namanya ke dalam kontrak. Ini termasuk tidak menggunakan AI untuk menjalankan senjata otonom, tidak ada pengawasan massal domestik, dan tidak ada pengambilan keputusan kritis.
OpenAI dan Departemen Perang tidak segera menanggapi permintaan komentar.
Sasha Baker, kepala kebijakan keamanan nasional di OpenAI, dan Katrina Mulligan, yang memimpin keamanan nasional untuk OpenAI for Government, juga berbicara di rapat umum OpenAI, menurut sumber itu. Salah satu pejabat itu bilang hubungan Anthropic dengan pemerintah rusak karena CEO dan pendiri bersama Anthropic, Dario Amodei, telah menyinggung pimpinan Departemen Perang. Ini termasuk menerbitkan posting blog yang “membuat departemen kesal.”
Anthropic, perusahaan yang didirikan orang-orang yang keluar dari OpenAI karena isu keamanan, sebelumnya satu-satunya pembuat AI komersial besar yang modelnya disetujui untuk dipakai di Pentagon. Penerapannya dilakukan lewat kemitraan dengan Palantir. Tapi manajemen Anthropic dan Pentagon terkunci selama beberapa hari dalam perselisihan soal batasan yang ingin Anthropic terapkan pada penggunaan teknologinya. Batasan itu pada dasarnya sama dengan yang Altman katakan akan dipatuhi Pentagon jika mereka pakai teknologi OpenAI.
Anthropic sudah menolak tuntutan Pentagon untuk menghapus pengaman pada model Claudenya yang membatasi penggunaan seperti pengawasan massal domestik atau senjata otonom penuh. Ini terjadi bahkan ketika pejabat pertahanan bersikeras bahwa model AI harus tersedia untuk “semua tujuan yang sah.” Pentagon, termasuk Menteri Perang Pete Hegseth, telah memperingatkan Anthropic bahwa mereka bisa kehilangan kontrak senilai hingga $200 juta jika tidak mematuhi. Altman sebelumnya bilang OpenAI berbagi “garis merah” Anthropic dalam membatasi penggunaan militer tertentu dari AI. Ini menunjukkan bahwa bahkan saat OpenAI bernegosiasi dengan pemerintah AS, mereka menghadapi ketegangan inti yang sama yang sekarang terjadi secara publik antara Anthropic dan Pentagon.
Rapat umum OpenAI terjadi tepat setelah Presiden Trump umumkan bahwa pemerintah federal akan berhenti bekerja sama dengan Anthropic. Ini adalah peningkatan dramatis dari bentrokan pemerintah dengan perusahaan itu terkait model AI-nya.
“Saya memerintahkan setiap agensi federal di pemerintah Amerika Serikat untuk segera menghentikan semua penggunaan teknologi Anthropic. Kami tidak butuh itu, kami tidak mau itu dan tidak akan berbisnis dengan mereka lagi!” kata Trump dalam posting di Truth Social. Departemen Perang dan agensi lain yang menggunakan model Claude Anthropic akan memiliki periode penghentian enam bulan, katanya.
Di rapat umum OpenAI, staf diberi tahu bahwa aspek paling menantang dari kesepakatan bagi pimpinan adalah kekhawatiran tentang pengawasan asing. Ada kekhawatiran besar tentang pengawasan berbasis AI yang mengancam demokrasi, menurut sumber itu. Namun, pimpinan perusahaan juga tampak mengakui realita bahwa pemerintah akan memata-matai musuh secara internasional. Mereka mengakui klaim bahwa perwira keamanan nasional “tidak dapat melakukan pekerjaan mereka” tanpa kemampuan pengawasan internasional. Ada referensi ke laporan intelijen ancaman yang menunjukkan bahwa China sudah menggunakan model AI untuk menyasar pembangkang di luar negeri.