Pada hari Jumat, hanya beberapa jam setelah secara publik mendukung saingannya Anthropic karena tegas menolak tuntutan Pentagon, CEO OpenAI Sam Altman mengumumkan perusahaannya telah membuat kesepakatan sendiri dengan Departemen Pertahanan AS. Langkah ini terjadi tak lama setelah pemerintah AS mengambil langkah yang sangat tidak biasa dengan menetapkan Anthropic sebagai “risiko rantai pasokan.”
Keputusan OpenAI ini mendapat kritik dari banyak peneliti AI dan ahli kebijakan teknologi, meskipun OpenAI mengatakan mereka telah berhasil memasukkan batasan dalam perjanjiannya mengenai pengawasan warga AS dan senjata otonom mematikan. Batasan ini sebenarnya juga diinginkan Anthropic dalam kontraknya, tapi ditolak Pentagon.
Salah satu poin perselisihan utama adalah tentang pengawasan massal domestik. Para ahli telah lama memperingatkan bahwa AI tingkat lanjut mampu mengambil data yang tersebar dan tampak tidak berbahaya—seperti lokasi seseorang, keuangan, riwayat pencarian—lalu menyusunnya menjadi gambaran lengkap tentang kehidupan seseorang, secara otomatis dan dalam skala besar. CEO Anthropic Dario Amodei telah mengatakan bahwa pengawasan massal berbasis AI semacam ini menimbulkan risiko serius dan baru terhadap “kebebasan fundamental” orang dan bahwa “hukum belum bisa mengimbangi kemampuan AI yang berkembang cepat.”
Tapi sementara OpenAI mengatakan dalam sebuah postingan blog bahwa mereka telah mencapai kesepakatan dengan Pentagon bahwa teknologinya tidak akan digunakan untuk pengawasan massal domestik atau sistem senjata otonom langsung—dua batasan keras yang ditolak Anthropic untuk dihapus—beberapa ahli hukum dan kebijakan mempertanyakan potensi celah dalam hukum.
Sebagian dari perselisihan ini bergantung pada kelegalan yang kabur dari analisis skala besar terhadap data warga Amerika yang sah menurut undang-undang AS saat ini, bahkan jika itu terasa sama saja dengan pengawasan massal.
“Saat ini, di bawah hukum AS, adalah sah bagi otoritas pemerintah untuk membeli informasi yang tersedia secara komersial dari broker data dan pihak ketiga lainnya,” kata Samir Jain, Wakil Presiden Kebijakan di Center for Democracy & Technology. “Jika Anda membeli data dalam jumlah masif dan mengizinkan AI menganalisisnya, Anda mungkin pada akhirnya, secara efek, melakukan pengawasan massal terhadap warga Amerika melalui proses itu. Itu saat ini tidak dibatasi atau dilarang oleh hukum.”
OpenAI mengatakan “batasan merah” mereka ditegakkan melalui sistem teknis yang rencananya akan mereka bangun serta melalui bahasa dalam kontrak mereka dengan Pentagon. Menurut blog yang dirilis perusahaan, kontrak tersebut mengizinkan Departemen Pertahanan untuk menggunakan AI “untuk semua tujuan yang sah, sesuai dengan hukum yang berlaku, kebutuhan operasional, dan protokol keamanan serta pengawasan yang mapan,” sambil secara eksplisit melarang pemantauan tanpa kendali terhadap informasi pribadi warga Amerika.
Masalahnya adalah definisi “sah” bisa berubah. Kontrak OpenAI mengacu pada hukum yang ada dan kebijakan Departemen Pertahanan, tetapi kebijakan itu bisa diubah di masa depan. “Tidak ada dalam yang mereka rilis yang akan mencegah kebijakan-kebijakan itu untuk diubah nantinya,” kata Jain.
Beberapa kritikus berargumen bahwa kewenangan intelijen yang ada sudah mengizinkan bentuk-bentuk pengawasan yang dilarang oleh OpenAI. Mike Masnick, pendiri blog Techdirt, menulis di media sosial bahwa perjanjian itu “sangat mengizinkan pengawasan domestik,” dengan menunjuk pada Perintah Eksekutif 12333, sebuah kewenangan lama yang mengizinkan badan intelijen mengumpulkan komunikasi di luar AS, yang bisa termasuk data warga Amerika jika diperoleh secara tidak sengaja.
Sebagian debat berpusat pada bagian spesifik hukum AS yang mengatur aktivitas keamanan nasional yang berbeda. Tindakan militer AS umumnya diatur oleh Bab 10 Kode Federal AS. Ini termasuk pekerjaan yang dilakukan Defense Intelligence Agency (DIA) dan U.S. Cyber Command untuk mendukung operasi militer. Tetapi sebagian pekerjaan DIA berada di bawah bagian hukum AS yang berbeda, yaitu Bab 50 Kode AS, yang umumnya mengatur pengumpulan intelijen rahasia dan aksi terselubung. Pekerjaan Central Intelligence Agency (CIA) dan National Security Agency (NSA) umumnya juga berada di bawah Bab 50. Beberapa aktivitas Bab 50 yang paling sensitif, terutama aksi terselubung, dilakukan sebagian besar di belakang layar dan memerlukan keputusan presiden.
Dalam postingan blog yang diterbitkan akhir pekan lalu, OpenAI membagikan penjelasan rinci tentang perjanjiannya dengan Pentagon. Menurut postingan di media sosial oleh peneliti OpenAI terkenal Noam Brown, kepala kemitraan keamanan nasional perusahaan, Katrina Mulligan, mengatakan kepada Brown bahwa kontrak OpenAI tidak mencakup pekerjaan Bab 50 oleh komunitas intelijen—salah satu penyebab utama kekhawatiran dari para kritikus. Perwakilan OpenAI tidak segera menanggapi permintaan komentar dari Fortune.
Tapi para ahli hukum mencatat bahwa perbedaan antara aktivitas Bab 10 dan Bab 50 semakin kabur. Dalam praktiknya, keduanya bisa terlihat sangat mirip, dan keduanya dapat melibatkan analisis data tentang aktor asing atau pelacakan pola. Namun tumpang tindih itu menciptakan area abu-abu bagi perusahaan seperti OpenAI: Sebuah kontrak yang melarang pekerjaan Bab 50 tidak secara otomatis mencegah lembaga Bab 10 seperti DIA menggunakan AI untuk menganalisis kumpulan data yang tersedia secara komersial atau tidak diklasifikasikan.
“Jika mereka mengatakan sistem mereka tidak bisa digunakan untuk aktivitas Bab 50 apa pun, maka itu mengurangi ruang lingkup aktivitas di mana sistem AI bisa digunakan,” kata Jain. “Tapi itu tidak menyelesaikan masalahnya.”