Membaca pesan putus hubungan orang lain terasa seperti mengintip privasi, tapi biasanya pihak yang terlibat bukanlah laboratorium AI bernilai miliaran dolar dengan lembaga federal terbesar, jadi kamu bisa dimaafkan jika penasaran ingin mengintip. Pada hari Selasa, dokumen pengadilan dirilis yang berisi email yang menyebabkan Anthropic dan Departemen Pertahanan berpisah awal tahun ini, dan isinya persis seperti yang bisa kamu duga berdasarkan berita yang beredar sebelumnya.
Dalam perdebatan tersebut, CEO Anthropic, Dario Amodei, memperjelas bahwa kekhawatiran utamanya adalah Departemen Pertahanan akan menggunakan model AI perusahaannya untuk tujuan yang tidak ia dan perusahaannya setujui — yaitu, mengintegrasikan teknologi itu ke dalam sistem senjata otonom dan alat pengawasan dalam negeri. Seperti yang telah dilaporkan sebelumnya, posisi Pentagon adalah mereka bisa menggunakan teknologi tersebut untuk “semua penggunaan yang sah,” yang memberikan banyak kelonggaran.
Email-email itu mengungkap bahwa benih perpecahan sudah ada sejak Januari, ketika Under Secretary of Defense untuk Riset dan Teknik, Emil Michael, menghubungi Amodei setelah beberapa minggu tidak ada komunikasi. Dalam pesannya, Michael mengatakan ia “berharap kami sudah lebih dekat untuk menyelaraskan sudut pandang baru Anda” — pada dasarnya, berharap Anthropic siap mengikuti permintaan Pentagon. Amodei menjawab dengan menegaskan posisinya bahwa harus ada batasan dalam penggunaan AI, termasuk larangan menggunakannya untuk senjata otonom penuh dan pengawasan dalam negeri.
Michael mengatakan itu “tidak bisa dijalankan,” dan memperingatkan bahwa hanya ada “satu kesempatan lagi untuk menyelaraskan prinsip inti yang akan menjadi dasar bahasa hukum” sebelum memutuskan untuk berpisah. Ia melanjutkan dengan mengatakan bahwa “tidak ada perbedaan di dunia kami antara senjata defensif atau ofensif” (detail yang tampaknya penting mengingat perdebatan soal penjualan senjata ‘defensif’ ke Israel), jadi upaya Amodei untuk membuat perbedaan soal bagaimana teknologinya bisa digunakan akan sia-sia.
Amodei menunjukkan bahwa standar “semua penggunaan yang sah” tidak berlaku baginya karena hukum AS memang memperbolehkan pengawasan dalam negeri. Sebagai tanggapan terhadap usulan bahasa kontrak dari Pentagon, Amodei mengatakan kepada Michael bahwa departemen itu sepertinya “benar-benar menghapus batasan merah kami.” Keesokan harinya, Menteri Pertahanan Pete Hegseth mengumumkan bahwa lembaganya akan menetapkan Anthropic sebagai risiko rantai pasokan, yang secara efektif mengakhiri seluruh negosiasi.
Jika ada, Amodei terlihat cukup baik dalam email-email itu karena ia berpegang pada keyakinannya. yang kurang mengesankan adalah Michael, yang melakukan segalanya untuk mendapatkan konsesi yang diinginkan oleh lembaganya. Tapi Michael sudah tidak punya kredibilitas dalam situasi ini, karena ia memiliki tumpukan saham besar di xAI, pesaing Anthropic, dan investasi lain di perusahaan AI. Bahkan jika memperkaya diri sendiri hanya ada di pikiran belakangnya saat berdebat dengan Amodei, yang jelas di pikiran depannya adalah mencari cara untuk membuka pintu bagi penggunaan AI untuk membunuh orang dan mengawasi warga negara, jadi bukan orang yang punya kompas moral yang baik.
Kami telah mengunggah dokumen pengadilan lengkap setebal 346 halaman untuk kamu lihat di sini.