Siapa yang harus mengendalikan AI? Apakah perusahaan-perusahaan yang merilis teknologi canggih ini yang harus menentukan nasibnya? Ataukah kekuasaan itu harus ada di tangan pemerintah?
Palmer Luckey, pendiri perusahaan pertahanan Anduril—yang bertujuan memodernisasi militer AS—berpikir jawabannya sederhana: berikan kekuasaan itu kepada pemerintah. Dalam sebuah wawancara baru-baru ini dengan New York Post, pendiri miliarder itu memberikan pendapatnya dalam debat yang berkembang tentang siapa yang berhak menentukan bagaimana AI digunakan oleh pemerintah.
Bagi si miliarder, terserah pemerintah, dan karena itu, rakyat, untuk membuat keputusan penggunaan yang spesifik. Kalau tidak, perusahaan teknologi bisa membahayakan demokrasi.
“Kita perlu berpegang pada posisi bahwa ini ada di tangan rakyat,” katanya. “Siapapun yang bilang bahwa perusahaan pertahanan harus melampaui hukum, melampaui apa yang dikatakan pembuat undang-undang dan pemimpin terpilih tentang kepada siapa mereka akan bekerja atau tidak, pada dasarnya Anda mengatakan Anda tidak percaya pada eksperimen demokratis ini, bahwa Anda menginginkan ‘korporatokrasi.’”
“Dalam semua kasus, kepada siapapun pemerintah AS mengatakan saya boleh dan tidak boleh menjual,” lanjutnya, “mengambil posisi lain berarti jatuh lebih dalam… pada dasarnya eksekutif perusahaan memiliki kontrol de facto atas kebijakan luar negeri AS.”
Pemikiran Luckey muncul ketika CEO Anthropic Dario Amodei menolak mengizinkan Pentagon menggunakan sepenuhnya sistem AI-nya untuk pengawasan massal atau untuk menggerakkan senjata otonom penuh yang beroperasi tanpa pengawasan manusia. Akibatnya, Departemen Pertahanan menyebut perusahaan AI itu sebagai “risiko rantai pasokan,” sebutan yang biasanya untuk perusahaan asing yang bermusuhan, seperti Huawei dari Cina. Amodei bilang label itu tidak akan banyak pengaruh pada bisnis perusahaannya, dan mereka akan menggugat untuk membatalkan penunjukan itu. Namun, mereka masih berdiskusi dengan Pentagon mengenai penggunaan model dan alat AI-nya.
Tapi Amodei, bersama para pendiri Anthropic—yang keluar dari OpenAI bersama-sama untuk membangun perusahaan yang katanya mengutamakan keamanan AI—berpendapat bahwa permintaan Pentagon itu melewati batas. “Ancaman-ancaman ini tidak mengubah posisi kami: kami dengan hati nurani yang baik tidak dapat menuruti permintaan mereka,” kata Amodei dalam siaran pers minggu lalu.
Anthropic tidak segera menanggapi permintaan komentar dari Fortune.
Silicon Valley versus Washington
Departemen Pertahanan—dan tokoh-tokoh seperti Luckey—tidak berpikir itu ada di tangan kontraktor swasta untuk menentukan kasus penggunaan, dan malah berargumen bahwa itu ada dalam kekuasaan pemerintah. Tak lama setelah kesepakatan dengan Anthropic runtuh bulan lalu, OpenAI milik Sam Altman mencapai kesepakatan dengan Pentagon untuk mengizinkan penggunaan model dan alat AI startup itu. xAI milik Elon Musk juga mencapai kesepakatan untuk membiarkan Pentagon menggunakan AI-nya, menambah persaingan untuk kemitraan eksklusif dulu Anthropic.
Anthropic bukan perusahaan teknologi pertama yang menolak DOD. Seperti yang dicatat Luckey selama wawancara, Google meninggalkan Pentagon pada 2018, menarik diri dari Proyek Maven, yang melibatkan analisis rekaman drone AI, setelah ribuan karyawan memprotes keterlibatan dalam program itu karena takut bisa mengarah ke senjata otonom.
“Yang akan kamu dapatkan adalah dunia di mana eksekutif Silicon Valley akan memiliki kekuatan kebijakan luar negeri lebih dari presiden Amerika Serikat,” kata Luckey. “Itu sangat, sangat berbahaya.”
Bagi Luckey, ini bermuara pada apakah keputusan tingkat atas tentang penggunaan AI milik Silicon Valley atau Washington. Pandangannya adalah, terlepas dari siapa yang ada di Gedung Putih, perusahaan teknologi, dan sektor swasta secara lebih luas, memiliki tanggung jawab untuk mematuhi keputusan kebijakan luar negeri pemerintahan itu.
Tetapi bahkan ketika konflik Anthropic-Pentagon membesar, Amodei mengatakan dalam siaran pers Kamis bahwa kedua belah pihak dapat menemukan titik temu. “Anthropic memiliki lebih banyak kesamaan dengan Departemen Perang daripada perbedaan,” katanya.