Kepala staf Gedung Putih Susie Wiles rencananya akan bertemu dengan CEO Anthropic Dario Amodei untuk membicarakan model AI baru perusahaan itu, Mythos. Model ini menarik perhatian pemerintah federal karena bisa mengubah keamanan nasional dan ekonomi.
Seorang pejabat Gedung Putih, yang tidak mau disebut namanya, mengatakan pemerintahan sedang berdiskusi dengan lab AI maju tentang model dan keamanan perangkat lunak mereka. Pejabat itu menekankan bahwa teknologi baru apa pun yang mungkin dipakai pemerintah federal memerlukan masa evaluasi teknis.
Pertemuan ini terjadi setelah ketegangan memanas antara pemerintahan Trump dan Anthropic, yang sangat hati-hati soal keamanan. Anthropic berusaha memasang pengaturan dalam pengembangan AI untuk mengurangi risiko dan memaksimalkan manfaat ekonomi serta keamanan nasional bagi AS.
Presiden Donald Trump sebelumnya mencoba menghentikan semua agensi federal menggunakan chatbot Claude milik Anthropic. Ini karena perselisihan kontrak perusahaan dengan Pentagon. Trump bilang di media sosial bulan Februari bahwa pemerintahan “tidak akan berbisnis dengan mereka lagi!”
Menteri Pertahanan Pete Hegseth juga berusaha menyatakan Anthropic sebagai risiko rantai pasokan. Ini langkah yang belum pernah terjadi terhadap perusahaan AS. Anthropic telah menantang keputusan ini di dua pengadilan federal. Perusahaan itu ingin jaminan bahwa Pentagon tidak akan menggunakan teknologinya untuk senjata otonom penuh dan pengawasan warga Amerika. Hegseth bilang perusahaan harus mengizinkan penggunaan apa pun yang dianggap sah oleh Pentagon.
Hakim Distrik AS Rita Lin mengeluarkan putusan bulan Maret yang menghentikan pelaksanaan perintah Trump di media sosial yang menyuruh semua agensi federal berhenti menggunakan produk Anthropic.
Anthropic menolak berkomentar tentang pertemuan yang akan datang ini.
Anthropic yang berbasis di San Francisco mengatakan model Mythos yang diumumkan pada 7 April sangat “mampu sekali” sehingga penggunaannya dibatasi hanya untuk pelanggan terpilih. Ini karena kemampuannya melebihi pakar keamanan siber manusia dalam menemukan dan memanfaatkan kerentanan komputer.
Beberapa ahli industri mempertanyakan apakah klaim Anthropic tentang teknologi AI yang terlalu kuat ini hanya taktik pemasaran. Namun, bahkan beberapa kritikus terkeras perusahaan itu mengakui Mythos mungkin mewakili kemajuan lebih jauh dalam AI.
Salah satu kritikus Anthropic yang berpengaruh, David Sacks (mantan pejabat AI dan crypto Gedung Putih), mengatakan orang harus “menganggap ini serius.”
“Setiap kali Anthropic menakuti-nakuti orang, kamu harus tanya, ‘Apakah ini taktik? Bagian dari rutinitas mereka yang berlebihan? Atau nyata?'” kata Sacks di podcast “All-In”. “Untuk masalah siber, saya justru akan memberi mereka pujian dalam kasus ini dan mengatakan ini lebih ke sisi yang nyata.”
Sacks menambahkan, “Masuk akal bahwa ketika model pemrograman menjadi semakin mampu, mereka lebih bisa menemukan bug. Artinya mereka lebih mampu menemukan kerentanan. Itu berarti mereka lebih mampu menyambungkan beberapa kerentanan dan membuat eksploitasi.”
Potensi manfaat model ini, serta risikonya, juga menarik perhatian di luar AS.
Institut Keamanan AI Inggris mengatakan mereka sudah mengevaluasi model baru itu dan menemukannya sebagai “loncatan” dibanding model sebelumnya, yang sudah meningkat dengan cepat.
“Mythos Preview bisa mengeksploitasi sistem dengan postur keamanan lemah, dan kemungkinan besar akan ada lebih banyak model dengan kemampuan seperti ini yang dikembangkan,” kata institut itu dalam laporannya.
Anthropic juga sedang berbicara dengan Uni Eropa tentang model AI-nya, termasuk model canggih yang belum dirilis di Eropa, kata juru bicara Komisi Eropa Thomas Regnier pada hari Jumat.
Axios yang pertama melaporkan pertemuan yang dijadwalkan antara Wiles dan Amodei.
Saat mengumumkan Mythos, Anthropic mengatakan mereka juga membentuk inisiatif bernama Project Glasswing. Ini menyatukan raksasa teknologi seperti Amazon, Apple, Google, dan Microsoft, bersama perusahaan lain seperti JPMorgan Chase. Tujuannya untuk mengamankan perangkat lunak kritis dunia dari dampak “parah” yang bisa ditimbulkan model baru ini terhadap keselamatan publik, keamanan nasional, dan ekonomi.
“Kami merilisnya ke sebagian dari perusahaan dan organisasi terpenting di dunia agar mereka bisa memakai ini untuk menemukan kerentanan,” kata salah satu pendiri dan kepala kebijakan Anthropic, Jack Clark, di konferensi Semafor World Economy minggu ini.
Clark menambahkan bahwa Mythos, meskipun lebih maju, bukanlah model “khusus.”
“Akan ada sistem lain seperti ini dalam beberapa bulan dari perusahaan lain, dan dalam satu hingga satu setengah tahun lagi, akan ada model ‘open-weight’ dari China yang punya kemampuan ini,” katanya. “Jadi dunia harus bersiap untuk sistem yang lebih kuat yang akan ada di dalamnya.”
___
O’Brien melaporkan dari Providence, R.I. Reporter bisnis AP Kelvin Chan berkontribusi pada laporan ini dari London.