Di Balik Tindakan Keras Trump terhadap Anthropic | Fortune

Momen yang memicu tindakan keras pemerintahan Trump terhadap Anthropic, dan mungkin akan mengubah total aturan main regulasi AI di AS, hampir terjadi secara tidak sengaja.

Dan itu dipicu oleh salah satu investor utama Anthropic: Amazon.

Minggu lalu, peneliti di Amazon sibuk melakukan stress-test terhadap Fable 5 yang baru dirilis oleh Anthropic, yaitu versi "aman" dari model AI Mythos milik Anthropic. Anthropic berulang kali mengatakan bahwa model-model kelas Mythos mereka memiliki kemampuan peretasan perangkat lunak yang superhuman dan terlalu berbahaya untuk dirilis ke publik. Fable 5, yang dirilis Anthropic pada 9 Juni, dilengkapi dengan pengaman yang kuat terhadap risiko keamanan siber.

Namun, peneliti Amazon yang menguji Fable menemukan sebuah "jailbreak" yang mereka dokumentasikan memungkinkan pengguna untuk melewati batasan keamanan dan mengakses informasi yang bisa digunakan dalam serangan siber. Amazon segera memberi tahu Anthropic. Tetapi situasinya tiba-tiba meningkat ketika CEO Amazon, Andy Jassy, kebetulan sedang dalam panggilan telepon yang sudah dijadwalkan dengan pejabat Gedung Putih pada Kamis lalu, 11 Juni, mengenai topik yang tidak terkait, menurut dua sumber yang mengetahui masalah ini. Jassy membahas kerentanan yang ditemukan timnya, dan pejabat Gedung Putih mendorongnya untuk melaporkan masalah itu langsung kepada Menteri Keuangan Scott Bessent, kata sumber tersebut.

Jassy berbicara dengan Bessent pada hari yang sama. Dia memberi tahu menteri keuangan tentang jailbreak Fable tetapi juga menekankan bahwa dia khawatir tentang kemampuan siber dari semua model AI frontier, termasuk dari laboratorium lain. Bessent telah memimpin tanggapan pemerintah terhadap model Mythos milik Anthropic, terutama karena ancaman serangan siber yang didukung Mythos terhadap sistem keuangan global. Panggilan teleponnya dengan Jassy memicu serangkaian peristiwa yang dengan cepat menjadi berita internasional.

Pada Jumat malam, hanya empat hari setelah peluncuran Fable, Menteri Perdagangan AS Howard Lutnick telah menjatuhkan kontrol ekspor yang belum pernah terjadi sebelumnya kepada Anthropic, memaksa laboratorium itu untuk menarik modelnya yang paling kuat. Langkah ini menandai pertama kalinya pemerintah AS turun tangan untuk secara eksplisit membatasi perilisan model AI frontier, yang memicu gelombang kekhawatiran teknologi dan politik di seluruh dunia. Sejak itu, para ahli keamanan siber, pemikir kebijakan AI, pejabat AS, dan pemerintah asing dengan sengit memperdebatkan konsekuensinya, bertanya-tanya apakah keputusan berat pemerintahan Trump itu menetapkan preseden berbahaya, atau merupakan bentuk kehati-hatian yang bijaksana.

Panggung untuk keputusan penting ini telah disiapkan berbulan-bulan sebelumnya, ketika pemerintahan Trump berselisih dengan Anthropic masalah terpisah yang melibatkan kontraknya dengan Pentagon, sebuah pertengkaran yang memperdalam permusuhan yang berkembang terhadap perusahaan AI San Francisco itu di kalangan pejabat kebijakan teknologi di lingkaran Trump. Hal ini semakin dipicu oleh kekhawatiran yang meningkat di dalam badan keamanan nasional ketika Anthropic mulai memperluas akses ke Mythos ke daftar perusahaan yang lebih luas.

Bagi Anthropic, yang baru saja menutup putaran pendanaan $65 miliar dengan valuasi $965 miliar dan telah mengajukan dokumen untuk mendaftarkan sahamnya di pasar publik, kontrol ekspor ini merupakan ancaman eksistensial di saat para pesaing seperti OpenAI, SpaceX, dan Google bersaing secara agresif untuk mendominasi bisnis AI.

Banyak detail dari pertarungan selama seminggu antara Anthropic dan pemerintahan Trump masih muncul, dan upaya untuk menyelesaikan situasi masih berubah. Fortune berbicara dengan lebih dari setengah lusin orang yang terlibat di berbagai sisi situasi untuk menyusun bagaimana hal itu terjadi dan apa artinya ke depan.

Ultimatum, dan Rentetan Panggilan Panik

Pada hari Jumat, setelah panggilan telepon Jassy dengan Bessent, pemerintah menghubungi Anthropic dan CEO-nya, Dario Amodei, menuntut mereka memperbaiki jailbreak atau menghapus model dari pasar. Menurut sumber yang mengetahui Anthropic, peringatan itu datang tanpa komunikasi atau indikasi sebelumnya dari pemerintah bahwa pihaknya menganggap ekspor Fable sebagai ancaman keamanan nasional. Meskipun tidak ada peringatan, Departemen Perdagangan mengeluarkan batas waktu 90 menit, diikuti dengan kontrol ekspor ketat yang melarang warga negara asing menggunakan perangkat lunak tersebut, sebuah arahan yang ditafsirkan Anthropic sebagai larangan efektif terhadap model itu sendiri.

Itu karena pemerintah menggunakan standar "deemed export" yang menafsirkan distribusi model AI kepada warga negara asing, termasuk mereka yang secara fisik berada di AS, sebagai padanan dengan mengekspor model tersebut. Standar itu akan berlaku bahkan untuk karyawan Anthropic sendiri yang bukan warga AS. Lebih parahnya lagi, Anthropic tidak memiliki cara efektif untuk memverifikasi kewarganegaraan penggunanya.

Ultimatum itu memicu rentetan panggilan panik antara Anthropic dan Gedung Putih. Anthropic mempertahankan bahwa jailbreak itu relatif sederhana dan bisa dengan mudah dicapai menggunakan model lain yang tersedia, kata sumber itu. Namunargumen itu gagal mempengaruhi pejabat pemerintah, yang menegaskan bahwa bypass itu membuka kemampuan siber yang berbahaya.

Sebuah surat resmi dari Lutnick, yang departemennya mengawasi kontrol ekspor, tiba setelah pukul 17:00 Waktu Timur pada hari Jumat, memberi tahu perusahaan itu bahwa perusahaan itu memerlukan persetujuan pemerintah sebelum membuat model Fable 5 dan Mythos 5 tersedia untuk pengguna di luar negeri atau warga negara asing di mana pun di dunia. Lutnick memperingatkan bahwa ketidakpatuhan dapat mengakibatkan hukuman pidana dan perdata, menurut salinan arahan yang diperoleh Bloomberg News.

Pada pukul 22:00 malam itu, Anthropic telah menonaktifkan Fable 5 dan Mythos 5.

"Kami tidak setuju bahwa ditemukannya celah jailbreak yang sempit seharusnya menjadi alasan untuk menarik model komersial yang digunakan oleh ratusan juta orang," tulis perusahaan itu dalam posting blognya setelah menonaktifkan model tersebut. "Jika standar ini diterapkan di seluruh industri, kami yakin itu pada dasarnya akan menghentikan semua penyebaran model baru untuk semua penyedia model frontier."

Juru bicara Anthropic menambahkan bahwa kedua belah pihak bekerja cepat untuk menyelesaikan masalah. Perwakilan untuk Gedung Putih tidak menanggapi beberapa permintaan komentar.

Kisah ini berlanjut hingga akhir pekan dan minggu ini. Pada hari Minggu, staf teknis senior Anthropic telah tiba di D.C. untuk bertemu langsung dengan pejabat Gedung Putih, kata sumber yang mengetahui Anthropoc.

"Pemerintah menghargai kemampuan teknis Anthropic dan merasa bahwa masalah ini, meskipun serius, harus dapat diselesaikan dengan mudah," tulis David Sacks, seorang kapitalis ventura yang menjabat sebagai penasihat di Pemerintahan Trump, di X selama akhir pekan. "Bola sekarang ada di tangan Anthropic."

Tetapi pada hari Selasa, menurut Fortune, pembicaraan itu berakhir dengan kontrol ekspor masih berlaku dan langkah selanjutnya tidak jelas. Kedua belah pihak menemui jalan buntu.

Reaksi Industri

Sementara masa depan langsung Fable masih tidak jelas, banyak ahli keamanan siber membela Anthropic. Mereka memperingatkan bahwa lisensi pemerintah terhadap model AI akan membuat laboratorium AS kurang kompetitif dan memungkinkan saingan geopolitik seperti China masuk.

"Apa pun yang menghentikan evolusi dan pengembangan teknologi hanya akan membuat AS tertinggal," kata Danny Jenkins, CEO perusahaan keamanan siber ThreatLocker, kepada Fortune. "Penjahat tidak peduli apakah mereka diizinkan mengekspor sesuatu dari AS atau tidak."

Dalam sebuah demo minggu ini, Jenkins mengatakan dia menggunakan model Claude milik Anthropic, yang dianggap tidak sekuat Fable atau Mythos, untuk "meransomware sepenuhnya sebuah mesin." Model itu sendir tentu saja mengindentifikasinya sebagai ransomware teks book. Tapi, kata Jenkins, kerentanan pada akhirnya akan terungkap, baik oleh manusia atau model AI. Model AI hanya melakukannya lebih cepat. Dia menyarangkan fokus pemerintah haruslah pada penguatan keamanan dan menciptakanlingkungan ‘zero trust’, daripada berusaha mengawasi keberadaan sebuah model.

Ahli hukum juga mempertanyakan logika kontrol ekspor. Charlie Bullock, seorang peneliti senior untuk UU Badan dan Tim Kepenitian di LawAI, mengatakan ke Fortune bahwa surat Lutnick ber dallalis pada otoritas yang tidak pernah dir ANC; dimaksudkannya untuk diakses oleh systemke AI akses ‘k sel umum,Terlebih ketika ur lan hanya Mengaiandalkan; Model,dengan ampi berbagai Macáman c; Bag jangkainya digunakan Model’ ng untuk en da komunik et antar prot computer quisi.

Amazon,Jujp: > {jaw ac ini Pats untuk Foto } > Sum foto @: g:/, d;) ”.
Ist maka: quos ^\

Pej:

Se jer, .”
(;
mengenal ket. Dan ida

Wal } se;
h):

sum ba ar.,.
W: . dan.. skem:…

<<
Ce.”

Ih, as:

.M:…” sE onskrip d for di:

-.

/ ‘>

Dari)

(O;

Dim,:H>;

< Iam,ilS5’

Sia:I">.

ing:
– a I.)
)

(Fu:.};

<0is \’.:

j>
pl di\,um;

.)

: <”
:/:
/d. Ti.>
};;; I/_
, jMleke}

</.. en dan.) =as)

Tipe: jamin. t>

)

T:</,(

“S..]:)/>.

(‘(di;.
c,. )()

Tng teketang );

ha >

(

=…
}
a.)

.”? ‘ … m). ):,,, ng….

(.):) .

Di su ,.
F-)ti/.

{
.x;. >

itu : …/ >

A,P,S te/;/sI hroH ini tidak her)

i =
/>I/ … i}
: \alIhu>s;

);

<d

“…/>.

L)
<5

pu

Ka :eng j,mungk)Ke am ma :..
M.m/ ,”{umC);

un ;., (.. …(“tadang,;

.Tur,…:.,g;

}o );(a?F

L./5:|I }:U(<5……

i M t(}(<An. a</…,. [tl(eTh su… />lh>. mu(< ed =.{”

So ).

Ikat.>.f

Ja:(,;
..ny. y
pada:!:in,. dan .
ng”). D….”k.]a…er:,. :.),ikT(li>{).ngan )

\
[
T.seak Itr)a s]. Dari()

pada. la\… ()

Ai ]
Ma.

].),{
(

);

})<br /> <br /> …(;<br /> }.<br /> cai,\ke<br /> }.<br /> P. ”(M ;anj ur ”),<br /> <br /> “;<br /> <br /> . Ulan J . .<br /> <br /> (<br /> ;}<br /> <br /> Xe//),kan…<br /> <br /> .,d}<br /> un ]);<br /> <br /> }, <<..<br /> w:<br /> in]\ te…”)<br /> ini untuk\ di .. .thke ];}< Ja=”".>( M L.<....um..:an]:\pa:<br /> \{ ]1….</ ~.,=<br /> p…,( …,\.uk )<br /> <br /> <br /> (s].<br /> ):<br /> “ha.] .<br /> <br /> [ak] . {<br /> ]); <br /> (Bro.m);<br /> M:da kan).],<br /> ka }”…<br /> W=”.<br /> <br /> -.].toI pan;. ja>\}. Pa}.<br /> (tg,4.Io’. Cang) w r.<br /> < / di],\; Uu.\ Lc \9 pada”);<br /> r\t].. x”? dit..}. nt,<br /> <br /> i“+.<br /> <br /> <br /> t ]ua ini a].: <br /> -:, i }iH ;di). ;<br /> G\] A:a.’ (<br /> [] ke . aha,…… {iS] hal]:]::sa”<br /> ().];<br /> <br /> da,”f da] q.y: ay },<br /> ka}:] …,/ ini..<br /> \=:Ia….
(:k]((({en ang}}:
…)’

L jadi]);
.,w bka m:.],.;R)
.tuk} pe[]” ,,(c

p(An/:V enmS ,.,

:.

dal;;a a.
i[
].

P.k], Au
ne danil].