Selamat datang di Eye on AI, bersama reporter AI Sharon Goldman. Di edisi ini… bagaimana AI membuat serangan siber jadi murah bagi peretas… anggota parlemen AS bilang Nvidia bantu DeepSeek asah model AI yang kemudian dipakai militer China… Dow Chemical akan PHK 4.500 karyawan karena perubahan AI… Rencana Anthropic untuk memindai dan membuang jutaan buku.
Salah satu hal yang terus saya perhatikan dalam AI adalah pengaruhnya pada keamanan siber. Dua bulan lalu di Eye on AI, saya kutip pemimpin keamanan yang bilang situasi sekarang "suram", karena bisnis kesulitan mengamankan sistem di dunia di mana agen AI tidak cuma menjawab pertanyaan, tapi bertindak sendiri.
Minggu ini, saya berbicara dengan Gal Nagli, kepala eksposur ancaman di startup keamanan cloud Wiz senilai $32 miliar, dan Omer Nevo, pendiri dan CTO di Irregular, lab keamanan AI yang didukung Sequoia dan bekerja dengan OpenAI, Anthropic, serta Google DeepMind. Wiz dan Irregular baru saja menyelesaikan studi bersama tentang ekonomi sebenarnya di balik serangan siber yang digerakkan AI.
Serangan siber bertenaga AI dengan harga murah
Mereka temukan bahwa peretasan bertenaga AI jadi sangat murah. Dalam tes mereka, agen AI menyelesaikan tantangan keamanan ofensif yang canggih dengan biaya model bahasa besar di bawah $50 — tugas yang biasanya butuh hampir $100.000 jika dilakukan peneliti manusia yang dibayar untuk cari celah sebelum kriminal. Dalam skenario terkontrol dengan target jelas, agen-agen itu selesaikan 9 dari 10 serangan yang dimodelkan dari dunia nyata, menunjukkan bahwa banyak pekerjaan keamanan ofensif sudah menjadi cepat, murah, dan otomatis.
"Bahkan bagi banyak profesional berpengalaman yang sudah lihat AI dan keamanan siber, ini benar-benar mengejutkan. Kami pikir AI tidak akan bisa melakukan hal-hal tertentu, tapi ternyata model-model itu bisa," kata Nevo, yang menambahkan bahwa bahkan dalam beberapa bulan terakhir ada lompatan besar kemampuan. Salah satunya adalah model AI bisa tetap fokus pada tantangan multi-tahap tanpa kehilangan arah atau menyerah. "Kami lihat semakin banyak model yang bisa selesaikan tantangan tingkat ahli sejati, bahkan untuk profesional keamanan siber ofensif," ujarnya.
Ini masalah khusus sekarang, karena di banyak organisasi, profesional non-teknis, seperti di pemasaran atau desain, membuat aplikasi hidup dengan alat coding yang mudah diakses seperti Claude Code dari Anthropic dan Codex dari OpenAI. "Mereka bukan insinyur," jelas Nagli. "Mereka tidak tahu apa-apa tentang keamanan, mereka hanya kembangkan aplikasi baru sendiri, dan mereka gunakan data sensitif yang terbuka di internet publik, lalu aplikasi itu jadi sangat mudah dieksploitasi," katanya. "Ini membuat area serangan menjadi sangat luas."
Biaya bukan masalah lagi bagi peretas
Riset menunjukkan permainan kucing-tikus keamanan siber tidak lagi dibatasi biaya. Kriminal tidak perlu hati-hati pilih target jika agen AI bisa menyelidiki dan eksploitasi sistem hanya dengan beberapa dolar. Dalam lanskap ekonomi baru ini, setiap sistem yang terbuka layak dicoba.
Dalam kondisi dunia nyata yang lebih realistis, peneliti lihat penurunan kinerja dan biaya jadi dua kali lipat. Tapi kesimpulan utamanya tetap: serangan jadi lebih murah dan cepat untuk diluncurkan. Dan kebanyakan perusahaan masih bertahan seolah-olah setiap serangan serius butuh tenaga manusia yang mahal.
"Jika kita sampai pada titik di mana AI bisa lakukan serangan canggih, dan itu bisa dilakukan dalam skala besar, tiba-tiba banyak lebih orang akan terekspos, dan itu berarti [bahkan di] organisasi kecil orang akan perlu punya kesadaran keamanan siber yang jauh lebih baik daripada sekarang," kata Nevo.
Di waktu yang sama, itu berarti menggunakan AI untuk pertahanan akan jadi kebutuhan kritis, katanya, yang menimbulkan pertanyaan: "Apakah kita bantu pihak bertahan gunakan AI cukup cepat untuk bisa mengimbangi apa yang pelaku ofensif sudah lakukan?"
Dengan itu, ini berita AI lainnya.
Sharon Goldman
[email protected]
@sharongoldman
FORTUNE ON AI
‘Politik baru listrik’: Perusahaan utilitas minta kenaikan tarif $31 miliar saat pemilih memberontak atas tagihan melonjak – oleh Jordan Blum
Bagaimana kepala desain pertama Samsung meremajakan raksasa elektronik untuk era AI – oleh Nicolas Gordon
Meta unggul pendapatan Q4 sementara Mark Zuckerberg prediksi ‘akselerasi AI besar’ di 2026—dengan belanja modal hingga $135 miliar – oleh Sharon Goldman
Waabi kumpulkan hingga $1 miliar dan bermitra dengan Uber untuk luncurkan 25.000 robotaksi saat persaingan kuasai mobil otonom memanas – oleh Jeremy Kahn
Bos SAP Christian Klein telah lihat masa depan AI: Apa yang kamu ucapkan akan lebih penting dari apa yang kamu ketik – oleh Kamal Ahmed
AI IN THE NEWS
DeepMind buka akses ke AI pembangun dunianya dengan Project Genie. Google DeepMind tawarkan akses awal ke Project Genie, prototipe eksperimental yang izinkan pengguna buat dan jelajahi dunia interaktif buatan AI secara waktu nyata. Diluncurkan hari ini untuk pelanggan Google AI Ultra di AS, alat berbasis web ini ditenagai Genie 3 dan izinkan orang membuat sketsa lingkungan dengan teks atau gambar, jelajahi saat mereka berkembang dinamis, dan gabungkan dunia yang ada jadi baru. Tidak seperti adegan 3D statis, Genie hasilkan apa yang ada di depan saat kamu bergerak, mensimulasikan fisika dan interaksi dengan cepat—sebuah langkah menuju sistem serba guna yang DeepMind percaya diperlukan untuk AGI. Perusahaan menyatakan Project Genie sebagai taman bermain kreatif dan tempat uji riset untuk pahami bagaimana orang mungkin gunakan model dunia di berbagai media, simulasi, dan pengembangan AI, sambil akui keterbatasan seperti jendela pembuatan pendek dan realisme yang tidak sempurna.
Anggota parlemen AS bilang Nvidia bantu DeepSeek asah model AI yang kemudian dipakai militer China. Menurut surat yang dilihat Reuters, anggota parlemen AS mengatakan bahwa Nvidia berikan bantuan teknis ke startup AI China DeepSeek yang bantu DeepSeek tingkatkan efisiensi modelnya—memungkinkan mereka dilatih dengan jam GPU yang jauh lebih sedikit daripada tipikal AS. TENTANG KECERDASAN BUATAN
Model teknologi canggih dikabarkan digunakan oleh militer Tiongkok. Hal ini menimbulkan kekhawatiran baru soal transfer teknologi AI ke Beijing. Wakil John Moolenaar, ketua Komite Khusus DPR untuk Tiongkok, menyebutkan dokumen internal Nvidia. Dokumen itu menunjukkan insinyur mereka membantu mengoptimalkan algoritma dan perangkat keras. Dia berpendapat kejadian ini menunjukkan perlunya kontrol ekspor yang lebih ketat. Ini untuk mencegah teknologi AI Amerika digunakan ulang untuk keperluan militer oleh pihak yang mungkin bermusuhan. Nvidia membalas bahwa tidak masuk akal jika militer Tiongkok bergantung pada teknologi AS. Departemen Perdagangan dan DeepSeek tidak memberikan komentar.
Dow Chemical akan PHK 4.500 karyawan dalam perubahan besar pakai AI. Wall Street Journal melaporkan Dow Chemical akan mengurangi 4.500 pekerjaan. Ini adalah bagian dari usaha penghematan biaya besar-besaran yang sangat mengandalkan AI dan otomatisasi. Tujuannya untuk meningkatkan produktivitas dan laba. Perusahaan ini sedang menghadapi kerugian triwulanan yang meluas karena pendapatan lebih rendah dan biaya lebih tinggi. Program "Transform to Outperform" diperkirakan akan menghasilkan tambahan $2 miliar laba operasi. Program ini juga akan memerlukan biaya satu kali $1,1 hingga $1,5 miliar, termasuk hingga $800 juta untuk pesangon. CEO Jim Fitterling menyebut rencana ini sebagai "penyederhanaan operasi Dow yang komprehensif dan radikal." Langkah ini terjadi di tengah gelombang PHK korporat yang lebih luas—dari Amazon hingga UPS—karena perusahaan mengalihkan pengeluaran ke AI dan teknologi.
Rencana Startup AI untuk memindai dan membuang jutaan buku. Cerita menarik dari Washington Post ini merinci dokumen pengadilan yang baru dibuka. Dokumen itu mengungkap bahwa pada awal 2024, Anthropic diam-diam meluncurkan usaha internal bernama "Proyek Panama." Tujuannya adalah "memindai secara merusak semua buku di dunia," dengan menghabiskan puluhan juta dolar untuk membeli jutaan buku fisik, memotong punggungnya, dan memindaikannya untuk melatih model seperti Claude. Dokumen-dokumen ini, dirilis sebagai bagian dari gugatan hak cipta yang diselesaikan dengan $1,5 miliar, memberikan gambaran langka tentang bagaimana perusahaan AI secara agresif mengejar data berkualitas tinggi, terutama buku. Para eksekutif percaya buku dapat mengajarkan model untuk "menulis dengan baik" bukan meniru "bahasa internet berkualitas rendah." Dokumen itu menyebutkan bahwa Anthropic, Meta, dan lab besar lain melihat lisensi skala besar tidak praktis. Mereka malah mencari akses borongan tanpa pengetahuan penulis, dalam beberapa kasus dengan mengunduh koleksi bajakan seperti LibGen—meski ada peringatan internal tentang legalitas. Bersama dengan kasus hak cipta lain, pengungkapan ini menekankan bagaimana perlombaan AI modern didorong oleh perebutan data tertulis manusia yang tergesa-gesa dan seringnya rahasia.
ANGKA-ANGKA AI
$211 miliar
Itulah jumlah investasi ventura yang mengalir ke AI pada tahun 2025. Jumlah ini adalah 50% dari semua modal ventura global, menurut Laporan Pendanaan AI 2026 dari HumanX dan Crunchbase.
Poin penting lain dari laporan itu:
- Perusahaan dengan setidaknya satu pendiri perempuan mengamankan 47% ($84,7B) dari semua pendanaan AI di Amerika Utara dan Eropa.
- 77% dari total pendanaan AI, atau $163 miliar, berasal dari putaran pendanaan $100 juta atau lebih.
- 59% investasi berfokus AI mengalir ke ekosistem pendukung, termasuk infrastruktur (19%), teknologi dalam/robotika (11%), dan perangkat lunak berbasis AI untuk kesehatan dan keamanan (15%).
KALENDER AI
- 10-11 Februari: KTT Aksi AI, New Delhi, India.
- 2-5 Maret: Kongres Dunia Seluler, Barcelona, Spanyol.
- 16-19 Maret: Konferensi Teknologi Nvidia (GTC), San Jose, California.
- 6-9 April: Konferensi HumanX, San Francisco.