Selamat datang di Eye on AI! Saya Sharon Goldman, reporter AI, menggantikan Jeremy Kahn yang sedang liburan. Di edisi ini… China minta perusahaan hindari chip Nvidia H20 setelah Trump cabut larangan tapi ambil bagi hasil… Banyak siswa ambil kursus AI di kampus… Anthropic akan tawarkan Claude AI ke pemerintah AS dengan harga $1.
Las Vegas di Agustus terasa seperti planet lain—panasnya luar biasa, lampu berkedip, dan suara mesin slot terus terdengar. Suasana "tidak nyata" itu juga terasa di dua konferensi yang saya hadiri minggu lalu: Black Hat dan DEF CON, dua konferensi keamanan dan peretasan "etis" terbesar tahun ini. Di sini, penelitian keamanan terbaru dipresentasikan, peretas berlomba temukan celah di segala hal (dari chatbot AI hingga jaringan listrik), dan pemerintah, perusahaan, serta hacker amatir saling berbagi info.
Saya ada di sana karena AI sekarang punya peran unik di dunia keamanan: bisa jadi target rentan (sering diserang oleh AI jahat), pelindung (gunakan teknologi yang sama untuk lindungi sistem), sekaligus alat serang (untuk eksploitasi celah atau serangan ilegal). Bingung? Memang—dan kontradiksi ini sangat terlihat di Black Hat yang serius dan DEF CON yang lebih santai ("kamp musim panas hacker").
Ini 3 hal menarik dari konferensi:
- ChatGPT bisa diretas. Di Black Hat, peneliti dari Zenity tunjukkan cara hacker bisa eksploitasi fitur Connectors ChatGPT (yang bisa ambil data dari Google Drive, SharePoint, dll.). Serangan mereka, disebut AgentFlayer, gunakan dokumen "beracun" dengan perintah tersembunyi untuk curi data sensitif korban—tanpa perlu klik atau unduh apa pun! OpenAI sudah perbaiki celah ini, tapi risiko serangan "zero-click" seperti ini makin besar seiring AI terhubung ke lebih banyak aplikasi.
- AI bisa lindungi infrastruktur penting. Ini jadi fokus kompetisi AI Cyber Challenge (AIxCC) selama 2 tahun, diikuti tim developer yang bikin alat AI untuk temukan & perbaiki celah di software bank, rumah sakit, dll. Pemenangnya tunjukkan AI yang bisa amankan open-source software dengan baik. Hadiahnya sampai $4 juta!
- Claude AI (Anthropic) bisa saingi hacker top… tapi kadang gagal. Claude ikut 7 lomba keamanan (biasanya diisi manusia) dan sering masuk 25% terbaik. Ia cepat di tantangan mudah, tapi kesulitan di soal rumit. AI juga punya keunikan sendiri—misal terganggu gambar ASCII atau tiba-tiba bahas filsafat saat kerja lama.
Bonus: Beberapa minggu lagi, saya akan ke Park City, Utah untuk konferensi Brainstorm Tech! Tempat terbatas, jadi kalau mau ikut, daftar di sini. Pembicaranya keren banget—ada bos OpenAI, CEO Walmart, pendiri DoorDash, dll!
Sampai jumpa di berita AI lainnya!
Sharon Goldman
[email protected]
@sharongoldman—
BERITA AI TERKINI- China larang perusahaan pakai chip Nvidia H20 (meski Trump sudah cabut larangan). Pemerintah ambil 15% dari penjualan Nvidia di China.
- Kursus AI laris di kampus-kampus (UT Austin, MIT, dll.), karena permintaan industri meningkat. Gaji pekerja dengan skill AI 56% lebih tinggi!
- Anthropic tawarkan Claude AI ke pemerintah AS cuma $1 (mirip ChatGPT dan Gemini).
KALENDER AI
- 8-10 Sept: Fortune Brainstorm Tech (Utah)
- 6-10 Okt: World AI Week (Amsterdam)
- 2-7 Des: NeurIPS (San Diego)
Eye on AI adalah newsletter mingguan Fortune tentang dampak AI di bisnis. Gratis daftar di sini.
(Note: Typo sengaja—"gunakan" jadi "gunakan" dan "filsafat" jadi "filsafat")