Selamat datang di Eye on AI, bersama reporter AI Sharon Goldman. Di edisi ini… Mark Zuckerberg dan Priscilla Chan telah mengubah struktur filantropi mereka untuk fokus pada AI dan sains… Apple katanya sedang menyelesaikan kesepakatan untuk membayar Google sekitar $1 miliar per tahun untuk menggunakan model AI dengan 1,2 triliun parameter guna memperbarui Siri… CFO OpenAI, Sarah Friar, menjelaskan komentarnya, katanya perusahaan tidak mencari jaminan dari pemerintah.
Sebagai istri dari seorang profesional keamanan siber, saya selalu memperhatikan bagaimana AI mengubah permainan bagi mereka yang di garis depan digital—membuat pekerjaan mereka lebih sulit sekaligus lebih pintar. Saya sering bercanda dengan suami saya bahwa "kami membutuhkannya di tembok itu" (mengacu pada monolog terkenal Jack Nicholson di A Few Good Men), jadi saya selalu mengikuti bagaimana AI mengubah pertahanan dan serangan keamanan.
Karena itu, saya penasaran untuk melakukan Zoom dengan pendiri dan CEO startup keamanan AI Cyera, Yotam Segev, dan Zohar Wittenberg, manajer umum bisnis keamanan AI Cyera. Bisnis Cyera, tidak mengejutkan, sedang booming di era AI—pendapatan tahunan berulang mereka telah melebihi $100 juta dalam kurang dari dua tahun dan valuasi perusahaan kini di atas $6 miliar—berkat permintaan yang melonjak dari perusahaan-perusahaan yang ingin mengadopsi alat AI tanpa membocorkan data sensitip atau melanggar risiko keamanan baru. Perusahaan ini ada di daftar Cyber 60 Fortune terbaru dan kliennya termasuk AT&T, PwC, dan Amgen.
"Saya memikirkannya sedikit seperti Levi’s di demam emas," kata Segev. Sama seperti para pencari emas butuh celana jeans yang bagus, setiap perusahaan perlu mengadopsi AI dengan aman, jelasnya.
Perusahaan itu juga baru saja meluncurkan lab penelitian baru untuk membantu perusahaan mengatasi risiko keamanan yang berkembang cepat akibat AI. Timnya mempelajari bagaimana data dan sistem AI benar-benar berinteraksi di dalam organisasi besar—melacak di mana informasi sensitif berada, siapa yang bisa mengaksesnya, dan bagaimana alat AI baru mungkin membocorkannya.
Saya harus akui saya terkejut mendengar Segev menggambarkan keadaan keamanan AI saat ini sebagai "suram," membuat para CISO—chief information security officer—terjepit. Salah satu masalah terbesar, kata dia dan Wittenberg, adalah karyawan menggunakan alat AI publik seperti ChatGPT, Gemini, Copilot, dan Claude tanpa persetujuan perusahaan atau dengan cara yang melanggar kebijakan—seperti memasukkan data sensitif atau yang diatur ke sistem eksternal. Para CISO, pada gilirannya, menghadapi pilihan sulit: memblokir AI dan memperlambat inovasi, atau mengizinkannya dan mempertaruhkan kebocoran data besar-besaran.
"Mereka tahu mereka tidak akan bisa bilang tidak," kata Segev. "Mereka harus mengizinkan AI masuk, tetapi kontrol visibilitas dan mitigasi yang ada saat ini jauh tertinggal dari yang mereka butuhkan." Organisasi yang diatur di industri seperti kesehatan, layanan keuangan, atau telekomunikasi sebenarnya punya posisi lebih baik untuk memperlambat hal-hal, jelasnya: "Saya bertemu dengan seorang CISO untuk sebuah perusahaan telekomunikasi global minggu ini. Dia bilang, ‘Saya menolak. Saya menahan mereka. Saya belum siap.’ Tapi dia punya hak itu, karena dia adalah entitas yang diatur, dan dia punya posisi itu di perusahaan. Kalau kamu lihat perusahaan di bawahnya, yang kurang diatur. Mereka justru terinjak-injak."
Untuk saat ini, kata Wittenberg, perusahaan belum dalam bahaya besar karena kebanyakan alat AI belum sepenuhnya otonom. "Itu masih sistem pengetahuan saat ini—kamu masih bisa mengendalikannya," jelasnya. "Tapi begitu kita mencapai titik di mana agen mengambil tindakan atas nama manusia dan mulai berbicara satu sama lain, jika kamu tidak melakukan apa-apa, kamu dalam masalah besar." Dia menambahkan bahwa dalam beberapa tahun ke depan, agen AI semacam itu akan digunakan di seluruh perusahaan.
"Semoga dunia akan bergerak pada kecepatan di mana kita bisa membangun keamanan untuk itu tepat waktu," katanya. "Kami berusaha memastikan bahwa kami siap, sehingga kami bisa membantu organisasi melindunginya sebelum menjadi bencana."
Seram, kan? Meminjam dari A Few Good Men lagi, saya bertanya-tanya apakah perusahaan bisa benar-benar menerima kenyataan: dalam hal keamanan AI, mereka butuh semua bantuan yang mereka bisa dapatkan di tembok itu.
Juga, momen promosi diri kecil: Kemarin saya menerbitkan profil mendalam Fortune baru tentang Greg Brockman dari OpenAI — sang insinyur yang menjadi power broker di balik misi infrastruktur AI triliun dolar mereka. Ceritanya luar biasa, semoga kamu membacanya! Itu salah satu cerita favorit saya yang saya kerjakan tahun ini.
Dengan itu, ini berita AI lainnya.
Sharon Goldman
[email protected]
@sharongoldman
FORTUNE ON AI
- Meet the power broker of the AI age: OpenAI’s ‘builder-in-chief’ helping to turn Sam Altman’s trillion-dollar data center dreams into reality–by Sharon Goldman
- Microsoft, freed from relying on OpenAI, joins the race for ‘superintelligence’—and AI chief Mustafa Suleyman wants to ensure it serves humanity–by Sharon Goldman
- The under-the-radar factor that helped Democrats win in Virginia, New Jersey, and Georgia–by Sharon Goldman
- Exclusive: Voice AI startup Giga raises $61 million to take on customer service automation–by Beatrice Nolan
- OpenAI’s new safety tools are designed to make AI models harder to jailbreak. Instead, they may give users a false sense of security–by Beatrice Nolan
AI IN THE NEWS
Mark Zuckerberg dan Priscilla Chan telah mengubah struktur filantropi mereka untuk fokus pada AI dan sains. The New York Times melaporkan hari ini bahwa filantropi Mark Zuckerberg dan Priscilla Chan, Chan Zuckerberg Initiative, memfokuskan semua sumber dayanya pada AI. Tentang CZI
Dulu dikenal punya rencana besar untuk perbaiki pendidikan dan ketidaksetaraan sosial, CZI sekarang umumkan perubahan besar. Mereka akan fokus pada penelitian sains pakai AI lewat organisasi baru, Chan Zuckerberg Biohub Network. Mereka bahkan ambil alih tim dari startup AI Evolutionary Scale. Ilmuwan utama mereka, Alex Rives, jadi kepala ilmuwan di CZI.Ini seperti pulang kampung buat Rives. Tahun lalu, dia cerita bahwa dia pernah pimpin tim "AI protein" di Meta. Tim itu dibubarkan pada Agustus 2023 karena efisiensi yang buat 20.000 lebih orang dipecat. Tapi, dia tidak menyerah. Dia langsung buat startup Evolutionary Scale dengan mantan koleganya dari Meta. Mereka lanjutkan kerja membuat model bahasa besar yang tidak untuk buat teks atau gambar, tapi untuk buat resep protein baru.
Apple dan Google
Apple katanya lagi selesaikan kesepakatan untuk bayar Google sekitar $1 miliar per tahun. Mereka mau pakai model AI Google yang sangat besar untuk perbarui Siri. Menurut Bloomberg, Apple sudah pilih teknologi Google setelah uji coba model dari perusahaan lain.Kerjasama ini beri Apple akses ke infrastruktur AI Google yang besar. Ini akan bantu buat Siri yang lebih pintar dan bisa ngobrol, dengan fitur baru rencananya datang musim semi depan. Kedua perusahaan tidak mau beri komentar.
Meski katanya ini hanya solusi sementara sampai model AI Apple sendiri sudah kuat, ada yang pertanyakan apakah ini artinya Apple sudah menyerah untuk saingin teknologi AI sendiri untuk Siri.
Klarifikasi dari OpenAI
CFO OpenAI, Sarah Friar, klarifikasi komentarnya. Dia bilang perusahaannya tidak cari jaminan dari pemerintah untuk pembangunan infrastrukturnya yang besar. Dia tarik kembali pernyataan yang dia buat di acara Wall Street Journal.Friar bilang komentarnya tentang jaminan federal itu bikin bingung. Maksudnya adalah AS dan sektor swasta harus sama-sama investasi di AI sebagai aset strategis nasional.
Klarifikasi ini datang saat OpenAI dapat pengawasan tentang cara mereka biayai lebih dari $1,4 triliun untuk pusat data dan chip, padahal pendapatan tahun ini sekitar $13 miliar. CEO Sam Altman tidak khawatir dan bilang infrastruktur AI adalah dasar kekuatan teknologi Amerika.
Kalender AI
- 10-13 Nov: Web Summit, Lisbon.
- 19 Nov: Laporan keuangan kuartal ketiga Nvidia.
- 26-27 Nov: World AI Congress, London.
- 2-7 Des: NeurIPS, San Diego.
- 8-9 Des: Fortune Brainstorm AI, San Francisco. Daftar di sini.
Angka Terkait AI
82%
Itu persentase Chief Information Security Officer (CISO) yang dapat tekanan dari dewan atau eksekutif untuk tingkatkan efisiensi pakai otomatisasi AI.Temuan lain:
- 59% CISO bilang mereka lebih takut serangan AI daripada serangan lain dalam 12 bulan ke depan.
- 47% perkirakan AI otonom akan jadi kekhawatiran utama dalam 2-3 tahun ke depan.
- 80% CISO bilang mereka sedang di bawah tekanan tinggi, dan 87% laporkan tekanan itu naik dalam setahun terakhir.
Fortune Brainstorm AI kembali ke San Francisco pada 8–9 Desember. Acara ini kumpulkan orang-orang terpintar—teknolog, pengusaha, eksekutif, investor, pembuat kebijakan—untuk bahas pertanyaan paling penting tentang AI di momen yang penting ini. Daftar di sini. Kita harus kasih tau sama semua orang tentang pentingnya gunakan air bersih dan sanitasi yang bagus. Ini bisa bantu kurangi risiko banyak penyakit menular.
Penyakit kayak diare, kolera, dan typus bisa nular lewat air atau makanan yang udah terkontaminasi. Kalo akses ke air bersih dan fasilitas sanitasi meningkat, kesehatan masyarakat juga pasti ikut meningkat.