Selamat datang di Eye on AI, bersama reporter AI Sharon Goldman. Di edisi ini, startup baru mengatasi penipuan AI… startup AI hukum Harvey mendapatkan dana $160 juta dengan valuasi $8 miliar… VC ‘kingmaking’ terjadi lebih cepat dari sebelumnya pada startup AI… Kenapa AI menulis seperti itu… Microsoft turunkan target pertumbuhan staf penjualan untuk perangkat lunak AI terbaru.
Setahun lalu, saya berbincang dengan beberapa pemimpin keamanan siber di perusahaan seperti SoftBank dan Mastercard yang sudah memperingatkan tentang ancaman penipuan menggunakan AI, termasuk deepfake dan klon suara. Mereka memperingatkan bahwa penipuan akan berkembang cepat: Gelombang pertama scam adalah tentang penipu yang pakai deepfake untuk pura-pura jadi orang yang kamu kenal. Tapi penyerang akan segera mulai pakai video dan audio buatan AI untuk meniru orang asing dari sumber terpercaya, misalnya perwakilan help-desk dari bankmu atau admin IT di kantor.
Setahun kemudian, inilah yang terjadi: The Identity Theft Resource Center melaporkan kenaikan 148% dalam scam peniruan identitas antara April 2024 dan Maret 2025, didorong oleh penipu yang bikin situs web bisnis palsu, gunakan chatbot AI yang mirip asli, dan hasilkan agen suara yang terdengar sama persis dengan perwakilan perusahaan asli. Tahun 2024 saja, Federal Trade Commission mencatat kerugian $2,95 miliar terkait scam peniruan identitas.
Sekarang, sebuah startup baru langsung mengambil tindakan. imper.ai bertujuan untuk hentikan serangan peniruan AI secara real time, dan hari ini mengumumkan peluncuran publik dan pendanaan baru $28 juta. Redpoint Ventures dan Battery Ventures pimpin putaran investasi ini, dengan partisipasi dari Maple VC, Vessy VC, dan Cerca Partners.
Alih-alih mencoba mendeteksi keanehan visual atau audio—pendekatan yang semakin mustahil—imper.ai menganalisis jejak digital yang tidak bisa dipalsukan penyerang. Ini termasuk telemetri perangkat (data latar belakang dari perangkatmu, seperti lokasi, sistem operasi, detail hardware, dan perilaku jaringan), diagnostik jaringan, dan sinyal lingkungan. Platformnya berjalan diam-diam di sistem termasuk Zoom, Teams, Slack, WhatsApp, Google Workspace, dan lingkungan help-desk IT, menandai sesi berisiko sebelum seseorang tertipu.
CEO Noam Awadish, veteran dari pelopor mobil otonom Mobileye dan anggota lama unit perang siber Israel 8200, mengatakan AI telah memperkuat taktik social-engineering klasik—jenis serangan yang memanipulasi orang untuk memberikan informasi sensitif atau menyetujui tindakan yang membahayakan keamanan. Baik melalui peniruan, pura-pura urgensi, atau tekanan psikologis, penyerang semakin menggunakan AI untuk menipu korban agar membocorkan kata sandi, detail finansial, atau akses jarak jauh.
Contoh terbaru adalah Jaguar Land Rover. Bulan lalu peretas gunakan kredensial palsu untuk melakukan kampanye phishing dan “vishing” (voice-phishing) terkoordinasi dengan menyamar sebagai staf dukungan IT JLR untuk mengumpulkan kredensial dan mendapatkan akses. Serangan ini memaksa pabrikan mobil itu untuk matikan sistem IT kritis dan akhirnya lini produksinya, mengakibatkan kerugian diperkirakan $1,5 miliar sejauh ini.
Tim pendiri Imper.ai yaitu Awadish, bersama veteran 8200 lainnya Anatoly Blighovsky dan Rom Dudkiewicz, percaya latar belakang mereka sebagai penyerang dan pembela siber memberi keunggulan. “Saya rasa orang tidak paham bahwa sebagian besar pelanggaran besar dimulai dengan social engineering,” kata Awadish kepada saya, menambahkan bahwa AI mengubah segalanya karena email, video, dan klon suara sudah hampir sempurna.
Selain itu, dia tunjukkan bahwa alat kolaborasi sudah berkembang jauh melampaui email dan telepon. Sekarang penyerang punya puluhan alat komunikasi, dan AI memungkinkan mereka menghasilkan pesan “spear-phishing” (email phishing yang dipersonalisasi) dalam skala besar, serta suara kloning, dan video deepfake dengan kecepatan tinggi.
Itu sebabnya imper.ai menghindari mencoba mendeteksi langsung konten buatan AI. “Kami tidak mau masuk ke perlombaan senjata AI,” kata Awadish. Sebaliknya, startup ini fokus pada apa yang tidak bisa dipalsukan penyerang—sebagian besar metadata.
Seiring traksi perusahaan meningkat, minat investor juga. “Kami ingin bangun platform yang lindungi seluruh ruang komunikasi,” kata Awadish. “Ini bukan hal kecil, ini bukan seperti plugin yang akan dibangun salah satu raksasa.” Dengan pendanaan baru, dia katakan perusahaan bisa gandakan jumlah tim R&D dan tiga kali lipatkan organisasi go-to-market di AS.
“Saat ini, traksi sangat tinggi, jadi kami harus ikuti kecepatannya, jadi kami harus tumbuh,” katanya.
Catatan: Saya sangat semangat akan pergi ke San Francisco untuk Fortune Brainstorm AI hari Senin dan Selasa! Saya akan wawancara Prakhar Mehrotra, SVP dan kepala global AI di PayPal, dan Marc Hamilton, VP arsitektur solusi dan teknik di Nvidia, di panggung utama. Saya juga akan moderasi sesi roundtable seru tentang pusat data AI. Plus, saya tidak sabar bertemu beberapa pembicara lain, termasuk aktor Joseph Gordon-Levitt, COO OpenAI Brad Lightcap, dan Ali Ghodsi, CEO Databricks.
Dan dengan itu, ini lebih banyak berita AI.
Sharon Goldman
[email protected]
@sharongoldman
FORTUNE ON AI
Microsoft AI ingin semua karyawannya jadi AI-native akhir tahun fiskal ini, kata VP desain Liz Danzico – oleh Angelica Ang
ByteDance China mungkin dipaksa jual TikTok AS, tapi keunggulan diam-diamnya di AI akan bantu mereka bertahan—bahkan mungkin berkembang – oleh Nicholas Gordon
Anthropic pertimbangkan IPO meski ada peringatan bahwa likuiditas berlebih menciptakan gelembung di pasar – oleh Jim Edwards
Sam Altman nyatakan ‘Code Red’ saat Gemini Google melonjak—tiga tahun setelah ChatGPT buat CEO Google Sundar Pichai lakukan hal sama – oleh Sharon Goldman
Presiden ServiceNow bilang akuisisi platform manajemen identitas dan akses Veza akan bantu pelanggan lacak keberadaan agen AI – oleh Jeremy Kahn
AI DALAM BERITA
Startup AI hukum Harvey dapat $160 juta dengan valuasi $8 miliar. Harvey, salah satu startup yang paling cepat naik dalam ledakan AI legal-tech, baru dapat $160 juta pada valuasi $8 miliar, menurut New York Times. Ini lebih dari dua kali lipat valuasinya sejak Februari dan bawa total pendanaan tahun ini jadi sekitar $760 juta. Perusahaan berusia empat tahun ini, sudah dipakai sekitar setengah dari Am Law 100, bangun asisten AI yang bantu pengacara buat dan tinjau dokumen, jawab pertanyaan hukum kasus, dan otomatisasi alur kerja rutin. Putaran ini dipimpin Andreessen Horowitz dengan partisipasi T. Rowe Price, WndrCo, Sequoia, Kleiner Perkins, dan lainnya, dan tunjukkan antusiasme investor untuk alat AI yang dibangun untuk profesional kerah putih tetap tinggi meski pasar teknologi lebih luas goyah.
VC ‘kingmaking’ terjadi lebih awal dari sebelumnya dengan startup AI. Startup AI ERP DualEntry dapat $90 juta Seri A pada valuasi $415 juta—padahal baru berusia setahun—saat Lightspeed dan Khosla Ventures bertaruh bahwa pengganti generasi berikutnya untuk sistem lama seperti Oracle NetSuite bisa berkembang cepat. Tapi menurut TechCrunch, besarnya putaran ini bangkitkan pertanyaan tentang “kingmaking,” taktik VC yang semakin umum dengan menanamkan dana besar ke satu perusahaan tahap awal untuk mendominasi kategori. Sementara satu investor bilang ke TechCrunch bahwa DualEntry hanya punya sekitar $400.000 dalam ARR musim panas lalu—angka yang dibantah perusahaan—pendanaan agresif ini mencerminkan pergeseran luas: firma venture pilih pemenang lebih awal dari sebelumnya.
Kenapa AI menulis seperti itu? Saya pasti ingin sebut esai (panjang) ini di New York Times yang sangat layak dibaca. Esai itu berargumen bahwa tulisan buatan AI diam-diam sudah jadi suara dominan di internet—membentuk segalanya dari esai siswa sampai pernyataan politik—dengan campuran khasnya sekarang: em dash, metafora hantu, triplet, dan ketulusan yang terlalu halus. Yang mengganggu, tulis penulisnya, bukan cuma bahwa prosa AI ada di mana-mana, tapi manusia mulai menirunya tanpa sadar, menciptakan lingkaran umpan balik di mana bahasa hasil mesin jadi nada budaya default. Secara pribadi, saya pernah dengar tentang bagaimana chatbot AI suka kata “mendalami,” tapi tidak bahwa mereka suka kata-kata hantu dan semua hal “tenang”: “Semuanya adalah bayangan, atau kenangan, atau bisikan. Mereka juga cinta ketenangan. Tanpa alasan jelas, dan sering melawan logika narasi, mereka akan menggambarkan sesuatu sebagai tenang, atau berdengung lembut.”
Microsoft turunkan target pertumbuhan staf penjualan untuk perangkat lunak AI terbaru. Seperti perusahaan Big Tech lainnya, Microsoft habiskan banyak waktu di 2025 menggaungkan agen AI sebagai lompatan besar berikutnya dalam otomatisasi perusahaan, tapi seiring tahun berakhir perusahaan diam-diam turunkan ekspektasi, menurut laporan baru dari The Information. Setelah beberapa tim penjualan gagal capai target pertumbuhan agresif, Microsoft kendurkan kuota untuk produk AI tertentu—pengakuan publik yang tidak biasa bahwa perusahaan tradisional masih ragu-ragu bayar untuk otomatisasi canggih. Pelanggan bilang ROI masih sulit diukur dan teknologinya terlalu rawan kesalahan untuk alur kerja berisiko tinggi seperti keuangan dan keamanan siber. Sementara AI sudah jadi berkah besar untuk bisnis cloud Microsoft—terutama berkat belanja besar dari OpenAI dan permintaan kuat untuk alat seperti Microsoft 365 Copilot dan GitHub Copilot—membuat perusahaan mainstream naikkan anggaran AI secara signifikan terbukti jauh lebih sulit daripada menjual ke lab AI.
KALENDER AI
2-7 Des: NeurIPS, San Diego.
8-9 Des: Fortune Brainstorm AI San Francisco. Daftar hadir di sini.
7-10 Jan: Consumer Electronics Show, Las Vegas.
12-18 Mar: SWSW, Austin.
16-19 Mar: Nvidia GTC, San Jose.
6-9 Apr: HumanX, San Francisco.
ANGKA EYE ON AI
221 Juta
Itulah jumlah pengguna YouTube yang berlangganan channel “AI slop” atau yang memposting konten buatan AI, menurut laporan baru dari platform edit video berbasis cloud Kapwing.
Laporan itu analisis 15.000 channel YouTube di 21 negara dan identifikasi mana yang posting konten buatan AI. Lalu mereka periksa jumlah penonton, total subscriber, dan perkiraan pendapatan untuk temukan di mana channel “AI slop” paling agresif bersaing dengan kreator manusia.
Laporan temukan channel-channel ini sudah kumpulkan gabungan 221 juta subscriber, hasilkan 63 miliar tayangan, dan dapat lebih dari $117 juta setiap tahun.
Beberapa temuan penting dari laporan:
Channel “AI slop” berbasis AS Cuentos Facinates punya subscriber terbanyak secara global (5.95 juta).
Spanyol punya delapan channel seperti itu dalam 100 channel trending mereka dengan gabungan 20.22 juta subscriber, terbanyak dari negara mana pun.
Channel ini dapat paling banyak tayangan di Korea Selatan (8.45 miliar tayangan di 11 channel trending).
India adalah rumah bagi channel “AI slop” paling banyak ditonton, Bandar Apna Dost, dengan 2.07 miliar tayangan dan perkiraan pendapatan tahunan $4.25 juta.