Halo dan selamat datang di Eye on AI… Di edisi ini: Apakah China akan menang dalam perlombaan AI?… Resiko penalaran AI… Anthropic diperkirakan akan untung lebih cepat dari OpenAI… dan perubahan sikap OpenAI tentang "backstop" pemerintah.
Halo, Beatrice Nolan di sini, menggantikan Jeremy Kahn. Industri AI sedang mempertimbangkan pertanyaan penting akhir-akhir ini: Apakah China unggul dalam perlombaan AI?
Ini adalah debat yang dipicu oleh CEO Nvidia, Jensen Huang, yang menjadi berita minggu lalu setelah menyatakan bahwa "China akan memenangkan perlombaan AI." Huang menyebutkan sinisme Barat, pembatasan ekspor, dan situasi energi China yang menguntungkan, dengan mencatat bahwa perusahaan lebih mudah dapat pasokan energi di sana. Huang kemudian menarik kembali komentarnya dalam pernyataan di akun X Nvidia, menjelaskan bahwa China sebenarnya "hanya tertinggal nanodetik dari Amerika dalam perlombaan AI."
Tentu saja, Huang mungkin memiliki kepentingan sendiri dengan mengatakan semua ini, tapi dia bukan satu-satunya yang mengklaim China mungkin menyusul usaha AI AS. Faktanya, ada beberapa alasan untuk percaya klaim asli Huang mungkin valid.
Masalah Energi
Pertama, jika perlombaan AI pada dasarnya adalah kompetisi infrastruktur, yang didorong oleh kemampuan negara untuk membangun dan memberi daya pusat data besar yang intensif energi, bukan oleh siapa yang bisa mencapai peningkatan algoritma bertahap, China saat ini memegang keuntungan signififikan.
Negara itu telah menunjukkan kapasitas untuk menjalankan proyek besar dengan cepat dan terkoordinasi, sebagian berkat peran pemerintah yang sangat aktif dalam ekonomi. Dan, seperti yang disorot Huang dalam komentarnya minggu lalu, listrik bersubsidi dan proses regulasi yang efisien membuat perusahaan jauh lebih mudah mengoperasikan fasilitas AI yang boros daya di China. Sebaliknya, perusahaan AS menghadapi lanskap regulasi yang terfragmentasi dan biaya energi yang relatif lebih tinggi, yang dapat menghambat penskalaan infrastruktur AI yang cepat.
Para ahli telah lama memperingatkan bahwa pasokan listrik kemungkinan akan menjadi hambatan kritis berikutnya untuk industri AI, dan Beijing tampak unggul dalam mengatasi beberapa tantangan energi kritis ini. Sebaliknya, jaringan listrik di banyak kota AS begitu terbebani sehingga beberapa perusahaan memilih untuk membangun pembangkit listrik sendiri daripada bergantung pada infrastruktur listrik yang ada.
Perusahaan teknologi AS masih mengeksplorasi solusi tenaga alternatif, tetapi proyek-proyek ini mungkin membutuhkan bertahun-tahun untuk terwujud, jika itu terwujud. Kendala energi bahkan menghantam beberapa pemain terbesar teknologi; misalnya, Microsoft baru-baru ini mengungkapkan bahwa mereka memiliki GPU "menganggur di inventaris" karena tidak dapat menemukan cukup daya untuk menggunakannya.
Kepemimpinan Sumber Terbuka
Ada juga masalah sumber terbuka. Menurut laporan terbaru dari a16z, China sekarang secara resmi melampaui AS dalam hal unduhan AI sumber terbuka. A16z menyebut pergeseran ini sebagai momen "skull graph", yaitu titik di mana penantang tidak hanya menutup kesenjangan yang tadinya tak tertandingi dengan yang berkuasa, tetapi juga mulai memimpin.
Anjney Midha, mitra umum di a16z, juga baru-baru ini mengeluarkan peringatan tentang dominasi China dalam model sumber terbuka, terutama dengan startup seperti DeepSeek dan model R1-nya; dia mendorong perusahaan AS untuk berinvestasi dalam tim frontier dan bekerja untuk menutup kesenjangan sumber terbuka.
Perusahaan berbasis di China seperti DeepSeek juga telah menunjukkan bahwa mereka ahli dalam mengoptimalkan proses. Misalnya, dengan R1 DeepSeek, perusahaan membuktikan bahwa meskipun mungkin tidak menciptakan versi pertama dari sesuatu, mereka mampu memproduksinya lebih cepat dan lebih murah, tanpa mengorbankan kinerja.
Penelitian terbaru dari Tencent dan DeepSeek juga menunjukkan bagaimana China semakin muncul sebagai sumber inovasi AI. Misalnya, model CALM Tencent menunjukkan bahwa mengganti generasi token-demi-token dengan prediksi vektor terus-menerus secara dramatis meningkatkan efisiensi, sementara model sumber terbuka baru DeepSeek mengompres teks menjadi representasi visual, memungkinkan sistem AI memproses lebih banyak informasi dengan biaya lebih rendah. Ada beberapa argumen bahwa metode ini mungkin telah diam-diam digunakan oleh lab Barat seperti OpenAI atau Anthropic, tetapi tidak dipublikasikan dengan cara yang sama.
Apakah China sudah memenangkan perlombaan AI? Mungkin belum. Tetapi perusahaan AI-nya tentu berada dalam posisi yang baik untuk bermain kuat.
Dengan itu, berikut lebih banyak berita AI.
Beatrice Nolan
[email protected]
BERITA FORTUNE TENTANG AI
- Operator pusat data CoreWeave adalah favorit pasar saham. Para bear melihat keuangannya sebagai lambang gelembung infrastruktur AI —Jeremy Kahn dan Leo Schwartz
- Model penalaran AI yang bisa ‘berpikir’ lebih rentan terhadap serangan jailbreak, penelitian baru menyarankan —Beatrice Nolan
- DBS meluncurkan chatbot Gen AI, saat bank terbesar di Asia Tenggara memasukkan AI dalam alur kerjanya —Angelica Ang
- UE mempertimbangkan untuk melemahkan Undang-Undang AI andalan di tengah tekanan dari Trump dan raksasa teknologi AS, laporan berita mengatakan —Beatrice Nolan
- AI tidak akan menjadi gelembung selama semua orang tetap ‘bijaksana dan disiplin,’ kata Brad Smith dari Microsoft —Jim Edwards
BERITA EYE ON AI
Anthropic diperkirakan untung tahunan lebih dulu dari OpenAI. Menurut Wall Street Journal, Anthropic diperkirakan akan impas pada 2028, sementara OpenAI memperkirakan akan mencatat kerugian hingga 2030 karena pengeluaran besar untuk komputasi dan infrastruktur. OpenAI juga memperkirakan akan menghabiskan uang tunai 14 kali lebih banyak daripada Anthropic sebelum mencapai profitabilitas. OpenAI telah menandatangani serangkaian kesepakatan ternama untuk mendorong pertumbuhannya, termasuk $38 miliar dengan AWS, kesepakatan chip dengan NVIDIA dan AMD, dan pakta yang diperluas dengan CoreWeave kini total $22,4 miliar. Anthropic telah mengambil pendekatan berbeda, memilih untuk fokus pada klien perusahaan dan mengelola biaya sesuai dengan pertumbuhan pendapatan.
Yann LeCun dari Meta dilaporkan berencana keluar dan luncurkan startup AI. Kepala ilmuwan AI Meta, Yann LeCun, bersiap meninggalkan perusahaan untuk meluncurkan startup-nya sendiri, menurut laporan dari Financial Times. Langkah ini akan menjadi pergeseran besar bagi salah satu figur paling berpengaruh di bidangnya, yang telah bekerja di perusahaan Big Tech tersebut selama 11 tahun. Langkah LeCun datang berbulan-bulan setelah Meta merestrukturisasi upaya AI-nya di bawah divisi baru "Superintelligence Labs" yang dipimpin oleh mantan CEO Scale AI Alexandr Wang. LeCun, yang membantu mempelopori pembelajaran mendalam dan lama mendukung AI sumber terbuka, dilaporkan dalam pembicaraan awal untuk mengumpulkan dana untuk usaha barunya.
DeepSeek China serukan ‘whistle-blower’ AI untuk kehilangan pekerjaan. Startup AI China DeepSeek membuat penampilan publik langka di World Internet Conference, di mana satu peneliti senior memperingatkan tentang risiko sosial dari AI canggih, menurut South China Morning Post. Mewakili pendiri Liang Wenfeng, Chen Deli menyerukan perusahaan untuk bertindak sebagai "whistle-blower" dengan memperingatkan publik tentang pekerjaan yang kemungkinan akan diautomasi terlebih dahulu. Meskipun perusahaan optimis tentang potensi jangka panjang AI, DeepSeek mengakui teknologinya juga dapat menimbulkan beberapa risiko.
OpenAI terkena tujuh gugatan baru. OpenAI menghadapi beberapa gugatan lagi di California yang mengklaim bahwa ChatGPT mendorong pengguna—termasuk remaja dan dewasa tanpa masalah kesehatan mental sebelumnya—untuk bunuh diri atau delusi. Kasus-kasus tersebut menuduh kematian salah, bunuh diri dibantu, pembunuhan tidak disengaja, dan kelalaian. Pengacara berargumen bahwa "OpenAI merancang GPT-4o untuk menjerat pengguna secara emosional" dan "merilisnya tanpa pengaman yang dibutuhkan untuk melindungi mereka." OpenAI menyebut laporan itu "sangat memilukan" dan mengatakan sedang meninjau berkas-berkasnya.
RISET EYE ON AI
Model penalaran AI tingkat lanjut lebih rentan terhadap serangan jailbreak. Itu bisa menjadi masalah bagi perusahaan AI. Penelitian baru dari Anthropic, Oxford, dan Stanford menyarankan bahwa model AI dengan kemampuan penalaran lanjut, termasuk GPT OpenAI, Claude Anthropic, Gemini Google, dan Grok xAI, mungkin lebih rentan terhadap peretasan daripada yang diperkirakan sebelumnya. Menggunakan pendekatan baru yang disebut "Chain-of-Thought Hijacking," peneliti menemukan bahwa penyerang dapat menyembunyikan perintah berbahaya dalam langkah-langkah penalaran panjang, melewati langkah-langkah keamanan bawaan, dengan tingkat keberhasilan melebihi 80% dalam beberapa tes. Studi menemukan bahwa semakin sebuah model bernalar, semakin rentan ia terhadap serangan. Penelitian ini meruntuhkan asumsi bahwa semakin canggih sebuah model dalam bernalar, semakin kuat kemampuannya untuk menolak perintah berbahaya. Peneliti mengusulkan "pertahanan yang sadar penalaran" yang memantau pemeriksaan keamanan selama setiap langkah penalaran, mengembalikan pengaman sambil membiarkan model AI menangani masalah kompleks secara efektif.
KALENDER AI
- 26-27 Nov: World AI Congress, London.
- 2-7 Des: NeurIPS, San Diego.
- 8-9 Des: Fortune Brainstorm AI San Francisco. Ajukan diri untuk hadir di sini.
BRAIN FOOD
Untuk backstop, atau tidak untuk backstop? OpenAI harus menarik kembali beberapa komentar minggu lalu setelah CFO perusahaan, Sarah Friar, menyarankan bahwa pemerintah federal dapat "backstop"—dengan dukungan keuangan atau jaminan untuk menutupi kerugian potensial—utang yang diambil perusahaan AI saat membeli chip AI. Ini akan berarti bahwa OpenAI juga dapat memperoleh manfaat dari suku bunga yang lebih rendah dan membangun beberapa pusat data yang dijanjikan lebih cepat. Keterangan tersebut memicu badai dan kemarahan dari kepala AI David Sacks. Tapi tidak semua orang menganggapnya sebagai saran yang mengejutkan. Beberapa bahkan berandai-andai bahwa ide tersebut mungkin memiliki beberapa manfaat jika AS benar-benar dalam perlombaan berisiko tinggi dengan China, yang sudah mensubsidi energi yang dibutuhkan untuk pengembangan AI-nya sendiri. Bagaimanapun juga, Friar kemudian mundur dari komentar tersebut melalui postingan LinkedIn. CEO Sam Altman ikut berbicara dalam postingan terpisah meyakinkan para kritikus: "Kami tidak memiliki atau menginginkan jaminan pemerintah untuk pusat data OpenAI."
Fortune Brainstorm AI kembali ke San Francisco pada 8–9 Des untuk mengumpulkan orang-orang terpintar yang kami kenal—teknolog, pengusaha, eksekutif Fortune Global 500, investor, pembuat kebijakan, dan pikiran brilian di antaranya—untuk mengeksplorasi dan menginterogasi pertanyaan paling mendesak tentang AI pada momen penting lainnya. Daftar di sini.