Halo dan selamat datang di Eye on AI…
Di edisi ini: OpenAI dan Microsoft membuat perjanjian baru, Elon Musk meluncurkan Grokipedia, para insinyur data kesulitan dengan beban kerja AI, dan apakah browser AI berisiko untuk keamanan?
Halo, saya Beatrice Nolan, menggantikan Jeremy Kahn yang sedang dalam perjalanan pulang dari Fortune Global Forum di Riyadh hari ini.
Dalam berita AI besar, OpenAI dan Microsoft umumkan mereka sudah mencapai kesepakatan tentang kemitraan mereka di masa depan. Ini memungkinkan OpenAI untuk menyelesaikan restrukturisasi perusahaan yang sudah lama ditunggu.
Kesepakatan ini mengubah bagian laba OpenAI sebelumnya menjadi sebuah perusahaan publik yang bisa mengeluarkan saham tradisional. Ini akan memberi para pemegang saham suara yang lebih besar dalam pemerintahan OpenAI. Dua perubahan ini dianggap penting agar OpenAI bisa terus mengumpulkan miliaran dolar modal yang dibutuhkan untuk membangun model AI yang lebih canggih, pusat data besar, dan terus berusaha menjadi platform teknologi kunci untuk konsumen dan perusahaan.
Di bawah kesepakatan ini, OpenAI Group PBC yang baru akan tetap dikendalikan oleh yayasan nirlaba OpenAI Foundation. Negosiasi dengan Microsoft yang hampir setahun ini dilaporkan menyebabkan ketegangan antara kedua perusahaan dan telah menjadi hambatan utama OpenAI untuk menyelesaikan restrukturisasi. Dan pada pandangan pertama, Microsoft terlihat telah mendapatkan banyak konsesi dari lab AI itu.
Raksasa teknologi ini — yang sudah menanamkan lebih dari $13 miliar ke OpenAI sejak 2019 — akan mengambil saham 27% di OpenAI. Mengingat nilai OpenAI sekarang, posisi Microsoft akan bernilai sekitar $135 miliar. Mereka juga akan tetap mendapat akses ke teknologi OpenAI sampai tahun 2032, termasuk model apa pun yang mencapai tonggak Artificial General Intelligence (AGI).
Apakah sebuah model sudah melewati ambang batas ini — yang sebelumnya OpenAI definisikan secara publik sebagai sistem AI yang mampu melakukan sebagian besar tugas kognitif yang bernilai ekonomi sama baik atau lebih baik dari manusia — sekarang juga akan diverifikasi oleh panel ahli independen.
Sebelumnya, hanya OpenAI yang bisa memutuskan kapan AGI telah tercapai, yang dilihat sebagai titik pengaruh yang mungkin untuk mengakhiri atau mengubah hak Microsoft di bawah kemitraan mereka. Pengaturan ini dilaporkan menimbulkan ketegangan, dengan Microsoft khawatir OpenAI bisa mendeklarasikan AGI terlalu cepat, menggunakan model AI berkinerja tinggi sebagai tonggaknya, yang akan memiliki implikasi keuangan dan kekayaan intelektual yang besar bagi kedua perusahaan. Jadi keputusan panel independen ini adalah kemenangan untuk Microsoft.
Kesepakatan ini juga mengizinkan Microsoft untuk mengejar AGI secara independen, atau dengan pihak ketiga, sementara masih mewajibkan OpenAI untuk berbagi banyak teknik dan terobosan penelitiannya. Di bawah kesepakatan baru, Microsoft tetap mendapatkan akses ke banyak metode penelitian dasar OpenAI dan sistemnya, meskipun perusahaan tidak akan memiliki akses ke perangkat keras konsumen OpenAI, atau detail bobot model dan arsitektur inti dari model apa pun yang dianggap "riset".
Ini memberi Microsoft visibilitas ke hal-hal seperti infrastruktur pelatihan model OpenAI dan metode optimasi, bersama dengan kesempatan untuk mengambil yang dipelajarinya dari metode penelitian OpenAI dan menerapkan pengetahuan itu untuk mengembangkan model AGI-nya sendiri. Yang berpotensi mempersulit ini lebih jauh adalah kemitraan Microsoft yang meluas dengan Anthropic, dengan Claude sekarang tersedia di Microsoft 365 dan Excel.
Microsoft memang melepaskan eksklusivitas cloud-nya dengan OpenAI, yang oleh analis teknologi Zeus Kerravala disebut sebagai "konsesi besar dari pihak mereka." Namun, dia juga mencatat bahwa perusahaan telah mengamankan beberapa konsesi struktural yang penting dari OpenAI sebagai gantinya yang lebih bernilai daripada ini.
"Konsesi ini memastikan keberlangsungan dan nilai investasi Microsoft," katanya kepada Fortune. "Intinya, Microsoft menukar eksklusivitas komputasi cloud, sesuatu yang sulit dipenuhinya anyway, untuk kepastian teknologi dan akses IP jangka panjang."
Investor tampaknya setuju karena saham perusahaan naik 2%, mendorong valuasi pasarnya melewati tanda $4 triliun lagi sehari sebelum perusahaan melaporkan pendapatan kuartal ketiganya.
Sebuah kemenangan regulasi untuk OpenAI
Untuk bagiannya, OpenAI sekarang akan memiliki akses ke pendanaan penuh yang dijanjikan oleh investor, termasuk SoftBank, Thrive, dan firma modal ventura lainnya yang bergantung pada restrukturisasi ini. Langkah ini juga memposisikan OpenAI untuk mengumpulkan modal tambahan dengan lebih mudah di masa depan.
Perusahaan ini juga tampaknya telah melewati hambatan regulasi yang kritis. Setelah berita tentang kesepakatan itu, Jaksa Agung Delaware, Kathy Jennings, mengumumkan bahwa kantornya telah menerbitkan "Pernyataan Tidak Keberatan" untuk rekapitulasi perusahaan yang diusulkan.
Jaksa Agung California, Rob Bonta, mengatakan dalam pernyataan kepada Fortune bahwa mereka telah "mengamankan konsesi yang memastikan aset amal digunakan untuk tujuan yang dimaksud, keamanan akan diprioritaskan, serta komitmen bahwa OpenAI akan tetap berada di California." Sebagai hasilnya, Bonta mengatakan kantornya "tidak akan di pengadilan menentang rencana rekapitulasi OpenAI."
Ini adalah pukulan bagi beberapa lembaga nirlaba yang telah berkampanye menentang restrukturisasi, berargumen bahwa OpenAI telah menyimpang dari misi intinya mengembangkan AGI dengan cara yang "menguntungkan semua umat manusia" dan bahwa mereka telah memprioritaskan pengiriman produk di atas keamanan AI.
Kelompok nirlaba ini telah melobi kantor-kantor Jaksa Agung untuk memblokir kesepakatan itu. Kelompok advokasi, lembaga nirlaba, dan beberapa mantan karyawan OpenAI, serta rekan komersial yang menjadi pesaing Elon Musk, secara terbuka menentang restrukturisasi dengan berbagai alasan. Musk berargumen bahwa langkah ini adalah bukti bahwa CEO OpenAI Sam Altman dan salah satu pendiri Greg Brockman menipunya ketika dia memberikan donasi multi-juta dolar awal yang mendirikan lab itu. Yang lain berargumen bahwa restrukturisasi berisiko mengalirkan keuntungan yang seharusnya memiliki tujuan amal publik ke dalam kantong investor ventura, pendiri, dan karyawan OpenAI.
OpenAI telah mencoba meredam beberapa keberatan ini dengan berjanji bahwa yayasan nirlaba OpenAI Foundation akan memberikan hibah besar untuk tujuan amal, termasuk komitmen $25 miliar yang baru diumumkan untuk proyek-proyek yang bertujuan meningkatkan kesehatan dan menyembuhkan penyakit atau yang bertujuan meningkatkan ketahanan masyarakat terhadap beberapa gangguan yang mungkin disebabkan AI, termasuk potensi kehilangan pekerjaan yang meluas.
Namun, dengan persetujuan regulator yang diamankan dan kekhawatiran Microsoft yang ditangani, OpenAI akhirnya memiliki struktur laba-nya — dan miliaran dolar modal. Dan Microsoft menyimpan sebagian besar dari apa yang mereka anggap berharga dalam kemitraan OpenAI, sambil mengamankan saham besar yang bisa menjadi keuntungan besar bagi pemegang sahamnya sendiri.
Dengan itu, ini lebih banyak berita AI.
Salam,
Beatrice Nolan
[email protected]
—
FORTUNE ON AI
- Open-source AI adalah ‘permainan China sekarang’ — dan itu masalah bagi AS dan sekutunya, kata partner Andreessen Horowitz — Beatrice Nolan
- Sekarang kita tahu bahwa AI tidak akan mengambil semua pekerjaan kita, Silicon Valley harus memperbaiki kesalahan dasarnya: Teater otomatisasi harus berakhir — Joel Hron
- CEO Qualcomm memperingatkan bahwa ‘semua orang bermain untuk menang’ dalam hal gelembung AI — tetapi masih terlalu dini untuk mengetahui siapa yang akan berhasil — Beatrice Nolan
- Setelah Microsoft investasi $13 miliar ke OpenAI, kepala AI-nya mengkritik fitur erotika seperti milik ChatGPT: ‘Ini sangat berbahaya’ — Sasha Rogelberg
—
EYE ON AI NEWS
Elon Musk luncurkan Grokipedia sebagai rival baru untuk Wikipedia. Elon Musk telah mempromosikan usaha barunya, Grokipedia, sebuah ensiklopedia berbasis AI, sebagai alternatif yang tidak bias untuk Wikipedia. Halaman awalnya mirip dengan format Wikipedia tetapi, menurut Washington Post, disajikan dengan nada yang lebih condong ke kanan. Media itu juga mengidentifikasi banyak kesalahan faktual. Musk sebelumnya telah menyoroti masalah dengan Wikipedia, secara publik menyebutkan apa yang dia anggap sebagai pergeseran situs itu ke kiri. Situs yang diluncurkan minggu ini saat ini menghosting sekitar 885.000 artikel, jauh lebih sedikit daripada Wikipedia yang lebih dari 8 juta. Baca lebih lanjut di Washington Post.
Claude tambahkan integrasi Excel dan alat data pasar real-time. Anthropic telah meluncurkan peningkatan yang berfokus pada keuangan untuk chatbot Claude-nya, menambahkan integrasi langsung dengan Microsoft Excel dan tujuh konektor data real-time baru. Claude Anthropic sekarang dapat menganalisis, mengedit, dan membuat spreadsheet langsung di dalam Excel, menawarkan para profesional keuangan cara yang lebih interaktif untuk bekerja dengan data. Konektor baru ini menghubungkan Claude ke platform keuangan utama — termasuk Moody’s, London Stock Exchange Group, dan MT Newswires — memungkinkannya mengakses pembaruan pasar langsung, transkrip panggilan pendapatan, dan penelitian investasi. Anthropic juga memperkenalkan enam "Keterampilan Agen" baru yang disesuaikan untuk keuangan, memungkinkan Claude menghasilkan laporan, memodelkan arus kas, dan membuat profil perusahaan secara otomatis. Baca lebih lanjut di sini.
Qualcomm masuk perlombaan chip AI dengan prosesor pusat data. Qualcomm telah mengumumkan langkah besar ke pasar pusat data AI dengan dua chip akselerator baru yang dirancang untuk menantang dominasi Nvidia dan AMD. Chip-chip ini, dirancang untuk menggerakkan inferensi AI daripada pelatihan, dapat mengisi rak server penuh yang didinginkan cair dan dibangun berdasarkan unit pemrosesan neural Hexagon Qualcomm, yang digunakan dalam chip ponsel pintarnya. Dengan permintaan untuk komputasi AI yang diperkirakan akan mendorong hingga $6,7 triliun dalam pengeluaran pusat data hingga 2030, masuknya Qualcomm menandai ekspansi signifikan melampaui bisnis chip selulernya yang tradisional. Saham Qualcomm melonjak 11% setelah pengumuman. Baca lebih lanjut di CNBC.
OpenAI mendesak AS untuk meningkatkan output energi untuk tetap unggul dalam perlombaan AI. OpenAI menyerukan kepada pemerintah AS untuk secara dramatis memperluas produksi energi nasional, memperingatkan bahwa negara itu berisiko tertinggal dari China dalam perlombaan AI global tanpa investasi daya baru yang masif. Dalam sebuah pengajuan 11 halaman kepada Kantor Kebijakan Sains dan Teknologi Gedung Putih, perusahaan itu mendesak AS untuk berkomitmen membangun 100 gigawatt kapasitas energi baru setiap tahun — hampir dua kali lipat dari yang ditambahkan negara itu pada tahun 2024. OpenAI mencatat bahwa China menambahkan 429 gigawatt tahun lalu dibandingkan dengan 51 gigawatt AS, menciptakan apa yang mereka sebut "kesenjangan elektron" yang muncul. Baca lebih lanjut di CNBC.
—
EYE ON AI RESEARCH
Laporan MIT lain mengatakan manfaat AI mungkin tidak sejelas yang diperkirakan. Kali ini dalam coding. Sebuah laporan MIT Technology Review Insights baru, dilakukan bekerja sama dengan Snowflake, menemukan bahwa 77% insinyur data menghadapi beban kerja yang lebih berat meskipun ada adopsi luas alat AI yang dimaksudkan untuk meningkatkan produktivitas. Survei terhadap 400 eksekutif teknologi senior menemukan bahwa 83% organisasi telah menggunakan alat teknik data berbasis AI, tetapi 45% menyebutkan kompleksitas integrasi dan 38% melaporkan penyebaran alat dan fragmentasi sebagai tantangan adopsi utama. Meskipun AI mengotomatiskan banyak tugas data, proliferasi sistem yang terputus telah menciptakan paradoks produktivitas di mana tugas individu lebih cepat, tetapi alur kerja secara keseluruhan lebih lambat, menurut laporan itu. Insinyur data sekarang menghabiskan 37% waktu mereka untuk proyek-proyek terkait AI, naik dari 19% dua tahun lalu, dan mengharapkan itu mencapai 61% dalam dua tahun.
—
AI CALENDAR
- 10-13 Nov: Web Summit, Lisbon.
- 26-27 Nov: World AI Congress, London.
- 2-7 Des: NeurIPS, San Diego.
- 8-9 Des: Fortune Brainstorm AI San Francisco. Ajukan kehadiran di sini.
—
BRAIN FOOD
Apakah browser AI berisiko keamanan? Setelah OpenAI meluncurkan browser web yang sangat dinanti minggu lalu, saya menulis tentang beberapa risiko seputar injeksi prompt. Sejak itu, mungkin tidak mengherankan, lebih banyak risiko keamanan telah muncul. Perusahaan keamanan LayerX menemukan kerentanan yang berpotensi besar di browser ChatGPT Atlas yang memungkinkan penyerang untuk menyuntikkan instruksi berbahaya ke dalam memori ChatGPT. Menggunakan serangan Cross-Site Request Forgery (CSRF), peretas dapat mengeksploitasi sesi pengguna yang login untuk menanamkan instruksi tersembunyi yang bertahan di berbagai perangkat dan browser. Setelah terinfeksi, ChatGPT mungkin tanpa sadar menjalankan instruksi ini, berpotensi mengirimkan malware. Tes LayerX menunjukkan bahwa browser ChatGPT Atlas sangat rentan, memblokir hanya sekitar 5,8% dari serangan phishing yang mereka uji, membuat pengguna hingga 90% lebih terbuka dibandingkan dengan Chrome atau Edge, yang memblokir sekitar setengah dari serangan seperti itu. Keamanan siber selalu seperti permainan kucing dan tikus, dengan perusahaan mengidentifikasi dan kemudian memperbaiki kelemahan keamanan, tetapi skala risiko keamanannya memunculkan pertanyaan apakah browser AI terlalu berisiko untuk dipercaya dengan jenis akses sistem mendalam yang mereka perlukan untuk menjadi berguna.