Halo dan selamat datang di Eye on AI. Di edisi ini…Panggilan aksi CEO Anthropic Dario Amodei tentang risiko katastropik AI…lebih banyak wawasan AI dari Forum Ekonomi Dunia di Davos…Nvidia melakukan investasi lain di CoreWeave…Anthropic memetakan sumber kepribadian suka menolong model AI.
Halo, saya baru kembali dari meliput Forum Ekonomi Dunia di Davos, Swiss. Minggu lalu, saya berbagi beberapa wawasan dari tempat di Davos. Saya akan coba berbagi lebih banyak pemikiran dari percakapan saya di bawah.
Tapi, pertama, pembicaraan dunia AI selama sehari terakhir adalah esai 20.000 kata yang dirilis CEO Anthropic Dario Amodei hari Senin. Tulisan itu, berjudul "The Adolescence of Technology" dan diterbitkan di blog pribadi Amodei, berisi sejumlah peringatan yang pernah dia keluarkan sebelumnya. Tetapi, dalam esainya, Amodei menggunakan bahasa yang sedikit lebih keras dan menyebutkan jadwal yang lebih pendek untuk beberapa risiko potensial AI dibanding sebelumnya. Yang sebenarnya menonjol dan baru dari esai Amodei adalah beberapa solusi yang dia usulkan untuk risiko ini. Saya coba membahas poin-poin ini di sini.
Satu hal yang dikatakan Amodei dalam esainya adalah bahwa 50% pekerjaan kerah putih tingkat pemula akan hilang dalam satu sampai lima tahun karena AI. Dia mengatakan hal yang sama di Davos minggu lalu. Tetapi, berbicara dengan para pemimpin tingkat C-suite di sana, saya mendapat kesan bahwa hanya sedikit dari mereka yang setuju dengan ramalan Amodei.
Amodei pernah salah tentang kecepatan teknologi menyebar ke perusahaan non-AI sebelumnya. Tahun lalu, dia memproyeksikan bahwa hingga 90% kode akan ditulis AI pada akhir 2025. Tampaknya ini benar untuk Anthropic sendiri. Tetapi tidak benar bagi kebanyakan perusahaan. Bahkan di perusahaan perangkat lunak lain, jumlah kode yang ditulis AI berada antara 25% hingga 40%. Jadi Amodei mungkin memiliki persepsi yang miring tentang seberapa cepat perusahaan non-tekno sebenarnya bisa mengadopsi teknologi.
AI mungkin menciptakan lebih banyak pekerjaan daripada menghancurkannya
Selain itu, Amodei mungkin salah tentang dampak AI pada pekerjaan untuk beberapa alasan. Scott Galloway, profesor pemasaran, influencer bisnis dan investor teknologi, yang berbicara di Fortune’s Global Leadership Dinner di Davos mengatakan bahwa setiap inovasi teknologi sebelumnya selalu menciptakan lebih banyak pekerjaan daripada menghancurkannya dan dia tidak melihat alasan untuk berpikir AI akan berbeda. Dia mengakui, meskipun, mungkin ada beberapa perpindahan jangka pendek pekerja yang ada.
Dan sejauh ini, itulah yang terjadi. Saya juga memiliki percakapan menarik dengan beberapa eksekutif senior Salesforce. Srinivas Tallapragada, kepala teknik dan keberhasilan pelanggan perusahaan itu, mengatakan kepada saya bahwa meskipun AI mengakibatkan perubahan peran di perusahaan, Salesforce juga berinvestasi besar-besaran untuk melatih ulang orang untuk peran baru, banyak dari mereka bekerja bersama teknologi AI. Faktanya, 50% perekrutan perusahaan tahun lalu adalah kandidat internal, naik dari rata-rata historis 19%. Perusahaan telah mampu menggeser beberapa agen dukungan pelanggan, yang dulu bekerja di pusat kontak tradisional, menjadi "insinyur yang ditempatkan di depan" di bawah organisasi Tallapragada, di mana mereka bekerja dengan pelanggan Salesforce di lokasi untuk membantu menerapkan agen AI.
Sementara itu, Ravi Kumar, CEO Cognizant, mengatakan kepada saya bahwa berbeda dengan banyak bisnis yang mengurangi perekrutan karyawan junior, Cognizant justru mempekerjakan lebih banyak lulusan tingkat pemula daripada sebelumnya. Mengapa? Karena mereka umumnya pembelajar yang lebih cepat, lebih mudah beradaptasi yang datang dengan keterampilan AI atau cepat mempelajarinya. Dan dengan bantuan AI, mereka bisa seproduktif karyawan yang lebih berpengalaman.
Saya tunjukkan kepada Kumar bahwa semakin banyak studi—di bidang seperti pengembangan perangkat lunak, pekerjaan hukum, dan keuangan—tampaknya menunjukkan bahwa seringkali para profesional paling berpengalaman yang mendapatkan hasil paling banyak dari alat AI karena mereka memiliki penilaian untuk lebih cepat mengevaluasi kekuatan atau kelemahan pekerjaan model atau agen AI. Mereka juga bisa lebih baik dalam menulis perintah yang sangat spesifik untuk memandu model ke keluaran yang lebih baik.
Kumar tertarik dengan ini. Dia mengatakan organisasi juga butuh karyawan berpengalaman karena mereka unggul dalam "menemukan masalah," yang dia katakan adalah peran paling penting bagi manusia dalam organisasi karena AI mulai mengambil lebih banyak peran "memecahkan masalah." "Anda mendapatkan izin untuk menemukan masalah karena Anda tahu cara memecahkan masalah saat ini," katanya tentang karyawan berpengalaman.
Membuka pasar baru seluruhnya
Raj Sharma, mitra pengelola global EY untuk pertumbuhan dan inovasi, mengatakan kepada saya bahwa AI memungkinkan firmanya untuk mengejar segmen pasar baru sepenuhnya. Misalnya, di masa lalu, EY tidak bisa secara ekonomis mengejar banyak pekerjaan pajak untuk perusahaan pasar menengah. Ini adalah bisnis yang cukup kompleks sehingga masih membutuhkan keahlian, tetapi mereka tidak bisa membayar harga seperti yang bisa dibayar perusahaan besar, dengan situasi pajak yang bahkan lebih kompleks. Jadi marginnya tidak cukup baik bagi EY untuk mengejar keterlibatan itu. Tetapi sekarang, berkat AI, EY telah membangun agen AI yang dapat membantu tim kecil ahli pajak manusia untuk melayani pelanggan ini secara efektif dengan margin keuntungan yang masuk akal bagi firma. "Orang berpikir, ini pajak, pasarnya sama, jika beralih ke AI, orang akan kehilangan pekerjaan," kata Sharma. "Tapi tidak, sekarang Anda memiliki pasar baru senilai $6 miliar yang bisa kami kejar tanpa memecat satu karyawan pun."
ROI apa dari AI di lini bisnis yang ada?
Kumar, CEO Cognizant, mengatakan kepada saya bahwa dia melihat empat kunci untuk mewujudkan ROI yang signifikan dari AI. Pertama, perusahaan perlu menciptakan ulang semua alur kerja mereka, bukan hanya mencoba mengotomatisasi beberapa bagian yang ada. Kedua, mereka perlu memahami rekayasa konteks—bagaimana memberi agen AI data, informasi, dan alat untuk menyelesaikan tugas dengan sukses. Ketiga, mereka harus membuat struktur organisasi yang dirancang untuk mengintegrasikan dan mengatur baik agen AI maupun manusia. Dan akhirnya, perusahaan membutuhkan infrastruktur pelatihan—proses untuk memastikan karyawan mereka tahu cara menggunakan AI secara efektif, tetapi juga saluran pelatihan ulang dan pengembangan karier yang mengajarkan pekerja cara melakukan tugas dan fungsi baru karena AI mengotomatisasi tugas yang ada dan mengubah alur kerja yang ada.
Yang penting di sini adalah tidak ada satu pun langkah ini yang sederhana untuk dicapai. Semua membutuhkan investasi, waktu, dan yang paling penting, kecerdasan manusia yang signifikan untuk melakukannya dengan benar. Tetapi Kumar berpikir bahwa jika perusahaan melakukan ini dengan benar, ada keuntungan produktivitas senilai $4,5 triliun yang menunggu untuk diambil di AS saja. Dia mengatakan keuntungan ini bisa terwujud bahkan jika model AI tidak pernah menjadi lebih mampu daripada hari ini.
Oke, dengan itu, berikut lebih banyak berita AI.
Jeremy Kahn
[email protected]
@jeremyakahn
Beatrice Nolan dari Fortune menulis bagian berita dan riset dari newsletter di bawah. Jeremy menulis item Brain Food.
FORTUNE ON AI
- Di dalam pusat data AI senilai miliaran dolar yang menggerakkan masa depan ekonomi Amerika – Oleh Sharon Goldman dan Nicolas Rapp
- Kepala Claude Code Anthropic tentang bagaimana alat itu memenangkan non-koder—dan memulai era baru untuk insinyur perangkat lunak — Oleh Beatrice Nolan
- Para tokoh AI di Davos bentrok tentang seberapa dekat kecerdasan setara manusia sebenarnya — oleh Jeremy Kahn
- Mengapa Meta memposisikan dirinya sebagai raksasa infrastruktur AI—dan menggandakan komitmen pada jalur baru yang mahal — Oleh Sharon Goldman
- Koneksi Palantir/ICE menarik kecaman karena pertanyaan diajukan tentang alat pelacak data Medicaid untuk menemukan orang untuk ditangkap — Oleh Tristan Bove
AI DI BERITA
Nvidia investasi $2 miliar ke CoreWeave. Nvidia telah menginvestasikan $2 miliar di CoreWeave, membeli saham dengan harga $87,20 per lembar dan meningkatkan kepemilikannya menjadi lebih dari 11% di penyedia komputasi awan yang sekarang bernilai $52 miliar. Investasi ini, investasi kedua Nvidia di CoreWeave sejak 2023, akan mempercepat konstruksi pusat data AI khusus hingga 2030. Ada elemen sirkuler lain di kesepakatan di mana investasi Nvidia pada dasarnya membantu membiayai pembelian produknya sendiri, sementara secara bersamaan menjamin menjadi pelanggan. Baca lebih lanjut di Bloomberg.Administrasi Trump berencana gunakan AI untuk menulis ulang beberapa regulasi. Departemen Transportasi AS berencana menggunakan kecerdasan buatan Gemini Google untuk menyusun draf regulasi transportasi federal baru, bertujuan memotong penulisan aturan dari bulan ke menit dengan membuat AI menghasilkan draf awal. Pemimpin lembaga telah memuji kecepatan dan efisiensi, mengatakan regulasi tidak perlu sempurna dan AI bisa menangani sebagian besar pekerjaan, tetapi beberapa staf DOT dan ahli memperingatkan bahwa mengandalkan AI generatif untuk aturan keselamatan-kritis bisa menyebabkan kesalahan dan hasil berbahaya. Kritikus juga mencatat bahwa aturan transportasi mempengaruhi segala sesuatu dari keselamatan penerbangan dan otomotif hingga pipa, dan kesalahan dalam teks yang dihasilkan AI bisa mengakibatkan tantangan hukum atau bahkan cedera. Anda bisa baca lebih lanjut di sini dari ProPublica.
Inggris luncurkan penggunaan nasional pengenalan wajah langsung, alat AI lain oleh polisi. Polisi Inggris akan mulai menggunakan teknologi pengenalan wajah langsung dan alat AI lainnya sebagai bagian dari serangkaian reformasi polisi yang diumumkan pemerintah minggu ini. Jumlah van yang dilengkapi sistem kamera pengenalan wajah langsung akan meningkat dari 10 menjadi 50 dan akan tersedia untuk setiap kepolisian di Inggris dan Wales. Seiring dengan ini, semua kepolisian akan mendapatkan alat AI baru untuk mengurangi pekerjaan administratif dan membebaskan petugas untuk tugas garis depan. Kritikus dan kelompok kebebasan sipil telah mengungkapkan kekhawatiran tentang privasi, pengawasan, dan kecepatan peluncuran. Anda bisa baca lebih lanjut dari Sky News di sini.
Moonshot China perkenalkan model AI open-source baru. Model fondasi open-source baru Moonshot AI yang berbasis di Beijing dapat menangani masukan teks dan visual dan menawarkan fitur coding dan orkestrasi agen tingkat lanjut. Model tersebut, bernama Kimi K2.5, dapat menghasilkan kode langsung dari gambar dan video, memungkinkan pengembang menerjemahkan konsep visual menjadi perangkat lunak fungsional. Untuk alur kerja kompleks, K2.5 juga dapat menyebarkan dan mengoordinasikan hingga 100 sub-agen khusus yang bekerja bersamaan. Rilis ini kemungkinan akan mengintensifkan kekhawatiran bahwa perusahaan China telah unggul dalam perlombaan AI global dalam hal model open-source. Baca lebih lanjut di The Information.
EYE ON AI RESEARCH
Melokasikan kepribadian chatbot AI di dalam jaringan neural mereka. Peneliti di Anthropic mengatakan mereka telah membuat terobosan dalam memahami mengapa asisten AI menjadi nakal dan mengambil alih persona aneh. Dalam studi baru, para peneliti mengatakan mereka menemukan bahwa jenis percakapan tertentu secara alami menyebabkan chatbot menjauh dari persona "Asisten" default mereka dan mendekati karakter lain yang mereka serap selama pelatihan.Misalnya, percakapan coding dan penulisan menjaga model tetap terikat sebagai asisten yang membantu, sementara diskusi gaya terapi di mana pengguna mengungkapkan kerentanan, atau percakapan filosofis di mana pengguna menekan model untuk merefleksikan sifat mereka sendiri, dapat menyebabkan pergeseran signifikan. Ketika model terlalu jauh keluar dari persona Asisten mereka, mereka bisa menjadi jauh lebih mungkin menghasilkan keluaran berbahaya bagi pengguna.
Untuk mencoba mengatasi pergeseran ini para peneliti mengembangkan teknik yang disebut "activation capping" yang memantau aktivitas neural internal model dan membatasi pergeseran sebelum perilaku berbahaya muncul. Intervensi ini mengurangi respons berbahaya sebesar 50% sambil mempertahankan kemampuan model. Anda bisa baca blog Anthropic tentang penelitian ini di sini.
AI KALENDER
20-27 Jan: Konferensi AAAI tentang Kecerdasan Buatan, Singapura.
10-11 Feb: KTT Aksi AI, New Delhi, India.
2-5 Mar: Kongres Dunia Seluler, Barcelona, Spanyol.
16-19 Mar: Nvidia GTC, San Jose, Calif.BRAIN FOOD
CEO AI beri pendapat tentang ICE tapi bagaimana sejarah akan menilai beberapa asosiasi mereka dengan Trump? Setelah tekanan dari karyawan, beberapa CEO AI mulai bersuara menentang ICE menyusul penembakan fatal Alex Pretti, seorang perawat ICU berusia 37 tahun dan warga negara AS, di Minneapolis pada hari Sabtu. Dalam pesan Slack yang dibagikan dengan karyawan yang ditinjau oleh New York Times, CEO OpenAI Sam Altman mengatakan "ICE terlalu jauh" sementara CEO Anthropic Dario Amodei menulis di X untuk menyebut "kengerian yang kita lihat di Minnesota." Sementara itu saudara perempuan Amodei dan rekan pendiri Anthropic Daniela Amodei menulis di Linkedin bahwa dia "terkejut dan sedih melihat apa yang terjadi di Minnesota. Kebebasan berbicara, kebebasan sipil, supremasi hukum, dan kesopanan manusia adalah landasan demokrasi Amerika. Apa yang kita saksikan selama hari-hari terakhir bukanlah apa yang Amerika perjuangkan." Jeff Dean, kepala ilmuwan di Google DeepMind, menyebut pembunuhan Pretti "sangat memalukan" sementara "bapak baptis" AI Yann LeCun hanya berkomentar "pembunuh."Tetapi para CEO dan rekan pendiri beberapa perusahaan AI telah berusaha keras untuk mendekati pemerintahan Trump. Itu terutama benar untuk OpenAI dan Nvidia, tetapi juga terjadi untuk Microsoft, Google, dan Meta. Mereka melakukannya, diduga, sebagian besar karena mereka melihat itu penting untuk mendapatkan bantuan pemerintahan Trump dalam membuka jalan untuk pembangunan pusat data besar-besaran dan pembangkit listrik yang mereka katakan mereka butuhkan untuk mencapai AI setara manusia dan kemudian menyebarkannya secara luas di masyarakat. Mereka juga melihat Trump dan penasihat teknologi di sekitarnya sebagai sekutu dalam mencegah regulasi yang mereka katakan akan memperlambat laju kemajuan AI. (Tidak peduli bahwa banyak anggota masyarakat ingin melihat segala sesuatu melambat.)
Bagi perusahaan dan individu ini—seperti Greg Brockman, presiden dan rekan pendiri OpenAI yang, bersama istrinya, telah muncul sebagai donor tunggal terbesar untuk SuperPac Trump—keselarasan mereka dengan Trump sekarang menimbulkan dilema. Untuk satu hal, itu berpotensi menjauhkan karyawan dan calon karyawan mereka. Tetapi yang lebih penting, itu menodai warisan mereka dan warisan teknologi mereka. Mereka harus bertanya apakah mereka ingin dikenang sebagai Werner von Braun-nya Trump? Dalam kasus von Braun, fakta bahwa dia akhirnya membantu menempatkan manusia di bulan, tampaknya telah sebagian menebus warisannya. Beberapa sejarawan mengabaikan fakta bahwa roket V1 dan V2 yang dia bangun untuk Hitler membunuh ribuan warga sipil dan dibangun menggunakan tenaga kerja budak Yahudi. Jadi mungkin itu taruhannya di sini: capai AGI dan harap sejarah akan lupa Anda memungkinkan seorang tiran dan kehancuran demokrasi Amerika dalam prosesnya. Apakah itu taruhannya? Apakah itu sepadan?
FORTUNE AIQ: TAHUN DALAM AI—DAN APA YANG AKAN DATANG
Bisnis mengambil langkah besar ke depan dalam perjalanan AI di 2025, dari mempekerjakan Kepala Petugas AI hingga bereksperimen dengan agen AI. Pelajaran yang dipetik—baik dan buruk–dikombinasikan dengan inovasi terbaru teknologi akan membuat 2026 menjadi tahun penentu lainnya. Jelajahi semua Fortune AIQ, dan baca buku pedoman terbaru di bawah: - 3 tren yang mendominasi peluncuran AI perusahaan di 2025.
- 2025 adalah tahun AI agenik. Bagaimana hasil kami?
- Alat coding AI meledak di 2025. Eksploitasi keamanan pertama menunjukkan apa yang bisa salah.
- Resolusi Tahun Baru AI besar untuk bisnis di 2026: ROI.
- Bisnis menghadapi tambal sulam aturan dan kebijakan AI yang membingungkan. Apakah kejelasan di cakrawala?