Dario Amodei, CEO perusahaan AI Anthropic, meluncurkan sebuah esai sepanjang 20.000 kata pada hari Senin berjudul The Adolescence of Technology. Dia memperingatkan bahwa AI akan “menguji siapa kita sebagai spesies” dan bahwa “manusia akan diberikan kekuatan yang hampir tak terbayangkan, dan sangat tidak jelas apakah sistem sosial, politik, dan teknologi kita punya kematangan untuk menggunakannya.”
Esai itu, yang diterbitkan di blog pribadinya, telah menciptakan banyak sekali kegemparan di media sosial. Tapi penting untuk menunjukkan apa yang baru dan tidak baru disini.
Amodei sudah lama khawatir tentang risiko katastrofik AI. Dia telah memperingatkan risiko AI membantu orang membuat senjata biologis atau kimia. Dia telah memperingatkan tentang AI kuat yang lepas dari kendali manusia. Dia juga memperingatkan tentang kemungkinan besar kehilangan pekerjaan saat AI makin mampu dan diadopsi banyak industri. Serta dia memperingatkan bahaya kekuatan dan kekayaan yang terpusat saat adopsi AI tumbuh.
Dalam esai terbarunya, Amodei mengulang semua kekhawatiran ini—meskipun kadang dengan bahasa yang lebih keras dan kadang dengan perkiraan waktu yang lebih singkat kapan risiko ini akan terjadi. Berita-berita tentang esainya, cukup bisa dimengerti, fokus pada penjelasan blak-blakan Amodei tentang risiko AI.
Di antara perusahaan AI, Anthropic dikenal mungkin paling fokus pada keamanan AI—fokus yang ternyata membantu mereka mendapatkan daya tarik komersial di perusahaan besar, seperti dijelaskan Fortune dalam cerita sampul Januari tentang perusahaannya. Ini karena banyak langkah yang diambil Anthropic untuk memastikan modelnya tidak membawa risiko katastrofik bagi manusia juga membuat model-model ini lebih andal dan terkendali—fitur yang dihargai kebanyakan bisnis.
Jadi dalam banyak hal, esai Amodei adalah pesan pemasaran sepanjang novela, sekaligus nubuat berapi-api dan seruan untuk bertindak.
Ini bukan berarti Amodei tidak tulus. Hanya untuk menunjukkan bahwa esainya bekerja di banyak tingkat, dan bahwa apa yang dia pikir dibutuhkan untuk mengamankan masa depan manusia seiring kemajuan AI juga selaras dengan posisi merek Anthropic yang ada di pasar. Sangat berarti, contohnya, berapa kali Amodei menyebut “konstitusi” yang mereka kembangkan untuk model AI Claude sebagai faktor penting yang mengurangi berbagai risiko—dari bioterorisme sampai risiko model lepas dari kendali manusia. Konstitusi ini, yang baru saja diperbarui Anthropic, adalah salah satu hal yang membedakan model AI Anthropic dengan yang ditawarkan pesaing seperti OpenAI, Google, Meta, dan xAI milik Elon Musk.
Yang lebih layak berita daripada beberapa risiko yang ditunjuk Amodei dalam esai adalah solusi spesifik yang dia serukan. Dia bilang, misalnya, bahwa individu kaya punya kewajiban untuk membantu masyarakat menghadapi efek ekonomi potensial dari AI, termasuk membantu mereka yang mungkin kehilangan mata pencaharian karena AI. Dia mengatakan bahwa semua pendiri Anthropic berkomitmen untuk menyumbang 80% kekayaan mereka untuk filantropi. Dia juga bilang bahwa karyawan Anthropic secara individu telah menjanjikan miliaran dolar saham Anthropic untuk amal, dan Anthropic menyesuaikan donasi tersebut.
Dia mengkritik orang lain di Silicon Valley karena tidak melakukan hal serupa, dengan berkata “sangat menyedihkan bagi saya bahwa banyak individu kaya (khususnya di industri teknologi) baru-baru ini mengadopsi sikap sinis dan nihilistik bahwa filantropi pasti penipuan atau tidak berguna.”
Amodei mengatakan bahwa perusahaan AI, seperti miliknya, harus bekerja dengan pelanggan perusahaan untuk mengarahkan mereka ke penerapan AI yang mendapatkan nilai dari lini bisnis baru dan pertumbuhan pendapatan, bukan hanya dari penghematan tenaga kerja. “Perusahaan sering punya pilihan antara ‘penghematan biaya’ (melakukan hal yang sama dengan lebih sedikit orang) dan ‘inovasi’ (melakukan lebih banyak dengan jumlah orang yang sama),” tulis Amodei. “Pasar pada akhirnya akan menghasilkan keduanya, dan perusahaan AI kompetitif mana pun harus melayani keduanya, tapi mungkin ada ruang untuk mengarahkan perusahaan ke inovasi bila mungkin, dan itu bisa memberi kita waktu. Anthropic aktif memikirkan hal ini.”
Dia juga berkata bahwa bisnis punya kewajiban untuk kreatif tentang cara menugaskan kembali karyawan yang pekerjaannya terganggu oleh AI, daripada hanya memecat mereka. Dia menyentuh ide bahwa “dalam jangka panjang, di dunia dengan total kekayaan besar, di mana banyak perusahaan meningkat sangat besar nilainya karena peningkatan produktivitas dan konsentrasi modal, mungkin bisa dilakukan untuk membayar karyawan manusia bahkan lama setelah mereka tidak lagi memberikan nilai ekonomi dalam arti tradisional.” Dan dia bilang bahwa Anthropic sedang mempertimbangkan beberapa “jalur kemungkinan” untuk karyawannya sendiri yang akan dibagikan secara publik nanti.
Akhirnya, Amodei menyerukan intervensi pemerintah untuk mendistribusikan kembali kekayaan. Dia bilang cara paling jelas untuk melakukan ini adalah dengan sistem pajak progresif, yang bisa umum atau ditargetkan khusus pada keuntungan besar yang dia pikir akan segera didapat perusahaan AI. (Tentu, saat ini, Anthropic dan kebanyakan perusahaan lain yang fokus hanya membangun model AI sangat tidak menguntungkan. Tapi Anthropic memberi tahu investornya tahun lalu bahwa mereka berada di jalur yang tepat untuk impas pada akhir 2028.)
Untuk kepentingan orang kaya yang akan menentang pajak seperti itu, Amodei bilang dia punya “argumen pragmatis untuk miliarder dunia bahwa mendukung versi baik dari [pajak] itu menguntungkan mereka: jika mereka tidak mendukung versi yang baik, mereka pasti akan dapat versi buruk yang dirancang oleh massa.”
Berita-berita tentang esai Amodei pasti fokus pada prediksinya bahwa 50% pekerjaan kerah putih tingkat pemula akan hilang dalam satu sampai lima tahun. Amodei membuat prediksi sama di panggung World Economic Forum di Davos minggu lalu, tapi komentarnya tertutupi oleh banyak liputan pidato Presiden AS Donald Trump di konferensi itu.
Amodei juga menulis dalam esainya bahwa AI yang sepintar semua manusia akan datang dalam dua tahun ke depan, yang mungkin merupakan prediksi paling eksplisitnya sejauh ini tentang kapan pencapaian besar dalam sejarah komputer dan manusia ini akan terjadi.
Amodei bilang, kemampuan AI setingkat manusia butuh waktu lama untuk menyebar di masyarakat. Karena itu, dia pikir hanya 50% pekerja pemula yang akan tersingkir dalam lima tahun kedepan.
Penulis fiksi ilmiah William Gibson pernah bilang, “masa depan sudah ada di sini, cuma belum merata.” Perlu diingat, dulu Amodei tidak selalu tepat memprediksi dampak AI, meski dia cukup akurat tentang kemunculan kemampuan AI tertentu.
Contohnya, awal tahun lalu, Amodei mengatakan dalam enam sampai sembilan bulan, AI akan menulis sampai 90% kode perangkat lunak. Ternyata, itu benar untuk Anthropic sendiri—perusahaan itu baru-baru ini bilang alat Claude CoWork hampir seluruhnya ditulis oleh Claude—tapi tidak akurat untuk kode secara keseluruhan. Di kebanyakan bisnis lain, jumlah kode yang ditulis AI sekitar 20% sampai 40%—tapi angka itu meningkat dari hampir 0% tiga tahun lalu. Jadi, Amodei mungkin bukan peramal yang sempurna, tapi tetap perlu di dengarkan.
Ikuti kami di Fortune Workplace Innovation Summit tanggal 19–20 Mei 2026 di Atlanta. Era baru inovasi tempat kerja sudah datang—dan cara lama sedang berubah. Di acara eksklusif ini, pemimpin-pemimpin paling inovatif akan berkumpul untuk membahas bagaimana AI, manusia, dan strategi bersatu membentuk masa depan pekerjaan. Daftar sekarang.