Saat Dario Amodei bersemangat tentang Kecerdasan Buatan—yang hampir selalu dia lakukan—dia bergerak. Para pendiri dan CEO meloncat dari kursi di ruang konferensi dan berlari ke papan tulis. Dia melukis grafik dengan kurva hoki yang melengkung yang menunjukkan bagaimana kecerdasan mesin melengkung menuju tak terbatas. Tangan nya naik ke rambut keritingnya, seolah-olah dia sedang merawat neuronnya untuk mencegah crash sistem. Anda hampir bisa merasakan getaran tulangnya saat dia menjelaskan bagaimana perusahaannya, Anthropic, berbeda dengan pembangun model AI lainnya. Dia mencoba menciptakan kecerdasan buatan umum—atau seperti yang dia sebut, “AI yang powerful”—yang tidak akan pernah menjadi nakal. Ini akan menjadi orang baik, seorang penunjuk jalan menuju utopia. Dan meskipun Amodei penting bagi Anthropic, dia datang kedua setelah kontributor terpenting perusahaan. Seperti makhluk luar biasa lainnya (Beyoncé, Cher, Pelé), yang terakhir dipanggil dengan satu nama, dalam kasus ini nama biasa, mencerminkan kelenturannya dan kedamaian. Oh, dan itu adalah model AI. Hai, Claude!
Amodei baru saja kembali dari Davos, di mana dia menyalakan semangat di obrolan di depan perapian dengan menyatakan bahwa dalam dua tahun atau lebih Claude dan rekan-rekannya akan melampaui manusia dalam setiap tugas kognitif. Hampir pulih dari perjalanan, dia dan Claude sekarang menghadapi krisis tak terduga. Sebuah perusahaan China bernama DeepSeek baru saja merilis model bahasa besar state-of-the-art yang mereka klaim dibangun dengan sebagian dari apa yang dihabiskan oleh perusahaan seperti Google, OpenAI, dan Anthropic. Paradigma saat ini dari AI mutakhir, yang terdiri dari pengeluaran miliaran dollar pada perangkat keras dan energi, tiba-tiba terlihat goyah.
Amodei mungkin orang yang paling terkait dengan pendekatan maksimalis perusahaan-perusahaan ini. Ketika dia bekerja di OpenAI, Amodei menulis sebuah makalah internal tentang sesuatu yang telah dipikirkannya selama bertahun-tahun: sebuah hipotesis yang disebut sebagai Blok Besar Komputasi. Para arsitek AI tentu tahu bahwa semakin banyak data yang Anda miliki, semakin kuat model Anda bisa. Amodei mengusulkan bahwa informasi itu bisa lebih mentah dari yang mereka asumsikan; jika mereka memberi makanan megaton dari materi tersebut ke model mereka, mereka bisa mempercepat kedatangan AI yang powerful. Teori itu sekarang menjadi praktik standar, dan itulah mengapa model-model terkemuka sangat mahal untuk dibangun. Hanya beberapa perusahaan dengan kantong dalam yang bisa bersaing.
Sekarang ada pemain baru, DeepSeek—dari negara yang tunduk pada kontrol ekspor pada chip-chip terkuat—telah masuk tanpa blok besar. Jika AI powerful bisa datang dari mana saja, mungkin Anthropic dan rekan-rekannya adalah kaisar komputasi tanpa parit. Tapi Amodei membuatnya jelas bahwa DeepSeek tidak membuatnya begadang. Dia menolak gagasan bahwa model-model yang lebih efisien akan memungkinkan pesaing dengan anggaran rendah melompat ke garis depan. “Ini malah sebaliknya!” katanya. “Nilai dari apa yang Anda buat akan meningkat. Jika Anda mendapatkan lebih banyak kecerdasan per dolar, Anda mungkin ingin menghabiskan lebih banyak dolar pada kecerdasan!” Lebih penting daripada menghemat uang, menurutnya, adalah mencapai garis finish AGI. Itulah mengapa, bahkan setelah DeepSeek, perusahaan seperti OpenAI dan Microsoft mengumumkan rencana untuk menghabiskan ratusan miliar dolar lagi pada pusat data dan pembangkit listrik.
Yang dipikirkan Amodei adalah bagaimana manusia bisa mencapai AGI dengan aman. Itu adalah pertanyaan yang sangat sulit sehingga membuatnya dan enam pendiri Anthropic lainnya meninggalkan OpenAI pada awalnya, karena mereka merasa pertanyaan itu tidak bisa dipecahkan dengan CEO Sam Altman di kemudi. Di Anthropic, mereka sedang berlomba untuk menetapkan standar global untuk semua model AI di masa depan, sehingga mereka benar-benar membantu manusia daripada, dengan cara apa pun juga, meledakkan mereka. Tim berharap dapat membuktikan bahwa mereka bisa membangun AGI yang sangat aman, etis, dan efektif sehingga pesaing mereka melihat kebijakan dalam mengikuti. Amodei menyebut ini sebagai Lomba ke Puncak.
Di situlah Claude masuk. Berada di kantor Anthropic dan Anda akan segera menyadari bahwa misi itu akan menjadi tidak mungkin tanpanya. Anda tidak pernah bertemu dengan Claude di kafe, duduk di ruang konferensi, atau naik lift ke salah satu dari 10 lantai perusahaan. Tapi Claude ada di mana-mana dan telah ada sejak awal, ketika insinyur-insinyur Anthropic pertama kali melatihnya, membesarkannya, dan kemudian menggunakannya untuk menghasilkan Claude yang lebih baik. Jika mimpi Amodei menjadi kenyataan, Claude akan menjadi model sayap dan peri godmodel kita saat kita memasuki era kelimpahan. Tapi inilah pertanyaan yang membingungkan, yang disarankan oleh penelitian perusahaan sendiri: Apakah Claude sendiri bisa dipercaya untuk bermain dengan baik?
Salah satu pendiri Anthropic Amodei adalah saudara perempuannya. Pada tahun 1970-an, orang tua mereka, Elena Engel dan Riccardo Amodei, pindah dari Italia ke San Francisco. Dario lahir pada tahun 1983 dan Daniela empat tahun kemudian. Riccardo, seorang tukang kulit dari kota kecil dekat pulau Elba, sakit ketika anak-anak itu kecil dan meninggal ketika mereka dewasa muda. Ibu mereka, seorang Yahudi Amerika yang lahir di Chicago, bekerja sebagai manajer proyek untuk perpustakaan.