Era Masa Keemasan menggambarkan betapa kuatnya kekuasaan perusahaan terkonsentrasi, ketika raksasa industri seperti Cornelius Vanderbilt mengumpulkan begitu banyak kekuasaan sampai mereka bisa mengontrol waktu itu sendiri. Tanggal 18 November 1883 dikenal sebagai "Hari Dua Siang" setelah perusahaan kereta api di AS dan Kanada menciptakan empat zona waktu berbeda di Amerika Utara, menggantikan zona waktu yang kacau di benua itu, menyebabkan banyak jam berdentang siang dua kali.
Sekarang, jenis konsentrasi baru muncul di era AI, dan bahkan beberapa perancangnya—termasuk CEO Anthropic Dario Amodei—mengatakan mereka sangat khawatir dengan betapa cepatnya dan tidak sengajanya kekuasaan itu terkonsentrasi.
Dalam sebuah wawancara di podcast WTF is dengan host dan investor India Nikhil Kamath, Amodei mengatakan sebagian alasan mengapa beberapa perusahaan AI mengumpulkan begitu banyak kekuasaan hanyalah kebetulan belaka.
"Ada unsur acak dalam bagaimana beberapa orang akhirnya memimpin perusahaan-perusahaan ini yang tumbuh sangat cepat dan kelihatannya, dalam waktu dekat, akan menggerakkan begitu banyak bagian ekonomi," kata Amodei.
Dia melanjutkan, menunjukan kekhawatirannya dengan kekuasaan itu. "Saya sudah berkata terbuka, secara publik, dan bukan untuk pertama kalinya, bahwa saya setidaknya agak tidak nyaman dengan jumlah konsentrasi kekuasaan yang terjadi di sini," katanya. "Hampir semalam, hampir tidak sengaja."
Amodei sudah lama vokal tentang kekhawatirannya mengenai konsentrasi kekuasaan di tengah perkembangan AI yang cepat. CEO itu menerbitkan esai sepanjang 20.000 kata berjudul "Masa Remaja Teknologi" pada Januari yang memperingatkan bahaya sistem yang mengumpulkan "kekayaan pribadi hingga triliunan" untuk segelintir orang berkuasa dan memberi mereka pengaruh politik yang sangat besar. Dalam esai itu, Amodei mengatakan dia dan enam pendiri Anthropic lainnya berjanji untuk menyumbangkan 80% kekayaan mereka karena takut akan dampak konsentrasi kekayaan pada masyarakat.
Saat ini, segelintir lab AI di AS dan Cina mendominasi pengembangan AI, sampai-sampai pengumuman tentang kemajuan model AI mengguncang pasar saham. Awal bulan ini, Anthropic merilis Claude Cowork, yang berisi plugin khusus untuk industri seperti penjualan dan keuangan. Peluncuran itu memicu penjualan saham perangkat lunak senilai triliunan dolar karena investor berspekulasi teknologi baru itu bisa membuat perangkat lunak-sebagai-layanan menjadi usang.
Investasi AI yang memecahkan rekor menumpuk kekayaan bagi orang kaya, menambah perkiraan $550 miliar ke kekayaan bersih miliader teknologi AS pada tahun 2025, seperti dilaporkan Financial Times. Pemegang saham Tesla tahun lalu menyetujui paket bayar fantastis senilai $1 triliun untuk CEO Elon Musk, menempatkannya di jalur untuk menjadi triliuner pertama.
Sebuah tsunami AI di cakrawala
Amodei mengatakan dia percaya kemajuan AI akan melesat naik, membandingkan pengaruhnya yang mendekat seperti gelombang yang datang.
"Ini seolah-olah tsunami ini datang ke arah kita," kata Amodei. "Ia begitu dekat sampai kita bisa melihatnya di cakrawala."
Anthropic adalah bagian dari pergeseran besar yang mengembangkan gelombang besar itu. Selain plugin untuk penjualan dan keuangan, perusahaan itu pada Selasa meluncurkan beberapa penawaran perusahaan lain, dirancang untuk sumber daya manusia dan perbankan investasi.
Namun, Amodei memperingatkan banyak orang masih tidak sadar akan kenyataan kemampuan revolusioner AI.
"Orang-orang membuat penjelasan ini: ‘Itu bukan benar-benar tsunami, itu hanya trik cahaya,’" katanya.
Yang mungkin terlihat tidak biasa untuk CEO salah satu perusahaan teknologi yang diuntungkan secara materi dari kemajuan AI yang cepat, Amodei mengatakan dia termotivasi oleh rasa tanggung jawab, bukan keuntungan.
"Memperingatkan tentang risiko tidak ada dalam kepentingan komersial kami," katanya. "Mengatakan bahwa model yang kami bangun bisa berbahaya, apapun yang orang mungkin katakan, itu bukan strategi pemasaran yang efektif dan itu bukan alasan kami melakukannya."