Dario Amodei memiliki beberapa pemikiran mendalam tentang kecerdasan buatan. Sekitar 38 halaman pemikiran, tepatnya. Pendiri Anthropic, pencipta Claude, menerbitkan pada hari Senin sebuah esai panjang berjudul “The Adolescence of Technology,” di mana ia membahas potensi bahaya sangat besar yang akan dihadirkan oleh pengembangan superintelijen bagi dunia.
Perusahaannya akan terus mengembangkan AI, ngomong-ngomong.
Amodei, yang sesekali merilis esai semacam ini, menyatakan bahwa umat manusia akan memasuki era baru. “Saya yakin kita sedang memasuki sebuah ritus peralihan, yang penuh gejolak dan tak terelakkan, yang akan menguji jati diri kita sebagai spesies.” Era ini bisa jadi yang terakhir jika segala sesuatunya salah arah. “Umat manusia akan segera diberi kekuatan yang hampir tak terbayangkan, dan sangat tidak jelas apakah sistem sosial, politik, dan teknologi kita memiliki kedewasaan untuk mengelolanya,” tulis Amodei, yang kemudian menambahkan bahwa “otoritarianisme yang didukung AI membuat saya takut.”
Catatan tambahan: Anthropic menawarkan Claude kepada pemerintah federal era administrasi Trump dengan harga $1 per tahun.
Yang patut diacungi jempol, Amodei memiliki imajinasi yang sangat hidup yang ia pamerkan di sepanjang esainya. Ia mengisahkan saat gerakan agama Aum Shinrikyo melepaskan gas sarin di kereta bawah tanah Tokyo pada 1995, yang mengakibatkan 14 korban jiwa dan banyak luka-luka. Ia kemudian menyatakan bahwa menaruh seorang “jenius di saku setiap orang” akan menghilangkan hambatan untuk melancarkan serangan seperti itu, atau bahkan yang lebih mematikan.
“Orang kesepian yang terganggu yang ingin membunuh orang tetapi tidak memiliki disiplin atau keahlian untuk melakukannya, kini akan ditingkatkan ke tingkat kemampuan seorang virolog bergelar PhD, yang kecil kemungkinannya memiliki motivasi tersebut,” tulisnya. “Saya khawatir ada sejumlah besar orang seperti itu di luar sana, dan jika mereka memiliki akses ke cara mudah untuk membunuh jutaan orang, cepat atau lambat salah satu dari mereka akan melakukannya.”
Ngomong-ngomong, tahukah Anda bahwa salah satu evaluasi yang Anthropic terbitkan dalam laporan ‘Kartu Sistem’ untuk Claude Opus 4.5 adalah sebuah uji coba di mana model ditugaskan untuk membantu para virolog merekonstruksi virus yang menantang?
Amodei tentu saja terkesan dengan laju peningkatan AI dalam beberapa tahun terakhir, tetapi memperingatkan bahwa jika perkembangannya terus berlanjut pada tingkat yang sama, maka kita tidak jauh dari menciptakan superintelijen—istilah yang dulu disebut sebagai kecerdasan umum buatan (AGI) oleh orang-orang seperti Amodei, tetapi mereka telah beralih dari istilah itu. “Jika pertumbuhan eksponensial ini berlanjut—yang tidak pasti, tetapi kini memiliki rekam jejak selama satu dekade yang mendukungnya—maka mustahil lebih dari beberapa tahun lagi sebelum AI lebih unggul dari manusia dalam hampir segala hal,” tulisnya.
Apa sebenarnya artinya? Amodei memberikan sebuah analogi: “Bayangkan jika sebuah ‘negara jenius’ benar-benar muncul di suatu tempat di dunia sekitar tahun 2027. Bayangkan, katakanlah, 50 juta orang, yang semuanya jauh lebih mampu daripada pemenang Nobel, negarawan, atau teknolog mana pun,” tulisnya. “Bayangkan Anda adalah penasihat keamanan nasional sebuah negara besar, yang bertugas menilai dan merespons situasi tersebut. Lebih lanjut, bayangkan karena sistem AI dapat beroperasi ratusan kali lebih cepat dari manusia, ‘negara’ ini beroperasi dengan keunggulan waktu relatif terhadap semua negara lain: untuk setiap aksi kognitif yang dapat kita lakukan, negara ini dapat melakukan sepuluh.”
Dari kerangka itu, CEO Anthropic mengatakan penting untuk mempertimbangkan apa sebenarnya kekhawatiran terbesar kita. Amodei mengemukakan daftarnya sendiri—termasuk “Risiko Otonomi,” “penyalahgunaan untuk penghancuran,” dan “penyalahgunaan untuk merebut kekuasaan”—dan pada akhirnya menyimpulkan bahwa laporan tentang negara itu akan menganggapnya sebagai “ancaman keamanan nasional paling serius yang kita hadapi dalam satu abad, mungkin sepanjang masa.”
Pengingat bahwa Anthropic sedang membangun negara dalam analogi tersebut.
Anthropic, lebih dari perusahaan AI lainnya, telah proaktif dalam mengidentifikasi risiko terkait pengembangan AI dan mengadvokasi pengawasan regulasi tambahan serta perlindungan konsumen (apakah Anda percaya itu tulus atau bentuk perebutan regulasi, itu tergantung sudut pandang, tetapi setidaknya mereka pandai berkata-kata). Namun mereka terus membangun mesin yang mereka peringatkan dapat mendatangkan malapetaka. Anda tidak harus membangun mesin kiamat itu! Dan terus terang, terus membangunnya merusak keseriusan peringatan mereka tentang ancaman eksistensial.
Jika benar-benar ada kekhawatiran bahwa umat manusia mungkin belum cukup dewasa untuk menangani AI, mungkin sebaiknya jangan membuatnya tersedia secara publik dengan hambatan akses minimal, dan kemudian membanggakan jumlah pengguna aktif bulanan Anda.