Para tokoh terbesar dalam kecerdasan buatan berseteru mengenai bahaya teknologi yang berkembang pesat di Forum Ekonomi Dunia pekan ini, saat hype berputar di sekitar proyek infrastruktur kecerdasan buatan senilai $500 miliar yang dipromosikan oleh Donald Trump.
Para perintis kecerdasan buatan termasuk kepala Google DeepMind Sir Demis Hassabis, pendiri Anthropic Dario Amodei dan “bapak kecerdasan buatan” ilmuwan komputer Yoshua Bengio menggunakan pertemuan di Davos untuk mengulangi peringatan keras tentang ancaman kecerdasan buatan, sementara kepentingan komersial dan rivalitas geopolitik mengesampingkan kekhawatiran tentang keamanan.
Meskipun Hassabis mengakui bahwa “jin tidak bisa dimasukkan kembali ke dalam botol”, ia mengatakan kecerdasan buatan umum — ketika komputer melampaui kemampuan kognitif manusia — dapat mengancam peradaban jika berjalan di luar kendali atau direbut oleh pihak yang jahat. Hal ini terutama berlaku dengan model bahasa besar yang “open source” dan dapat diakses oleh semua orang.
“Ada jauh lebih banyak yang dipertaruhkan di sini daripada hanya perusahaan atau produk,” kata pemenang Nobel itu dalam wawancara dengan Financial Times. “[Ini] adalah masa depan umat manusia, kondisi manusia, dan ke mana kita ingin pergi sebagai masyarakat.”
Amodei, yang startup-nya membuat chatbot Claude dan didukung oleh Google dan Amazon, mengatakan ia khawatir tentang pemerintahan otoriter menggunakan kecerdasan buatan dan “sangat khawatir tentang skenario 1984, atau lebih buruk lagi”.
“Sains tidak tahu bagaimana kita bisa mengontrol mesin yang bahkan selevel dengan kecerdasan kita, dan bahkan lebih buruk jika mereka lebih pintar dari kita,” tambah Bengio selama sebuah panel. “Ada orang yang mengatakan, ‘Jangan khawatir, kita akan menemukan cara.’ Tetapi jika kita tidak menemukan cara, apakah Anda paham konsekuensinya?”
Sikap mereka dikritik sebagai hipokrit oleh Yann LeCun, ilmuwan kecerdasan buatan utama di Meta, yang telah menghabiskan miliaran untuk mengembangkan LLM open source yang disebut Llama. Dia mengatakan bahwa kekhawatiran semacam itu disertai dengan persaingan sengit para pesaing untuk membangun, dan menjual, model terbaik.
Disarankan
“Yoshua dan Dario telah menyuarakan pendapat menentang open source dan itu sebenarnya sangat berbahaya,” katanya dalam sebuah wawancara. “Hambatan terhadap distribusi open source akan menyebabkan perangkap regulasi oleh beberapa pemain, baik di pantai barat AS atau China. … [menempatkan] kekuasaan di tangan sejumlah kecil orang.
“Ini sangat aneh dari orang-orang seperti Dario. Kami bertemu kemarin di mana dia mengatakan bahwa manfaat dan risiko kecerdasan buatan sekitar pada urutan besaran yang sama, dan saya berkata, ‘jika Anda benar-benar percaya hal ini, mengapa Anda terus bekerja pada kecerdasan buatan?'” LeCun menambahkan. “Jadi saya pikir dia agak dua muka tentang ini.”
Sementara para ilmuwan dan insinyur membahas risiko-manfaat kecerdasan buatan, eksekutif bisnis menunjukkan antusiasme tak terbendung terhadap teknologi tersebut.
“Tidak ada yang kontra,” kata Ervin Tu, presiden grup investasi teknologi Belanda Prosus. “Jika Anda menghargai apa yang bisa dilakukan oleh model bahasa besar dan agen yang dilatih padanya, Anda akan sulit untuk tidak menyimpulkan bahwa mereka transformatif dan akan sangat mengganggu di setiap industri.”
Pada hari Rabu, suasana yang memanas semakin diperparah oleh OpenAI, SoftBank, dan Oracle mengumumkan usaha patungan infrastruktur kecerdasan buatan AS senilai $500 miliar yang disebut “Stargate”.
Trump menjadi tuan rumah para chief executive mereka, Sam Altman, Masayoshi Son, dan Larry Ellison, di Oval Office pada hari Selasa, sebelum menandatangani perintah eksekutif minggu ini yang akan menghilangkan banyak penghalang seputar pengembangan teknologi tersebut. Presiden AS yang baru mengatakan langkah-langkah tersebut akan memastikan keunggulan Amerika dalam teknologi tersebut.
“Di OpenAI, kami percaya infrastruktur adalah takdir,” kata kepala keuangan OpenAI Sarah Friar. “[Stargate] adalah tentang lebih banyak komputasi. Lebih banyak komputasi membangun model yang lebih baik. Model yang lebih baik menjawab masalah yang lebih kompleks dan memberikan lebih banyak manfaat bagi orang dan bisnis.”
Stargate mendominasi perdebatan di Davos selama sisa minggu itu, dengan banyak termasuk Elon Musk yang menggunakan situs jaringan sosialnya X untuk mempertanyakan bagaimana trio tersebut akan mendanai pengeluaran besar yang dijanjikan.
FT melaporkan pada hari Jumat bahwa Stargate belum mengamankan pendanaan yang diperlukan, tidak akan menerima pendanaan pemerintah, dan hanya akan melayani OpenAI setelah selesai. Sejauh ini, SoftBank dan OpenAI bermaksud untuk menyumbangkan lebih dari $15 miliar masing-masing untuk proyek ini, dengan harapan mengumpulkan kombinasi ekuitas dari pendukung-pendukung mereka dan utang untuk mendanai Stargate.
Usaha baru ini juga dianggap sebagai bukti terbaru dari retaknya hubungan antara Altman dan chief executive Microsoft Satya Nadella serta eksekutif AI puncaknya Mustafa Suleyman, mantan pendiri DeepMind yang meninggalkan startup-nya sendiri dan bergabung dengan Microsoft awal tahun lalu.
“Ketegangan yang muncul antara Mustafa Suleyman dan Sam Altman di Davos tahun lalu hanyalah awal,” kata chief executive Salesforce Marc Benioff, yang bersaing dengan Microsoft dalam menjual agen yang didukung kecerdasan buatan kepada bisnis.
“Microsoft sekarang mempercepat pengembangan AI mereka sendiri. … Pola ini mencerminkan sejarah Microsoft dengan ‘mitranya,'” tambah Benioff. “Ini bisa menjadi awal akhir dari hubungan tersebut, menjadikannya penting bagi OpenAI untuk memperluas ke platform lain dengan cepat.”
“Marc tidak tahu apa yang dia bicarakan,” kata juru bicara Microsoft Frank Shaw.
Microsoft telah menginvestasikan hampir $14 miliar di OpenAI sejak 2019 dan sebagai imbalannya bernegosiasi hak atas kekayaan intelektualnya dan menjadi penyedia komputasi awan eksklusifnya. Namun, perjanjian terakhir tersebut diakhiri bersamaan dengan pengumuman Stargate.
Di Davos, Nadella juga meragukan janji pengeluaran Stargate dan mempromosikan rencana pengeluaran modal Microsoft sebesar $80 miliar.
Disarankan
“Yang saya tahu hanyalah saya siap dengan $80 miliar saya,” katanya, kemudian menjawab Musk di platform media sosial X: “Dan semua uang ini bukan tentang menghipnotis AI, tetapi tentang membangun hal-hal yang berguna untuk dunia nyata!”
Stargate hanya merupakan contoh terbaru dari perlombaan infrastruktur untuk pusat data di AS saat bersiap untuk langkah selanjutnya dari booming ekonomi kecerdasan buatan. xAI milik Musk membangun superkomputer bernama “Colossus” yang berisi 100.000 chip Nvidia yang saling terhubung hanya dalam waktu tiga bulan tahun lalu dan berjanji akan meningkatkan jumlahnya 10 kali lipat.
BlackRock dan Microsoft bersiap untuk meluncurkan dana investasi kecerdasan buatan senilai $30 miliar untuk membangun pusat data dan proyek energi untuk memenuhi tuntutan yang semakin meningkat dari sektor teknologi. Pada hari Jumat, chief Meta Mark Zuckerberg mengatakan perusahaan akan menghabiskan antara $60 miliar hingga $65 miliar untuk infrastruktur modal tahun ini sambil memperluas tim AI mereka.
“Saya memiliki pertemuan pelanggan tanpa henti, di setiap sektor. Saya tidak pikir ada CEO tunggal yang sudah saya bicarakan yang tidak tahu bahwa mereka perlu mendeploy kecerdasan buatan,” kata Friar OpenAI. “AI bukan hanya menjadi agenda; itu adalah agenda. Ini bukan lagi hanya konsep abstrak atau visi futuristik. Ini sudah ada.”
Penyiaran tambahan oleh Harriet Agnew di Davos
\”