Zoe Kleinman
Editor Teknologi
BBC
Mark Zuckerberg dikabarkan telah memulai pengerjaan Koolau Ranch, kompleks seluas 1.400 hektar di pulau Kauai, Hawaii, sejak tahun 2014.
Rencananya akan mencakup sebuah shelter lengkap dengan pasokan energi dan makanannya sendiri, meski para tukang kayu dan listrik yang bekerja di lokasi dilarang membicarakannya karena perjanjian kerahasiaan, menurut laporan majalah Wired. Sebuah tembok setinggi enam kaki menghalangi pandangan terhadap proyek tersebut dari jalan terdekat.
Ditanya tahun lalu apakah ia sedang membuat bunker kiamat, pendiri Facebook itu memberikan jawaban "tidak" yang datar. Ruang bawah tanah yang membentang sekitar 5.000 kaki persegi itu, jelasnya, "hanyalah seperti shelter kecil, semacam ruang bawah tanah biasa."
Hal itu tidak menghentikan spekulasi — begitu pula dengan keputusannya membeli 11 properti di lingkungan Crescent Park, Palo Alto, California, yang rupanya menambahkan ruang bawah tanah seluas 7.000 kaki persegi di bawahnya.
Meski izin bangunannya menyebutkan ‘ruang bawah tanah’, menurut New York Times, beberapa tetangganya menyebutnya bunker. Atau bat cave-nya seorang miliarder.
Bloomberg via Getty Images
Zuckerberg dikabarkan menghabiskan $110 juta untuk menambahkan hampir selusin properti di sebuah lingkungan di Palo Alto ke dalam portofolionya.
Lalu ada spekulasi seputar miliarder Lembah Silikon lainnya, beberapa di antaranya tampaknya sibuk membeli sebidang tanah dengan ruang bawah tanah, yang siap untuk dikonversi menjadi bunker mewah senilai jutaan poundsterling.
Reid Hoffman, salah satu pendiri LinkedIn, pernah berbicara tentang "asuransi kiamat". Ini adalah sesuatu yang dimiliki sekitar setengah dari orang-orang super kaya, klaimnya sebelumnya, dengan Selandia Baru menjadi tujuan populer untuk rumah.
Jadi, mungkinkah mereka benar-benar bersiap untuk perang, dampak perubahan iklim, atau peristiwa katastropik lain yang belum kita ketahui?
Getty Images
Tuan Zuckerberg, difoto bersama istrinya Priscilla, telah mengatakan bahwa ruang bawah tanah di kompleksnya di Hawaii "hanyalah seperti shelter kecil."
Dalam beberapa tahun terakhir, kemajuan kecerdasan buatan (AI) hanya menambah daftar potensi malapetaka eksistensial itu. Banyak yang sangat khawatir dengan kecepatan perkembangannya yang begitu dahsyat.
Ilya Sutskever, kepala ilmuwan dan salah satu pendiri perusahaan teknologi Open AI, dilaporkan merupakan salah satunya.
Pada pertengahan 2023, perusahaan yang berbasis di San Francisco itu telah meluncurkan ChatGPT — chatbot yang kini digunakan ratusan juta orang di seluruh dunia — dan mereka bekerja cepat untuk pembaruannya.
Namun pada musim panas itu, Sutskever semakin yakin bahwa para ilmuwan komputer berada di ambang mengembangkan Kecerdasan Buatan Umum (AGI) — titik di mana mesin menyamai kecerdasan manusia — menurut sebuah buku karya jurnalis Karen Hao.
Dalam sebuah pertemuan, Sutskever menyarankan kepada rekan-rekannya untuk menggali shelter bawah tanah bagi para ilmuwan terbaik perusahaan sebelum teknologi yang begitu kuat diluncurkan ke dunia, lapor Hao.
"Kami pasti akan membangun bunker sebelum kami merilis AGI," katanya seperti banyak dilaporkan, meski tidak jelas siapa yang dia maksud dengan "kami".
AFP via Getty Images
"Kami pasti akan membangun bunker sebelum kami merilis AGI," Ilya Sutskever, pendiri Open AI, dilaporkan telah berkata.
Ini menerangi sebuah fakta aneh: banyak ilmuwan komputer terkemuka yang bekerja keras mengembangkan bentuk AI yang sangat cerdas, juga tampak sangat takut akan apa yang suatu hari nanti dapat dilakukannya.
Jadi, kapan tepatnya — jika pernah — AGI akan tiba? Dan mungkinkah ia benar-benar terbukti cukup transformasional untuk membuat orang biasa merasa takut?
Kedatangan ‘lebih cepat dari yang kita kira’
Para miliarder teknologi telah mengklaim bahwa AGI sudah dekat. Bos OpenAI Sam Altman mengatakan pada Desember 2024 bahwa itu akan datang "lebih cepat dari yang dipikirkan kebanyakan orang di dunia."
Sir Demis Hassabis, salah satu pendiri DeepMind, telah memprediksi dalam lima hingga sepuluh tahun ke depan, sementara pendiri Anthropic Dario Amodei menulis tahun lalu bahwa istilah pilihannya — "AI yang kuat" — bisa saja ada bersama kita sedini tahun 2026.
Yang lain merasa ragu. "Mereka terus memindahkan gawangnya," kata Dame Wendy Hall, profesor ilmu komputer di Universitas Southampton. "Tergantung pada siapa Anda berbicara." Kami sedang berbicara di telepon tapi saya hampir bisa mendengar mata yang menggelinding.
"Komunitas ilmiah mengatakan teknologi AI itu luar biasa," tambahnya, "tapi masih jauh dari kecerdasan manusia."
Perlu ada sejumlah "terobosan fundamental" terlebih dahulu, setuju Babak Hodjat, direktur teknologi perusahaan teknologi Cognizant.
Terlebih lagi, kecil kemungkinan ia tiba sebagai sebuah momen tunggal. Sebaliknya, AI adalah teknologi yang berkembang pesat, ia sedang dalam perjalanan dan ada banyak perusahaan di seluruh dunia yang berlomba mengembangkan versinya sendiri.
Namun satu alasan mengapa gagasan ini menggairahkan beberapa orang di Lembah Silikon adalah karena ia dianggap sebagai pertanda sesuatu yang lebih maju: ASI, atau Kecerdasan Super Buatan — teknologi yang melampaui kecerdasan manusia.
Konsep "singularitas" telah dianggap berasal dari matematikawan kelahiran Hungaria John von Neumann sejak tahun 1958, secara anumerta. Ini mengacu pada momen ketika kecerdasan komputer melampaui pemahaman manusia.
Getty Images
John von Neumann dikreditkan dengan salah satu penyebutan paling awal konsep singularitas, jauh sebelum ia memiliki nama — dia adalah seorang fisikawan, matematikawan, ekonom, dan ilmuwan komputer.
Baru-baru ini, buku Genesis 2024 yang ditulis oleh Eric Schmidt, Craig Mundy, dan mendiang Henry Kissinger, mengeksplorasi gagasan tentang teknologi super-kuat yang menjadi begitu efisien dalam pengambilan keputusan dan kepemimpinan sehingga kita akhirnya menyerahkan kendali sepenuhnya kepadanya.
Ini soal kapan, bukan jika, argumen mereka.
Uang untuk semua, tanpa perlu bekerja?
Mereka yang mendukung AGI dan ASI hampir bersifat evangelis tentang manfaatnya. Ia akan menemukan obat baru untuk penyakit mematikan, memecahkan perubahan iklim, dan menciptakan pasokan energi bersih yang tak ada habisnya, begitu argumen mereka. Zoe Kleinman
Editor Teknologi
BBC
Elon Musk bahkan mengklaim bahwa kecerdasan buatan super-pintar dapat mewujudkan era "pendapatan tinggi universal".
Ia baru-baru ini mendukung gagasan bahwa AI akan menjadi begitu murah dan tersebar luas sehingga hampir semua orang akan menginginkan "R2-D2 dan C-3PO pribadi" mereka sendiri (mengacu pada droid dari Star Wars).
"Setiap orang akan memiliki perawatan medis, makanan, transportasi, dan segala hal lainnya yang terbaik. Kelimpahan yang berkelanjutan," ia bersemangat.
AFP via Getty Images
Elon Musk telah mendukung gagasan bahwa setiap orang akan menginginkan R2-D2 dan C-3PO mereka sendiri.
Tentu saja ada sisi yang menakutkan. Mungkinkah teknologi ini dibajak oleh teroris dan digunakan sebagai senjata raksasa, atau bagaimana jika ia memutuskan sendiri bahwa umat manusia adalah penyebab masalah dunia dan menghancurkan kita?
"Jika ia lebih pintar darimu, maka kita harus menahannya," peringat Tim Berners-Lee, pencipta World Wide Web, dalam wawancara dengan BBC awal bulan ini. "Kita harus bisa mematikannya."
Getty Images
"Setiap orang akan memiliki perawatan medis, makanan, transportasi, dan segala hal lainnya yang terbaik. Kelimbahan yang berkelanjutan," demikian Musk sang miliarder pernah bersemangat.
Pemerintah mengambil beberapa langkah perlindungan. Di AS, tempat banyak perusahaan AI terkemuka berbasis, Presiden Biden mengeluarkan perintah eksekutif pada 2023 yang mewajibkan beberapa perusahaan untuk berbagi hasil uji keselamatan dengan pemerintah federal – meskipun Presiden Trump sejak itu mencabut sebagian perintah itu, menyebutnya sebagai "hambatan" bagi inovasi.
Sementara itu di Inggris, Institut Keselamatan AI – sebuah badan penelitian yang didanai pemerintah – didirikan dua tahun lalu untuk lebih memahami risiko yang ditimbulkan oleh AI mutakhir.
Lalu ada pula mereka yang superkaya dengan rencana asuransi kiamat mereka sendiri.
"Mengatakan ‘membeli rumah di Selandia Baru’ ibaratnya kode, paham-paham saja," ujar Reid Hoffman sebelumnya. Hal yang sama mungkin berlaku untuk bunker.
Namun ada kelemahan yang sangat manusiawi.
Saya pernah bertemu mantan pengawal seorang miliarder yang memiliki "bunker"-nya sendiri, yang mengatakan kepada saya bahwa prioritas pertama tim keamanannya, jika ini benar-benar terjadi, adalah menyingkirkan bos tersebut dan masuk ke dalam bunker sendiri. Dan dia tampak tidak bercanda.
Apakah ini semua omong kosong yang provokatif?
Neil Lawrence adalah profesor pembelajaran mesin di Universitas Cambridge. Baginya, seluruh debat ini sendiri adalah omong kosong.
"Gagasan tentang Kecerdasan Buatan Umum sama absurdnya dengan gagasan ‘Kendaraan Umum Buatan’," ia berargumen.
"Kendaraan yang tepat tergantung pada konteksnya. Saya menggunakan Airbus A350 untuk terbang ke Kenya, saya menggunakan mobil untuk pergi ke universitas setiap hari, saya berjalan ke kafetaria… Tidak ada kendaraan yang bisa melakukan semua ini."
Baginya, pembicaraan tentang AGI adalah pengalihan perhatian.
Smith Collection/Gado/Getty Images
Para pemimpin teknologi di Silicon Valley – tempat perusahaan-perusahaan AI penting dunia berbasis – sedang membicarakan prospek kecerdasan buatan umum.
"Teknologi yang [sudah] kita bangun memungkinkan, untuk pertama kalinya, orang biasa berbicara langsung dengan mesin dan berpotensi membuatnya melakukan apa yang mereka inginkan. Itu benar-benar luar biasa… dan sangat transformatif.
"Kekhawatiran besarnya adalah kita begitu terpikat pada narasi-narasi big tech tentang AGI sehingga kita melewatkan cara-cara di mana kita perlu membuat segalanya lebih baik bagi orang-orang."
Alat-alat AI saat ini dilatih dengan gunungan data dan pandai mengenali pola: apakah tanda-tanda tumor dalam pemindaian atau kata yang paling mungkin muncul setelah kata lain dalam urutan tertentu. Tetapi mereka tidak "merasa", seberapa meyakinkan pun respons mereka tampak.
"Ada beberapa cara ‘curang’ untuk membuat Model Bahasa Besar (fondasi chatbot AI) bertingkah seolah-olah ia memiliki memori dan belajar, tetapi ini tidak memuaskan dan cukup inferior dibandingkan manusia," kata Hodjat.
Vince Lynch, CEO IV.AI yang berbasis di California, juga waspada terhadap pernyataan-pernyataan berlebihan tentang AGI.
"Itu pemasaran yang hebat," katanya. "Jika Anda adalah perusahaan yang membangun hal terpintar yang pernah ada, orang akan ingin memberikan uang kepada Anda."
Ia menambahkan, "Itu bukan hal yang akan terwujud dalam dua tahun. Dibutuhkan begitu banyak komputasi, begitu banyak kreativitas manusia, begitu banyak trial and error."
Ditanya apakah ia percaya AGI akan pernah terwujud, ada jeda panjang.
"Saya sungguh tidak tahu."
Kecerdasan tanpa kesadaran
Dalam beberapa hal, AI sudah mengungguli otak manusia. Sebuah alat AI generatif dapat menjadi ahli dalam sejarah abad pertengahan satu menit, dan memecahkan persamaan matematika kompleks menit berikutnya.
Beberapa perusahaan teknologi mengatakan mereka tidak selalu tahu mengapa produk mereka merespons dengan cara tertentu. Meta mengatakan ada beberapa tanda sistem AI mereka meningkatkan diri mereka sendiri.
Getty Images News
Sam Altman pernah berspekulasi tentang bergabung dengan Peter Thiel di sebuah properti terpencil di Selandia Baru jika terjadi bencana global.
Pada akhirnya, bagaimanapun, tidak peduli seberapa pintar mesin menjadi, secara biologis otak manusia masih menang.
Ia memiliki sekitar 86 miliar neuron dan 600 triliun sinapsis, jauh lebih banyak daripada yang setara buatan. Otak tidak perlu jeda antar interaksi, dan ia terus beradaptasi dengan informasi baru.
"Jika Anda memberi tahu manusia bahwa kehidupan telah ditemukan di sebuah eksoplanet, mereka akan segera mempelajarinya, dan itu akan mempengaruhi pandangan dunia mereka ke depannya. Untuk sebuah LLM [Model Bahasa Besar], mereka hanya akan mengetahuinya selama Anda terus mengulanginya sebagai fakta," kata Hodjat.
"LLM juga tidak memiliki meta-kognisi, yang berarti mereka tidak begitu tahu apa yang mereka ketahui. Manusia tampaknya memiliki kapasitas introspektif, terkadang disebut sebagai kesadaran, yang memungkinkan mereka mengetahui apa yang mereka ketahui."
Ini adalah bagian mendasar dari kecerdasan manusia – dan satu yang belum direplikasi di laboratorium.
Kredit gambar utama: The Washington Post via Getty Images/ Getty Images MASTER. Zoe Kleinman
Editor Teknologi, BBC
Gambar utama memperlihatkan Mark Zuckerberg (di bawah) dan gambar stok sebuah bunker tak teridentifikasi di lokasi yang tidak diketahui (di atas).
BBC InDepth merupakan wadah di situs web dan aplikasi untuk analisis terbaik, dengan perspektif segar yang menantang asumsi serta liputan mendalam mengenai isu-isu terbesar masa kini. Kami juga menampilkan konten yang memikat pemikiran dari BBC Sounds dan iPlayer. Anda dapat mengirimkan umpan balik untuk bagian InDepth dengan mengeklik tombol di bawah.