Penulis adalah seorang analis teknologi. Pada tahun 1946, kakek saya, yang menulis dengan nama “Murray Leinster”, menerbitkan cerita fiksi ilmiah yang berjudul “A Logic Named Joe”. Dalam cerita tersebut, setiap orang memiliki komputer (sebuah “logika”) yang terhubung ke jaringan global yang melakukan segala hal mulai dari perbankan hingga surat kabar dan panggilan video. Suatu hari, salah satu logika ini, Joe, mulai memberikan jawaban yang membantu untuk setiap permintaan di seluruh jaringan: misalnya, menciptakan racun yang tidak terdeteksi, atau menyarankan cara terbaik untuk merampok bank. Kepanikan pun muncul – “Periksa sirkuit sensor Anda!” – sampai mereka menemukan apa yang harus dicabut.
Selama kita telah memikirkan tentang komputer, kita telah memikirkan tentang membuat “kecerdasan buatan”, dan bertanya-tanya apa artinya itu. Ada sebuah lelucon kuno bahwa kecerdasan buatan adalah segala sesuatu yang belum berhasil, karena begitu berhasil itu hanya merupakan perangkat lunak. Kalkulator melakukan matematika super manusia, dan basis data memiliki ingatan super manusia, tetapi mereka tidak bisa melakukan hal lain, dan mereka tidak mengerti apa yang mereka lakukan, sama seperti mesin pencuci piring tidak mengerti piring. Basis data adalah super manusia, tetapi itu hanya perangkat lunak. Tetapi manusia memiliki sesuatu yang berbeda, dan begitu pula, pada beberapa skala, anjing, simpanse, gurita, dan banyak makhluk lainnya. Para peneliti kecerdasan buatan menyebut ini “kecerdasan umum”.
Jika kita bisa menciptakan kecerdasan buatan umum, atau AGI, seharusnya jelas bahwa ini akan sama pentingnya dengan komputasi, atau listrik atau mungkin uap. Hari ini kita mencetak mikrochip, tetapi bagaimana jika Anda bisa mencetak otak digital pada tingkat manusia, atau bahkan lebih dari tingkat manusia, dan melakukannya miliaran kali? Setidaknya, itu akan menjadi perubahan besar dalam apa yang bisa kita otomatisasi, dan seperti yang dikemukakan oleh kakek saya dan ribuan penulis fiksi ilmiah lainnya, itu mungkin berarti banyak hal lain: mesin uap tidak memiliki pendapat tentang manusia.
Setiap beberapa dekade sejak tahun 1946, telah ada gelombang kegembiraan bahwa ini mungkin mendekat (pada tahun 1970, pionir kecerdasan buatan Marvin Minsky mengklaim bahwa kita akan memiliki AGI tingkat manusia dalam tiga hingga delapan tahun). Model bahasa besar (LLM) yang melesat 18 bulan yang lalu telah memulai gelombang lainnya. Pekan ini, OpenAI dan Meta menunjukkan bahwa mereka hampir merilis model baru yang mungkin mampu merasionalkan dan merencanakan. Ilmuwan kecerdasan buatan yang serius yang sebelumnya berpikir AGI akan terjadi beberapa dekade lagi sekarang menyarankan bahwa itu mungkin jauh lebih dekat.
Namun, untuk setiap ahli yang berpikir AGI mungkin mendekat, ada yang lain yang tidak. Ada yang berpikir LLM mungkin akan berkembang menjadi AGI, dan ada yang berpikir kita masih membutuhkan sejumlah terobosan lebih lanjut yang tidak diketahui. Lebih penting lagi, mereka semua akan setuju bahwa kita sebenarnya tidak tahu.
Permasalahannya adalah kita tidak memiliki model teoretis yang koheren tentang apa sebenarnya kecerdasan umum, atau mengapa manusia lebih baik dalam hal tersebut daripada anjing. Demikian pula, kita tidak tahu mengapa LLM tampaknya berfungsi dengan baik, dan kita tidak tahu seberapa banyak mereka dapat meningkat. Kami memiliki banyak teori untuk bagian-bagian ini, tetapi kita tidak mengetahui seluruh sistem. Kami tidak dapat memetakan orang dan ChatGPT pada grafik dan mengatakan kapan salah satunya akan mencapai yang lain.
Memang, AGI sendiri adalah sebuah eksperimen pikiran: jenis AGI seperti apa yang sebenarnya akan kita dapatkan? Mungkin akan berkembang menjadi 100 kali lebih cerdas daripada manusia, atau mungkin akan lebih cepat tetapi tidak lebih pintar. Mungkin kita hanya akan menghasilkan AGI yang tidak lebih cerdas daripada anjing. Kita tidak tahu.
Itulah mengapa semua percakapan tentang AGI berubah menjadi analogi: jika Anda bisa membandingkannya dengan fisi nuklir maka Anda tahu harus berbuat apa. Tetapi sekali lagi, kita memiliki teori tentang fisi, dan kita tidak memiliki teori seperti itu tentang AGI. Oleh karena itu, analogi pilihan saya adalah program Apollo. Kami memiliki teori tentang gravitasi, dan teori tentang rekayasa roket. Kami tahu mengapa roket tidak meledak, mengapa mereka naik, dan seberapa jauh mereka perlu pergi. Kami tidak memiliki kesetaraan di sini. Kami tidak tahu mengapa LLM bekerja, seberapa besar mereka bisa berkembang, atau seberapa jauh mereka harus pergi. Namun, kita terus membuat mereka menjadi lebih besar, dan sepertinya mereka mendekati. Akankah mereka mencapainya? Mungkin!
Jadi, sikap preferensi Anda terhadap risiko nyata tetapi tidak diketahui apa? Apakah Anda khawatir, atau acuh tak acuh? Eksperimen pikiran mana yang Anda lebih sukai? Anggap saja, meskipun begitu, Anda memutuskan bahwa doomers benar: apa yang bisa Anda lakukan? Teknologi ini pada dasarnya bersifat publik. Model open source semakin menjamur. Untuk saat ini, LLM memerlukan banyak chip mahal (Nvidia menjual $47,5 miliar dalam tahun fiskal terakhir dan tidak dapat memenuhi permintaan), tetapi dalam jangka waktu satu dekade model-model akan menjadi lebih efisien dan chip-chip akan ada di mana-mana. Pada akhirnya, Anda tidak dapat melarang matematika. Itu akan terjadi dengan sendirinya.
Secara default, kegembiraan terbaru ini akan mengikuti semua gelombang kecerdasan buatan lainnya, dan menjadi “hanya” lebih perangkat lunak dan lebih otomatisasi. Otomatisasi selalu menimbulkan gesekan, kembali ke Luddites. Skandal Kantor Pos Inggris mengingatkan kita bahwa Anda tidak memerlukan AGI agar perangkat lunak merusak kehidupan orang. LLM akan menghasilkan lebih banyak rasa sakit dan skandal, tetapi kehidupan akan terus berlanjut. Setidaknya, itu adalah jawaban yang saya sukai.