Tetap update dengan berita terbaru gratis
Cukup daftar ke sektor Teknologi myFT Digest — dikirim langsung ke inbox kamu.
Oscar Wilde pernah bilang kalau berburu rubah itu seperti mengejar sesuatu yang tidak bisa dimakan. Kalau dia masih hidup sekarang, mungkin dia akan bilang pencarian untuk kecerdasan buatan umum (AGI) itu seperti mengejar sesuatu yang tidak bisa dijelaskan.
Saat ini, ratusan miliar dolar dihabiskan untuk membangun model AI generatif; ini seperti balapan untuk mencapai kecerdasan setara manusia. Tapi bahkan para pembuatnya tidak sepenuhnya paham bagaimana model mereka bekerja atau setuju dengan arti pasti AGI.
Daripada heboh berlebihan soal AI yang akan bawa zaman baru yang makmur, bukankah lebih baik kita berhenti bicara besar dan mulai bangun sistem AI untuk tujuan yang lebih jelas dan bisa dicapai? Itu pendapat yang disampaikan dalam konferensi di Universitas Southampton dan Royal Society minggu lalu. “Kita harus berhenti tanya: apa mesinnya pintar? Dan mulai tanya: sebenarnya mesin ini ngapain aja sih?” kata Shannon Vallor, profesor di Universitas Edinburgh. Pendapatnya masuk akal.
Istilah AGI pertama kali populer di tahun 2000-an untuk menjelaskan bagaimana sistem AI suatu hari nanti bisa melakukan penalaran umum setara manusia (berbeda dengan AI sempit yang jago di satu hal saja). Sejak itu, AGI jadi tujuan suci industri ini, dipakai buat alasan menghabiskan uang yang sangat banyak.
Lab penelitian AI terkemuka, OpenAI dan Google DeepMind, punya misi perusahaan yang jelas untuk mencapai AGI, walau definisinya beda-beda. OpenAI mendefinisikannya sebagai: “sistem yang sangat mandiri dan lebih hebat dari manusia dalam sebagian besar pekerjaan yang bernilai ekonomi”. Tapi bahkan Sam Altman, bosnya, yang sudah tanda tangani kesepakatan senilai $1 triliun tahun ini untuk tingkatkan daya komputasi, mengakui kalau ini bukan istilah yang ‘sangat berguna’.
Bahkan jika kita terima tujuannya, tetap ada dua kekhawatiran. Apa yang terjadi kalau kita berhasil ciptakan AGI. Dan apa yang terjadi kalau kita gagal.
Konsensus di Silicon Valley, sebut saja begitu, menunjukkan bahwa AGI, bagaimanapun definisinya, akan tercapai dalam dekade ini. Tujuan ini dikejar dengan semangat seperti misionaris oleh lab-lab AI terkemuka, dengan keyakinan bahwa ini akan picu lonjakan produktivitas besar-besaran dan hasilkan keuntungan besar untuk investor.
Bahkan, beberapa pemimpin teknologi di pantai barat AS sudah dirikan komite aksi politik senilai $100 juta untuk dukung kandidat ‘pro-AI’ dalam pemilu 2026 dan hentikan regulasi yang dianggap menghambat. Mereka tunjuk pada adopsi chatbot bertenaga AI yang sangat cepat dan menertawakan para ‘doomer’, atau decelerationist, yang ingin perlambat kemajuan dan lemahkan AS dalam perlombaan teknologi dengan China.
Tapi AGI tidak akan jadi berkat ajaib yang instan. OpenAI sendiri akui bahwa AGI juga akan datang “dengan risiko penyalahgunaan yang serius, kecelakaan drastis, dan gangguan masyarakat”. Ini membantu menjelaskan kenapa para perusahaan asuransi sekarang ragu-ragu untuk berikan perlindungan komprehensif ke industri ini.
Beberapa ahli, seperti Eliezer Yudkowsky dan Nate Soares, peringatkan lebih jauh lagi, bahwa superintelligence yang nakal bisa jadi ancaman eksistensial bagi umat manusia. Judul buku terbaru mereka, *If Anyone Builds It, Everyone Dies*, kurang lebih merangkum argumennya.
Tapi tidak semua orang yakin bahwa kedatangan AGI sudah dekat. Para skeptis ragu bahwa trik favorit industri, yaitu menambah daya komputasi untuk hasilkan model bahasa besar yang lebih pintar, akan bawa kita ke AGI. “Kita masih butuh beberapa terobosan konsep lagi untuk mencapai AGI,” kata salah satu peneliti top.
Dalam survei yang dilakukan Asosiasi untuk Kemajuan Kecerdasan Buatan tahun ini, 76% dari 475 responden (kebanyakan akademisi) berpikir tidak mungkin atau sangat tidak mungkin pendekatan saat ini akan hasilkan AGI. Itu bisa jadi masalah: pasar saham AS tampaknya bergantung pada keyakinan sebaliknya.
Banyak peserta di acara minggu lalu membingkai ulang AI yang berasal dari Silicon Valley. Dunia tidak berada di jalur teknologi yang sudah ditakdirkan dengan hanya satu hasil. Pendekatan lain layak dikejar daripada bertaruh segitu banyak pada deep learning di balik model AI generatif. Perusahaan AI tidak bisa hanya mengabaikan masalah yang mereka ciptakan hari ini dengan janji masa depan yang lebih gemilang. Masyarakat lainnya harus menolak diperlakukan “seperti penumpang di belakang bus” yang berharap AI akan bawa kita ke tempat yang baik, kata Vallor.
Pioneer komputer berusia 85 tahun, Alan Kay, tokoh yang dihormati di industri, kasih sudut pandang lain. Dia berargumen bahwa AI tidak diragukan lagi bisa bawa manfaat nyata. Bahkan, AI membantunya mendeteksi kanker dalam pemindaian MRI-nya. “AI itu penyelamat nyawa,” katanya.
Tapi, Kay khawatir manusia mudah tertipu dan perusahaan AI tidak selalu bisa jelaskan bagaimana model mereka hasilkan sesuatu. Insinyur perangkat lunak, kata dia, seperti perancang pesawat atau pembangun jembatan, punya kewajiban untuk pastikan sistem mereka tidak menyebabkan bahaya atau gagal. Tema utama abad ini seharusnya adalah keamanan.
Cara terbaik ke depan adalah dengan memanfaatkan kecerdasan kolektif umat manusia, yang terkumpul secara bertahap dari generasi ke generasi. “Kita sudah punya kecerdasan buatan super manusia,” kata Kay. “Itu namanya sains.” AI sudah hasilkan beberapa terobosan indah, seperti model AlphaFold dari Google DeepMind yang memprediksi struktur lebih dari 200 juta protein — dan memenangkan para penelitinya penghargaan Nobel.
Kay soroti kekhawatiran khususnya tentang kerentanan kode yang dihasilkan AI. Mengutip sesama ilmuwan komputer Butler Lampson, dia bilang: “Mulai jin-jin itu dalam botol dan biarkan mereka tetap di sana.” Itu bukan pepatah yang buruk untuk zaman AI kita.