Pada pandangan pertama, sebuah serangkaian kertas penelitian terbaru yang diproduksi oleh laboratorium kecerdasan buatan terkemuka di Universitas British Columbia di Vancouver mungkin tidak terlihat begitu menonjol. Menampilkan peningkatan inkremental pada algoritma dan ide-ide yang ada, mereka terlihat seperti isi konferensi atau jurnal kecerdasan buatan yang biasa.
Namun, penelitian ini sebenarnya luar biasa. Itu karena itu sepenuhnya hasil karya seorang “ilmuwan kecerdasan buatan” yang dikembangkan di laboratorium UBC bersama dengan para peneliti dari Universitas Oxford dan sebuah startup bernama Sakana AI.
Proyek ini menunjukkan langkah awal menuju apa yang mungkin menjadi trik revolusioner: membiarkan kecerdasan buatan belajar dengan menciptakan dan mengeksplorasi ide-ide baru. Mereka hanya tidak terlalu baru saat ini. Beberapa kertas menjelaskan penyesuaian untuk meningkatkan teknik pembuatan gambar yang dikenal sebagai pemodelan difusi; yang lain menguraikan pendekatan untuk mempercepat pembelajaran dalam jaringan saraf yang dalam.
“Ini bukan ide terobosan. Mereka tidak terlalu kreatif,” mengakui Jeff Clune, profesor yang memimpin laboratorium UBC. “Tapi mereka terlihat seperti ide yang cukup keren yang mungkin dicoba seseorang.”
Sehebat apa pun program kecerdasan buatan hari ini, mereka terbatas oleh kebutuhan mereka untuk mengonsumsi data pelatihan yang dihasilkan oleh manusia. Jika program kecerdasan buatan dapat belajar secara terbuka, dengan bereksperimen dan mengeksplorasi ide-ide “menarik”, mereka mungkin membuka kemampuan yang melebihi apa pun yang telah ditunjukkan manusia kepada mereka.
Laboratorium Clune sebelumnya telah mengembangkan program kecerdasan buatan yang dirancang untuk belajar dengan cara ini. Misalnya, satu program bernama Omni mencoba menghasilkan perilaku karakter virtual dalam beberapa lingkungan yang mirip dengan video game, menyimpan yang tampak menarik dan kemudian mengiterasinya dengan desain baru. Program-program ini sebelumnya memerlukan instruksi yang dikodekan tangan untuk mendefinisikan ke-menarikan. Namun, model bahasa besar memberikan cara untuk membiarkan program-program ini mengidentifikasi apa yang paling menarik. Proyek terbaru lain dari laboratorium Clune menggunakan pendekatan ini untuk membiarkan program kecerdasan buatan membayangkan kode yang memungkinkan karakter virtual melakukan berbagai hal dalam dunia yang mirip dengan Roblox.
Ilmuwan kecerdasan buatan adalah salah satu contoh dari kemungkinan-kemungkinan laboratorium Clune. Program ini menciptakan eksperimen pembelajaran mesin, memutuskan apa yang paling menjanjikan dengan bantuan LLM, kemudian menulis dan menjalankan kode yang diperlukan – bilas dan ulangi. Meskipun hasilnya kurang memuaskan, Clune mengatakan program pembelajaran terbuka, seperti model bahasa itu sendiri, bisa menjadi jauh lebih mampu saat daya komputer yang memberi makan mereka ditingkatkan.
“Rasanya seperti menjelajahi benua atau planet baru,” kata Clune tentang kemungkinan yang terbuka oleh LLMs. “Kita tidak tahu apa yang akan kita temukan, tetapi di mana pun kita berpaling, ada sesuatu yang baru.”
Tom Hope, seorang profesor asisten di Universitas Ibrani Yerusalem dan seorang peneliti ilmiah di Allen Institute for AI (AI2), mengatakan ilmuwan kecerdasan buatan, seperti LLMs, tampak sangat turunan dan tidak dapat diandalkan. “Tidak ada komponen yang dapat dipercaya saat ini,” katanya.
Hope menunjukkan bahwa upaya untuk mengotomatisasi elemen-elemen penemuan ilmiah telah terjadi jauh kembali ke pekerjaan para pionir kecerdasan buatan Allen Newell dan Herbert Simon pada tahun 1970-an, dan, kemudian, pekerjaan Pat Langley di Institut Studi Pembelajaran dan Keahlian. Dia juga mencatat bahwa beberapa kelompok penelitian lain, termasuk tim di AI2, baru-baru ini menggunakan LLMs untuk membantu menghasilkan hipotesis, menulis makalah, dan meninjau penelitian. “Mereka menangkap semangat zaman,” kata Hope tentang tim UBC. “Arahnya, tentu saja, sangat berharga, berpotensi.”
Apakah sistem berbasis LLM bisa menciptakan ide-ide yang benar-benar baru atau terobosan juga belum jelas. “Itu adalah pertanyaan triliunan dolar,” kata Clune.
Meskipun tanpa terobosan ilmiah, pembelajaran terbuka mungkin sangat penting untuk mengembangkan sistem kecerdasan buatan yang lebih mampu dan berguna saat ini. Laporan yang diposting bulan ini oleh Air Street Capital, sebuah perusahaan investasi, menyoroti potensi dari karya Clune untuk mengembangkan agen kecerdasan buatan yang lebih kuat dan dapat diandalkan, atau program yang secara otonom melakukan tugas-tugas yang berguna di komputer. Perusahaan-perusahaan kecerdasan buatan besar semua tampaknya melihat agen sebagai hal besar selanjutnya.
Minggu ini, laboratorium Clune mengungkapkan proyek pembelajaran terbuka terbarunya: program kecerdasan buatan yang menciptakan dan membangun agen kecerdasan buatan. Agen yang dirancang oleh AI melebihi agen yang dirancang oleh manusia dalam beberapa tugas, seperti matematika dan pemahaman bacaan. Langkah selanjutnya akan merancang cara mencegah sistem seperti itu menghasilkan agen yang berperilaku buruk. “Ini berpotensi berbahaya,” kata Clune tentang pekerjaan ini. “Kita harus melakukannya dengan benar, tetapi saya pikir itu mungkin.”