Pendiri OpenAI Ilya Sutskever Memprediksi Akhir dari Pra-Pelatihan Kecerdasan Buatan

Ilya Sutskever, pendiri OpenAI dan mantan ilmuwan kepala, membuat berita utama di awal tahun ini setelah dia pergi untuk memulai laboratorium kecerdasan buatan miliknya sendiri yang disebut Safe Superintelligence Inc. Dia telah menghindari sorotan sejak dia pergi tapi membuat penampilan publik yang langka di Vancouver pada Jumat di Konferensi Sistem Informasi Neural (NeurIPS).

\”Pelatihan pra seperti yang kita ketahui akan berakhir tanpa diragukan lagi,\” kata Sutskever di atas panggung. Ini merujuk pada fase pertama pengembangan model AI, ketika model bahasa besar belajar pola dari jumlah data tanpa label yang luas – biasanya teks dari internet, buku, dan sumber lainnya. 

\”Kami telah mencapai puncak data dan tidak akan ada lagi.\”

Selama pembicaraannya di NeurIPS, Sutskever mengatakan bahwa, meskipun ia percaya data yang ada masih dapat membawa pengembangan AI lebih jauh, industri sudah mencapai batas pada data baru untuk dilatih. Dinamika ini, katanya, pada akhirnya akan memaksa pergeseran dari cara model dilatih saat ini. Dia membandingkan situasi itu dengan bahan bakar fosil: sama seperti minyak adalah sumber daya terbatas, internet mengandung jumlah konten yang terbatas yang dihasilkan manusia.

\”Kami telah mencapai puncak data dan tidak akan ada lagi,\” menurut Sutskever. \”Kita harus berurusan dengan data yang kita miliki. Hanya ada satu internet.\”

Ilya Sutskever menyebut data sebagai \”bahan bakar fosil\” dari AI. Ilya Sutskever/NeurIPS

Model generasi berikutnya, katanya, akan \”menjadi agen dengan cara yang nyata.\” Agen telah menjadi kata kunci di bidang AI. Meskipun Sutskever tidak mendefinisikan mereka selama pembicarannya, mereka umumnya dipahami sebagai sistem AI otonom yang melakukan tugas, membuat keputusan, dan berinteraksi dengan perangkat lunak secara mandiri. 

Selain \”menjadi agen,\” katanya sistem masa depan juga akan bisa berpikir. Berbeda dengan AI saat ini, yang sebagian besar mencocokkan pola berdasarkan apa yang dilihat model sebelumnya, sistem AI masa depan akan mampu menyelesaikan sesuatu langkah demi langkah dengan cara yang lebih mirip dengan berpikir. 

Apakah Anda bekerja di OpenAI? Saya akan senang berbincang-bincang. Anda dapat menghubungi saya dengan aman di Signal @kylie.01 atau melalui email di [email protected].

Semakin banyak sistem merasa, \”semakin tidak terduga mereka menjadi,\” menurut Sutskever. Dia membandingkan ketidakdugaan \”sistem pemikiran yang benar-benar\” dengan bagaimana AI canggih yang bermain catur \”tidak terduga bagi pemain catur manusia terbaik.\”

\”Mereka akan memahami hal-hal dari data terbatas,\” katanya. \”Mereka tidak akan bingung.\”

Di atas panggung, dia menarik perbandingan antara penskalaan sistem AI dan biologi evolusioner, mengutip penelitian yang menunjukkan hubungan antara massa otak dan tubuh di seluruh spesies. Dia mencatat bahwa sementara sebagian besar mamalia mengikuti pola penskalaan yang sama, hominid (nenek moyang manusia) menunjukkan kemiringan berbeda secara jelas dalam rasio massa otak-ke-tubuh mereka pada skala logaritmik. 

Dia menyarankan bahwa, sama seperti evolusi menemukan pola penskalaan baru untuk otak hominid, AI mungkin secara serupa menemukan pendekatan baru untuk penskalaan di luar cara kerja pelatihan pra saat ini.

Ilya Sutskever membandingkan penskalaan sistem AI dan biologi evolusioner. Ilya Sutskever/NeurIPS

Setelah Sutskever menyelesaikan pembicarannya, seorang anggota audiens bertanya kepadanya bagaimana para peneliti dapat menciptakan mekanisme insentif yang tepat bagi umat manusia untuk membuat AI dengan cara yang memberinya \”kebebasan yang kita miliki sebagai homosapiens.\”

\”Saya merasa seperti dalam beberapa hal itu adalah jenis pertanyaan yang seharusnya lebih banyak dipikirkan orang,\” jawab Sutskever. Dia berhenti sejenak sebelum mengatakan bahwa dia tidak \”merasa percaya diri untuk menjawab pertanyaan seperti ini\” karena itu akan memerlukan \”struktur pemerintahan dari atas ke bawah.\” Anggota audiens menyarankan cryptocurrency, yang membuat orang lain di ruangan itu tertawa.

\”Saya merasa tidak pantas untuk mengomentari cryptocurrency tetapi ada kemungkinan apa yang Anda gambarkan akan terjadi,\” kata Sutskever. \”Anda tahu, dalam beberapa hal, itu bukan hasil akhir yang buruk jika Anda memiliki AI dan yang mereka inginkan hanyalah untuk hidup berdampingan dengan kita dan juga hanya memiliki hak. Mungkin itu akan baik … Saya pikir hal-hal sangat tidak terduga. Saya enggan berkomentar tapi saya mendorong spekulasi.\”

\”