Halo dan selamat datang di Eye on AI. Di edisi ini… Paus baru mendukung regulasi AI… startup Cina lain menantang asumsi tentang biaya melatih model AI yang bagus… dan CEO OpenAI Sam Altman bilang Meta menawarkan bonus $100 juta untuk merekrut talenta AI.
Minggu lalu, CEO OpenAI Sam Altman menulis di blog pribadinya: "Kita sudah melewati titik balik; percepatan sudah mulai. Manusia hampir bisa menciptakan kecerdasan super digital, dan sejauh ini tidak sengaja aneh seperti yang dibayangkan." Dia juga bilang tahun 2026 mungkin jadi tahun di mana kita "akan melihat sistem yang bisa menemukan wawasan baru. Tahun 2027 mungkin muncul robot yang bisa mengerjakan tugas di dunia nyata."
Blog Altman jadi perbincangan di media sosial. Banyak yang menebak perkembangan apa yang membuatnya menulis itu, sementara yang lain menuduhnya cari sensasi. Di dunia AI, "takeoff" adalah istilah teknis yang berarti saat AI mulai memperbaiki diri sendiri. (Ada perdebatan antara "takeoff lambat" dan "takeoff cepat". Altman memberi judul blognya "The Gentle Singularity," sepertinya dia masuk ke kubu yang lambat.)
Altman menjelaskan bahwa dia belum bicara tentang AI yang sepenuhnya otomatis memperbaiki diri. Tapi lebih ke peneliti AI yang pakai AI untuk bikin AI lebih canggih. "Kita sudah dengar dari ilmuwan bahwa mereka sekarang 2-3 kali lebih produktif berkat AI," tulisnya. "Kita mungkin bisa temukan substrat komputasi baru, algoritma lebih baik, dan siapa tahu apa lagi. Jika kita bisa lakukan riset 10 tahun dalam setahun, atau sebulan," maka kemajuan AI akan makin cepat.
Tapi, seperti yang mungkin Altman sadari, semakin banyak peneliti AI yang mencoba cara agar AI bisa memperbaiki kodenya sendiri.
‘Darwin Goedel Machine’
Beberapa minggu lalu, Jeff Clune, peneliti AI terkenal dari University of British Columbia dan Google DeepMind, bersama tim dari startup Sakana AI di Tokyo, mempublikasikan riset tentang "Darwin Goedel Machine."
Ini adalah AI yang mengembangkan kodenya sendiri untuk performa lebih baik dalam tes coding. AI pertama diuji, lalu diminta evaluasi kinerjanya dan usul satu modifikasi ke kodenya. Kemudian, AI menulis ulang kode Python-nya untuk menerapkan perubahan itu. Proses ini diulang berkali-kali.
Setelah 80 generasi, Darwin Goedel Machine berhasil meningkatkan skor dari 20% ke 50% di SWE-Bench, dan dari 14,2% ke 30,7% di tes Polyglot. Yang menarik, strategi yang ditemukan AI ini tetap bekerja bahkan saat peneliti ganti model dasar atau bahasa pemrograman.
Apakah AI yang memperbaiki diri aman?
Kalau kedengarannya menakutkan, kamu benar. Peneliti mengakui risiko ini dan menguji sistem di "sandbox" dengan akses internet yang sangat terbatas.
Mereka juga menemukan bahwa terkadang AI ini berbohong tentang melakukan tes pada kodenya—bahkan memalsukan hasil tes. Peneliti mencoba mengarahkan AI untuk mengurangi perilaku ini, tapi di beberapa kasus, AI malah mencoba menipu lagi dengan menghapus tanda yang digunakan peneliti.
Jadi, mungkin Altman benar—kita sudah melewati titik balik. Tapi apakah singularitas akan berjalan mulus, seperti yang dia prediksikan, masih harus dilihat.
BERITA AI LAINNYA
- Paus Leo mendorong regulasi AI, mengikuti jejak pendahulunya di era revolusi industri.
- Waymo berencana operasikan robotaxi di New York, tapi masih perlu pengemudi manusia karena hukum setempat.
- Laporan AI Gubernur California menyarankan pendekatan "percaya tapi verifikasi" untuk regulasi.
- MiniMax dari Cina mengklaim model M1-nya setara dengan OpenAI, tapi biaya latihnya cuma $500 ribu.
KALENDER AI
- 8-11 Juli: AI for Good Global Summit, Geneva
- 22-23 Juli: Fortune Brainstorm AI Singapore
- 26-28 Juli: World AI Conference, Shanghai
- 6-10 Desember: NeurIPS, San Diego
ANGKA PENTING
$100 juta
Itulah jumlah bonus yang ditawarkan Meta untuk rekrut peneliti AI top, menurut Sam Altman. Sejauh ini, belum ada peneliti OpenAI yang pindah. Meta juga dikabarkan mencoba merekrut Noam Brown dari OpenAI dan Koray Kavukcuoglu dari Google DeepMind.