Bos AI Microsoft dan Sam Altman Tidak Setuju tentang Hal yang Diperlukan untuk Mencapai AGI

Tergantung pada definisi AGI anda, kan? AGI bukanlah singularitas. Singularitas adalah sistem yang secara eksponensial rekursif meningkatkan diri sendiri dengan sangat cepat melebihi segala sesuatu yang mungkin terlihat seperti kecerdasan manusia. 

Bagi saya, AGI adalah sistem pembelajaran tujuan umum yang dapat berperforma baik di semua lingkungan pelatihan tingkat manusia. Jadi, pekerjaan pengetahuan, by the way, termasuk tenaga kerja fisik. Banyak keraguan saya berasal dari kemajuan dan kompleksitas dalam menyelesaikan hal-hal dalam robotika. Tapi ya, saya bisa membayangkan bahwa kita memiliki sistem yang bisa belajar — tanpa banyak dorongan sebelumnya yang dibuat oleh tangan — untuk berperforma dengan baik dalam berbagai lingkungan. Saya pikir itu tidak selalu akan menjadi AGI, atau tidak akan mengarah ke singularitas, tapi itu berarti bahwa sebagian besar pekerjaan pengetahuan manusia dalam lima hingga 10 tahun ke depan kemungkinan besar bisa dilakukan oleh salah satu sistem AI yang kita kembangkan. Dan saya pikir alasan mengapa saya enggan menggunakan bahasa sekitar singularitas atau kecerdasan buatan super adalah karena saya pikir mereka adalah hal yang sangat berbeda.

Tantangan dengan AGI adalah bahwa hal itu menjadi sangat dipertontonkan sehingga kita akhirnya tidak fokus pada kemampuan khusus dari apa yang dapat dilakukan oleh sistem tersebut. Dan itu yang saya pedulikan terkait dengan membangun rekan AI, membuat mereka menjadi berguna bagi anda sebagai manusia, bekerja untuk anda sebagai manusia, berada di pihak anda, di sudut anda, dan di tim anda. Itulah motivasi saya dan itulah yang dapat saya kendalikan dan berpengaruh untuk mencoba menciptakan sistem yang bertanggung jawab dan berguna bagi manusia daripada mengejar pencarian kecerdasan super teoritis.