Tetaplah terinformasi dengan pembaruan gratis
Cukup daftar untuk menerima Artificial intelligence myFT Digest — langsung ke kotak masuk Anda.
Dua topik mendominasi pertemuan tahunan Forum Ekonomi Dunia di Davos minggu lalu: Donald Trump dan kecerdasan buatan. Di antara keduanya, yang terakhir lebih menarik dan hampir pasti lebih signifikan. Banyak perhatian dalam diskusi diberikan kepada DeepSeek, perusahaan asal China yang mengejutkan. Namun kita hanya belajar bahwa pengetahuan menyebar: tidak ada negara yang akan memonopoli teknologi baru ini. Hal ini membuat pasar terkejut. Dengan teknologi baru, “kejutan” seperti itu bukanlah hal yang mengherankan. Tapi itu tidak mengubah pertanyaan besar, yaitu apa artinya kecerdasan mesin yang semakin maju bagi kita semua.
Manusia adalah makhluk sosial dan cerdas. Kombinasi ini adalah “aplikasi pembunuh” mereka. Ini memungkinkan mereka mendominasi planet ini. Kecerdasan manusia menciptakan teknologi tujuan umum yang membentuk dunia, mulai dari penjinakan api hingga penciptaan komputer. Tetapi, dengan komputer yang berpikir, hal ini mungkin berubah. Blaise Pascal, matematikawan dan filsuf Prancis abad ke-17, mengatakan bahwa “Manusia hanyalah sebatang papirus, makhluk paling lemah di alam, tetapi dia adalah sebatang papirus yang berpikir.” Apakah keunikan ini sekarang akan berakhir?
Di Davos, saya menghadiri dua diskusi yang menarik tentang manfaat dan risiko dari kemajuan dalam bidang kecerdasan buatan. Salah satunya adalah wawancara dengan Sir Demis Hassabis, co-founder Google DeepMind dan penerima Nobel Kimia bersama, oleh Roula Khalaf, editor FT. Yang lain adalah wawancara dengan Dario Amodei, pendiri dan CEO Anthropic dan penulis Machines of Loving Grace, oleh Zanny Minton Beddoes, editor The Economist.
Wawancara dengan Hassabis menekankan kemajuan baru-baru ini dalam kemampuan kita untuk melakukan analisis ilmiah, terutama dalam bidang biologi. Lebih dari 2 juta peneliti menggunakan AlphaFold, katanya, program yang dikembangkan oleh DeepMind. “Kami melipat semua protein yang dikenal dalam ilmu pengetahuan, semua 200 juta . . . [A]sasnya adalah seorang mahasiswa S3 memerlukan seluruh S3 mereka untuk menemukan struktur satu protein. Jadi 200 juta akan memakan waktu sejarah 1 miliar tahun S3. Dan kami baru saja memberikannya semua kepada dunia, secara gratis.” Ini, katanya, adalah “ilmu dengan kecepatan digital”. Kemungkinan yang telah terbuka di depan kita, maka, adalah percepatan besar dalam kemajuan medis. Sebenarnya, kita mungkin memiliki 50 hingga 100 tahun kemajuan normal dalam lima hingga sepuluh tahun.
Beberapa konten tidak dapat dimuat. Periksa koneksi internet atau pengaturan browser Anda.
Secara luas, menurut Amodei, kita dapat membayangkan kecerdasan buatan sebagai “negara para jenius di pusat data”, negara yang mungkin saja dibuat oleh China menjadi lebih murah dari sebelumnya. Namun apakah ini benar-benar jenius? Uji saya adalah apakah, dengan pengetahuan tentang semua fisika hingga tahun 1906, tetapi tidak ada yang lebih baru, kecerdasan buatan akan mampu menghasilkan teori umum relativitas Einstein.
Nampaknya mungkin bahwa dampak dari kapasitas pemecahan masalah seperti itu, apakah selevel “jenius” atau tidak, akan luar biasa. Ini bisa, antara lain, mempercepat peningkatan pengetahuan dan karenanya pertumbuhan produktivitas dan penyebaran kemakmuran. Kedua hal tersebut diinginkan. Dalam beberapa dekade terakhir, peningkatan “total factor productivity” — ukuran terbaik dari kemajuan teknis — telah sedikit. Selain itu, jumlah yang sangat besar masih hidup dalam kemiskinan ekstrem dan, yang menyedihkan, kemajuan melambat.
Namun juga jelas bahwa kemajuan yang dipercepat juga bisa menciptakan kesulitan. Struktur pasar tenaga kerja mungkin berubah secara masif, misalnya, dengan, dalam kasus ini, penurunan tajam dalam permintaan untuk pekerja yang asetnya adalah kecerdasan terlatih, tetapi sebagian besar rutin. Perkiraan efek seperti itu bervariasi. Sebuah paper tahun 2023 oleh Erik Brynjolfsson dan Gabriel Unger mencatat bahwa, seperti yang telah terjadi sepanjang revolusi komputer, efek pada produktivitas mungkin sedikit. Namun kali ini mungkin berbeda, dengan produktivitas yang melonjak, tetapi perubahan ekonomi dan sosial yang besar dan mengganggu sebanding. Lagi pula, tergantung pada bagaimana masyarakat menanggapinya, keberhasilan kecerdasan buatan dapat mengarah pada “tekno-feodalisme”, dengan konsentrasi kekayaan yang lebih besar. Penemuan jumlah yang sangat besar dari pengobatan baru dapat sangat meningkatkan biaya perawatan kesehatan dan juga biaya menghadapi kehidupan yang jauh diperpanjang meskipun secara keseluruhan mereka adalah kehidupan yang lebih sehat. Apakah orang-orang siap untuk hidup bersama kakek-nenek mereka yang jauh? Dengan demikian, hal-hal yang tampaknya baik dapat menciptakan tantangan nyata.
Di luar ini, pengembangan kecerdasan buatan yang diantisipasi menciptakan risiko besar. Bagaimana mengendalikan penggunaannya oleh pelaku nakal, termasuk negara-negara musuh, teroris, dan pembunuh massal? Penghakiman moral apa yang harus diizinkan oleh kecerdasan buatan dalam peperangan? Bagaimana mengendalikan penggunaan kecerdasan buatan dalam surveilans? Akankah “big brother” selalu memantau kita selamanya? Lagi pula, apa yang harus kita lakukan tentang pembuatan barang palsu dan berita palsu? Bagaimana kebebasan bertahan dari semua ancaman ini?
Hassabis jelas mengatakan bahwa kita memerlukan batasan global yang efektif pada penggunaan kecerdasan buatan. Di era kerja sama internasional yang rusak dan sindiran pada gagasan “tata aturan internasional”, apakah China dan AS akan bekerja sama untuk membuat kecerdasan buatan aman? Sepertinya tidak mungkin, tidak sedikit karena mereka memiliki pandangan yang berbeda tentang bagaimana teknologi tersebut harus digunakan.
Beberapa konten tidak dapat dimuat. Periksa koneksi internet atau pengaturan browser Anda.
Kembali pada tahun 2015, saya menulis sebuah artikel yang umumnya skeptis tentang dampak (yang sederhana) pada produktivitas dari teknologi baru. Beberapa tahun mendatang mungkin akhirnya membuktikan saya salah. Namun saya juga mencatat bahwa jika kita malah mendekati “singularitas” — kecerdasan buatan melampaui semua kecerdasan manusia — segalanya harus berubah.
Salah satu gagasan besar dalam seri Dune karya Frank Herbert adalah bahwa pada masa lalu yang jauh (masa depan kita) umat manusia melakukan jihad yang sukses terhadap mesin yang berpikir. Setelah itu, manusia harus menjadi supermanusia. Seorang karakter utama menjelaskan bahwa “Manusia telah menjadikan mesin itu untuk merampas rasa keindahan kita, identitas diri yang penting bagi kita untuk membuat penilaian hidup. Tentu saja, mesin-mesin itu dihancurkan.”
Kekhawatiran itu mungkin terbukti bijaksana. Tapi saya realistis: kecerdasan buatan sudah keluar dari Kotak Pandora.
Ikuti Martin Wolf dengan myFT dan di Twitter
\”