Filsuf Nick Bostrom terlihat sangat ceria meskipun telah menghabiskan begitu banyak waktu untuk memikirkan cara-cara di mana umat manusia dapat menghancurkan dirinya sendiri. Dalam foto-foto, ia sering terlihat sangat serius, mungkin sesuai dengan ketegangan eksistensial yang menghantui pikirannya. Namun ketika kami berbicara melalui Zoom, ia terlihat rileks dan tersenyum.
Bostrom telah menjadikan pemikiran tentang kemajuan teknologi jauh ke depan dan risiko eksistensial bagi umat manusia sebagai karya hidupnya. Dengan publikasi bukunya yang terakhir, Superintelligence: Paths, Dangers, Strategies, pada tahun 2014, Bostrom menarik perhatian publik akan ide yang pada saat itu dianggap sebagai hal yang tidak umum—bahwa kecerdasan buatan akan berkembang hingga titik di mana ia bisa berbalik melawan dan menghapus manusia.
Bagi banyak orang di dalam dan di luar penelitian kecerdasan buatan, ide tersebut terlihat fantasi, namun tokoh-tokoh berpengaruh termasuk Elon Musk mengutip tulisan Bostrom. Buku tersebut memunculkan kekhawatiran apokaliptik tentang risiko kecerdasan buatan yang baru saja meletus setelah kedatangan ChatGPT. Kekhawatiran tentang risiko kecerdasan buatan bukan hanya menjadi hal yang umum namun juga menjadi tema dalam lingkaran kebijakan kecerdasan buatan pemerintah.
Buku baru Bostrom mengambil pendekatan yang sangat berbeda. Daripada menghadirkan hal-hal yang menakutkan, Deep Utopia: Life and Meaning in a Solved World, mempertimbangkan masa depan di mana umat manusia telah berhasil mengembangkan mesin superinteligensia namun berhasil menghindari bencana. Semua penyakit telah dihilangkan dan manusia dapat hidup selamanya dalam kelimpahan yang tak terbatas. Buku Bostrom meneliti apa arti kehidupan di dalam sebuah tekno-utopia, dan bertanya apakah itu mungkin akan terasa hampa. Ia berbicara dengan WIRED melalui Zoom, dalam percakapan yang telah diedit secara ringan untuk kejelasan.
Will Knight: Mengapa beralih dari menulis tentang kecerdasan buatan superinteligensia yang mengancam umat manusia menjadi mempertimbangkan masa depan di mana itu digunakan untuk melakukan kebaikan?
Nick Bostrom: Berbagai hal yang bisa salah dengan perkembangan kecerdasan buatan sekarang mendapatkan banyak perhatian. Ini adalah pergeseran besar dalam 10 tahun terakhir. Sekarang semua laboratorium kecerdasan buatan terdepan memiliki kelompok penelitian yang mencoba mengembangkan metode keterkaitan yang dapat diskalakan. Dan dalam dua tahun terakhir juga, kita melihat pemimpin politik mulai memperhatikan kecerdasan buatan.
Belum ada peningkatan yang sebanding dalam kedalaman dan kedalaman penalaran dalam hal berpikir ke mana arahnya jika kita tidak jatuh ke dalam salah satu lubang ini. Berpikir telah cukup dangkal tentang topik ini.
Ketika Anda menulis Superintelligence, sedikit orang yang akan memperkirakan risiko eksistensial kecerdasan buatan akan menjadi perdebatan yang umum begitu cepat. Apakah kita perlu khawatir tentang masalah dalam buku baru Anda lebih cepat dari yang mungkin orang pikirkan?
Saat kita mulai melihat otomatisasi diterapkan, dengan asumsi kemajuan terus berlanjut, maka saya pikir percakapan ini akan mulai terjadi dan akhirnya menjadi lebih dalam.
Aplikasi sosial teman akan menjadi semakin penting. Orang-orang akan memiliki berbagai pandangan yang berbeda dan itu adalah tempat yang bagus untuk mungkin memiliki perang budaya kecil. Hal itu bisa menjadi luar biasa bagi orang-orang yang tidak bisa menemukan pemenuhan dalam kehidupan biasa namun bagaimana jika ada segmen populasi yang merasa senang dengan menjadi kasar kepada mereka?
Dalam ranah politik dan informasi kita bisa melihat penggunaan kecerdasan buatan dalam kampanye politik, pemasaran, sistem propaganda otomatis. Tetapi jika kita memiliki tingkat kebijaksanaan yang memadai, hal-hal ini benar-benar bisa memperkuat kemampuan kita untuk menjadi warga demokratis yang konstruktif, dengan saran individu yang menjelaskan apa arti proposal kebijakan untuk Anda. Akan ada banyak dinamika bagi masyarakat.
Apakah masa depan di mana kecerdasan buatan telah menyelesaikan banyak masalah, seperti perubahan iklim, penyakit, dan kebutuhan untuk bekerja, benar-benar begitu buruk?