Leah Feiger: Oke, itu bagus. Terima kasih, Tori. Will, apa yang kamu punya untuk kita?
Will Knight: Wow, aku nggak tahu apakah aku bisa bersaing dengan RFK, tapi sebagai agen CIA yang baik, aku akan mempromosikan sesuatu dari sudut pandang AI yang lebih aneh, AI dan filsafat, mungkin. Jadi ada sesuatu yang disebut Roko’s basilisk. Jadi basilisk adalah makhluk mitologi ular yang jika kamu melihat matanya, itu bisa membunuhmu. Dan jadi ada eksperimen pemikiran seseorang yang diposting di forum AI mengatakan bahwa superintelejen di masa depan akan diincentivize untuk membuat simulasi di mana mungkin kita semua ada di dalamnya, dan itu akan diincentivize untuk menyiksa siapa pun yang melawan atau bahkan memikirkan ide untuk melawan itu terwujud. Jadi pada suatu titik di salah satu ini…
Leah Feiger: Luar biasa.
Will Knight: … forum, mereka melarang pembicaraan tentang Roko’s, eksperimen pemikiran ini, Roko’s basilisk. Ide itu adalah bahwa jika kamu bahkan memikirkannya, itu bisa berbahaya, yang sangat gila.
Leah Feiger: Itu sangat lucu. Forum mana yang menyebar di sini, atau tidak menyebar?
Will Knight: Ini adalah di LessWrong, yang merupakan forum yang sangat terkenal yang didedikasikan untuk risiko dan keselarasan AI dan—
Leah Feiger: Seberapa sering kamu pribadi memikirkan Roko’s basilisk?
Will Knight: Yah, sebenarnya aku baru menemukannya baru-baru ini, dan aku mencoba untuk tidak memikirkannya hanya untuk berjaga-jaga. Ini seperti taruhan Pascal, kan? Ini hanya sedikit bermain dengan peluang bahwa superintelejen akan terwujud, jadi kamu harus mencoba membuatnya terwujud. Ya, itu benar-benar gila.
Leah Feiger: Oh, itu sangat bagus. Oke. Oh, sebenarnya, ini agak sulit minggu ini, tapi aku harus memilih Tori. Aset CIA, ayo.
Vittoria Elliott: Akhirnya. Apakah gagak membuatku melewati batas? Aku harus tahu.
Leah Feiger: Gagak membuatmu melewati batas. Aku suka itu, dan itu bagian dari, aku hanya melihat seberapa keras kamu bekerja untuk ini, dan ya, itu nilai A untuk usaha dan nilai A untuk eksekusi. Kerja bagus.
Vittoria Elliott: Terima kasih.
Leah Feiger: Dan sebagian, aku tidak bisa memberikan kemenangan pada sesuatu yang tidak diizinkan untuk dipikirkan lagi. Tori dan Will, terima kasih banyak telah bergabung dengan kami. Kalian tamu yang luar biasa.
Vittoria Elliott: Terima kasih, Leah.
Will Knight: Terima kasih telah mengundangku.
Leah Feiger: Terima kasih telah mendengarkan WIRED Politics Lab. Jika kamu menyukai apa yang kamu dengar hari ini, pastikan untuk mengikuti acara ini dan memberikan rating di aplikasi podcast pilihanmu. Kami juga memiliki newsletter, yang ditulis oleh Makena Kelly setiap minggu. Tautan ke newsletter dan laporan WIRED yang kami sebutkan hari ini ada di catatan acara. Jika kamu ingin menghubungi kami dengan pertanyaan, komentar, atau saran acara, silakan, silakan tulis ke [email protected]. Itu [email protected]. Kami sangat senang mendengar dari kamu. WIRED Politics Lab diproduksi oleh Jake Harper. Pran Bandi adalah insinyur studio kami. Amar Lal mencampur episode ini. Stephanie Kariuki adalah produser eksekutif kami. Chris Bannon adalah kepala audio global di Condé Nast, dan saya tuan rumahmu, Leah Feiger. Kami akan kembali di feedmu dengan episode baru minggu depan.