Para etikawan Katolik bahkan ikut memberi masukan dalam pembaruan terkini konstitusi Claude milik Anthropic, yang menetapkan parameter perilaku bagi model AI perusahaan tersebut. Olah mengirimkan drafnya kepada komunitas San Jose. Pendeta McGuire membalas dengan komentar sepanjang 28 halaman yang, menurut deskripsinya sendiri, lebih merupakan "kebijaksanaan para mistikus di abad kegelapan, dari perspektif ketegangan antara mengetahui dan tidak mengetahui," ketimbang kritik teknis. Baik Green maupun McGuire tercantum dalam penghargaan di konstitusi itu.
Tak pelak, perbincangan-perbincangan itulah yang membuat Olah diperhatikan oleh orang-orang yang diam-diam menyiapkan peluncurkan ensiklik Leo. (Saya tidak bisa berbicara dengan Olah minggu ini dan tidak tahu persis bagaimana undangan itu tersampakan.) Dalam arti tertentu, ini adalah pilihan yang berisiko. Sebagian orang yang sebelumnya merasa terinspirasi kata-kata Leo kecewa karena dia mengundang perwakilan industri untuk bicara. Sementara itu, para akselerasionis AI meilaih bahwa Olah telah mengkhianati dunia AI dengan mendukung dokumen yang menyarankan para pengembang AI untuk berhenti sejenak.
Namun, Paus punya alasan kuat untuk menunjuk Olah. Karyawan Anthropic ini membuka secara gamblang kekhawatiran serius yang ada di antara para pekerja sktor AI. Itu adalah audiens krusial pesan Leo.
Pemisahan Jiwa
Kedua tokoh tentu tidak sepenuhnya sepaham. Dalam komentarnya, Olah membicarakan misteri cara kerja AI. Model-model tersebut, menurutnya, "lebih halus, aneh, dan indah dari dugaan fiksi ilmiah pada kita. Mereka bukan robot dingin nan kalkulatif seperti yang selama ini kita kira, Mereka terbuat dari kita, dari kata-kata kita …"
Perkataan itu seianyolah mengerucut pada gagasan bahwa model AI mungkin suatu hari mencapai status manusiawi. Anthropic bahkan memiliki seorang insiyur khsus yang mendedikasikan diri untuk kesejahteraan Claude. Leo, dalam paragraf 99 ensikliknya, sepertinya menutup rapat pemikiran semacam itu: "Kita harus menghindari kekeliruan menyamakan jenis ‘kecerdasan’ ini dengan manusia," tulisnya. Ia secara kliusus menyerang konsep transhumanisme, yang diatribusikannya sebagai upaya penciptaan "hibrida manusia-mesin."
Jika teknolog kaliber Olah pun terus mendorong AI ke ambang otonomi—belum lagi jutaan orang yang sudah memperlakukan AI sebagai teman atau kekasih—Paus Leo mungkin akan menghadapi tantangan berat dalam hal ini. Dalam percakapan saya dengan Romo McGuire (yang menggunaan Claude saat mempersiapkan berbagai homilinya>, <// ihm , “Homili"> di link homiliar", dsb). setusjwiana Kalapa code ja ug ada me da w agre aw O kalapatku
Mereka resntem S if Ad terbuSeyDa di sadarum to han akan lebih
Untu Tifus nya s yt O apa tad ber arti hidupan la u tra w r, ja g ? salah" lebih sepras dera lama? mc dgn? ya nd , tahi.
.
bu hi mengat jur ni pe ) t; dan set! ‘P k li , sai an ‘. Ter teres ec. ud ka m i ns. da wi .B ma wh mn in ag < tr’ ya tak tu unt nam yn s Taa pe de …terusan…