Tidak ada yang terkejut ketika Paus Leo XIV mengutip santo-santo terkenal dan para pendahulunya dalam ensiklik pertamanya, atau surat pastoral, yang berjudul “Magnifica humanitas,” yang dirilis pada Senin lalu.
Akan tetapi, nama yang langsung menonjol bagi banyak pembaca adalah nama yang identik dengan sastra fantasi tinggi: J.R.R. Tolkien, seorang penulis Katolik dari The Lord of the Rings.
Surat Leo ini berfokus pada “menjaga martabat manusia di era kecerdasan buatan,” yang merupakan tema utama di tahun pertamanya memimpin Gereja Katolik. Mengacu pada pendahulunya, Paus Fransiskus, ia memperingatkan tentang “dominasi yang kian kuat dari paradigma teknokratis,” suatu paradigma yang mampu “mereduksi ciptaan menjadi objek eksploitasi dan manusia menjadi sekadar roda penggerak dalam sistem yang didorong menuju efisiensi yang tak henti-hentinya.” Dia kembali membandingkan kemunculan AI dengan Revolusi Industri yang berlangsung dari pertengahan abad ke-18 hingga awal abad ke-20, seraya menyinggung ajaran nama depannya, Paus Leo XIII, yang dalam ensikliknya tahun 1891 menegaskan pentingnya hak dan martabat pekerja di tengah gejolak teknologi serta meluasnya kekaisarn kapitalis.
Teks yang panjang ini semakin memperkuat posisi Leo sebagai seorang yang skeptis terhadap AI. Namun, acuan kepada Tolkien menjadi sangat relevan mengingat interpretasi keliru terhadap mitologi Middle-earth oleh para miliarder sayap kanan seperti Peter Thiel dan Elon Musk, yang sejak lama telah diejek oleh penggemar Lord of the Rings lainnya. Orang mungkin mengira Leo sedang memprovokasi. (Vatikan tidak segera memberikan tanggapan atas permintaan komentar.)
Jelas, paus agak khawatir tentang motif para oligark teknologi yang berlomba mengembangkan kecerdasan umum buatan yang melampaui kemampuan manusia. Apakah mereka benar-benar bermimpi menggunakan alat ini untuk menyembuhkan penyakit dan mengatasi perubahan iklim, atau justru membangun mesin keuntungan tanpa batas dan dominasi budaya? Pada saat dia membahas tanggung jawab pribadi kita dalam menghadapi kekuatan gelap seperti itulah Leo meminjam wawasan dari penyihir terkenal Tolkien, Gandalf: “Bukanlah bagian kita untuk menguasai semua pasang surut dunia, melainkan untuk melakukan apa yang ada dalam diri kita demi pertolongan pada tahun-tahun di mana kita ditempatkan, mencabut kejahatan di ladang yang kita ketahui, sehingga mereka yang hidup sesudahnya dapat memiliki tanah yang bersih untuk digarap.”
Pelajaran itu sangat jauh dari apa yang tampaknya dilihat Musk dan Thiel dalam karya agung Tolkien.
Thiel menamai perusahaan analisis datanya Palantir, diambil dari nama bola kristal yang digunakan sebagai alat mata-mata oleh penyihir pengkhianat Saruman dalam saga tersebut; dia dilaporkan menyebut perusahaan modal venturanya, Founders Fund, sebagai “the precious,” yaitu sebutan bagi karakter Gollum yang bengkok dan serakah untuk Cincin Satu, sarana magis kekuasaan totaliter. Hampir semua orang yang mengenal Tolkien (atau adaptasi karyanya) dapat melihat bahwa ia menulis tentang efek korup dari kekuasaan semacam itu—dalam novel, godaan untuk memerintah pasti akan menghancurkan siapa pun yang menyerah padanya—namun Thiel tampaknya senang dengan kemungkinan kontrol otoriter dan kemahatahuan yang sama seperti para penjahat.
Adapun Musk, dia pernah menyarankan bahwa epik Tolkien dapat dibaca sebagai perumpamaan anti-imigrasi dan bangun-tembok: “Ketika Tolkien menulis tentang para hobbit, dia merujuk pada orang-orang lembut dari daerah pedesaan Inggris, yang tidak menyadari kengerian yang terjadi jauh di sana,” tulisnya di X pada bulan Oktober. “Mereka bisa hidup dalam damai dan ketentraman, tetapi hanya karena mereka dilindungin oleh pria-pria tangguh dari Gondor.” Dia menawarkan ingatan yang tidak akurat tentang Lord of the Rings ini sebagai pembelaan terhadap agitator sayap kanan far-right Inggris, Tommy Robinson yang Islamofobik.