Paus Leo XIV baru saja mengeluarkan arahan keagamaan resmi pertamanya untuk miliaran umat Katolik. Semuanya berputar di seputar AI.
Arahan itu hadir dalam bentuk ensiklik kepausan sepanjang 42.300 kata berjudul “Magnifica Humanitas” (“Kemanusiaan yang Agung”). Ensiklik, meskipun secara tepat bukanlah hukum kepausan, bertindak sebagai panduan otoritatif mengenai isu-isu sosial dan moral bagi anggota Gereja Katolik. Yang ini, yang pertama sejak Leo terpilih, diumumkan dengan kemeriahan yang lebih besar dari biasanya, dengan pemimpinnya sendiri menghadiri presentasinya bersama pendiri Anthropic, Chris Olah.
Paus telah berbicara sebelumnya tentang regulasi AI, mendesak para pemimpin industri untuk lebih berhati-hati mempertimbangkan implikasi etis dari AI dalam pekerjaan mereka. Bulan Mei lalu, ketika menjelaskan mengapa ia memilih nama Leo, paus tersebut secara spesifik menyebut AI sebagai salah satu alasan utamanya.
“Ada beberapa alasan untuk ini, tetapi terutama karena Paus Leo XIII dalam Ensiklik historisnya Rerum Novarum membahas pertanyaan sosial dalam konteks revolusi industri besar pertama. Di zaman kita sendiri, Gereja menawarkan kepada semua orang khazanah ajaran sosialnya sebagai respons terhadap revolusi industri lain dan perkembangan di bidang kecerdasan buatan yang menimbulkan tantangan baru bagi pertahanan martabat manusia, keadilan, dan kerja.”
Ensiklik ini melangkah lebih jauh, menyelidiki dampak AI terhadap pekerjaan, pendidikan, dan keselamatan anak dalam sebuah pesan kepada para pemimpin di seluruh dunia. “Kita membutuhkan suara-suara moral yang tidak bisa dibelokkan oleh insentif,” kata Olah. “Hari ini hanyalah permulaan—awal dari kolaborasi panjang antara mereka yang membangun ini dan mereka yang dapat melihat apa yang, dari dalam, tidak bisa kami lihat.”
Berikut adalah poin-poin utama dari Tahta Suci:
AI adalah Ancaman bagi Pekerja
Gereja Katolik juga khawatir tentang AI yang mengambil alih pekerjaan. Mengaitkan “Magnifica Humanitas” dengan ensiklik-ensiklik lain terkait perburuhan sepanjang sejarah Gereja, Paus Leo menyebut otomatisasi pekerjaan sebagai ancaman bagi pekerja, mengutip penurunan keterampilan yang meluas dan pengawasan tenaga kerja yang lebih besar dengan sistem AI yang diberlakukan.
“Saat ini, konvergensi otomatisasi, robotika, dan AI dengan cepat mengubah struktur fundamental kerja. Dikatakan bahwa ini akan membawa perbaikan besar bagi semua orang. Namun pada kenyataannya, ‘cara-cara baru’ dalam bekerja belum tentu lebih baik.”
Jangan Percaya Hype tentang AI
Pemimpin tersebut memperingatkan bahwa hiruk-pikuk AI saat ini mirip dengan Menara Babel modern, menyandingkan pengejaran teknologi canggih dengan kisah alkitabiah tentang sekelompok manusia yang mencoba mencapai surga. Ia menyerukan para pemimpin untuk mengekang ambisi mereka dan mengembalikan pusat perhatian pada kemanusiaan.
Ia juga bergabung dengan semakin banyak advokat keselamatan anak dan regulator yang ingin mengatasi waktu layar (screen time) dan efeknya pada anak-anak: “Literatur psikologis dan psikiatris telah mendokumentasikan dengan desakan yang semakin besar bagaimana paparan dini dan tanpa pengawasan terhadap perangkat digital dan media sosial dapat berdampak negatif pada tidur, rentang perhatian, kendali emosi dan hubungan, terutama selama tahap kehidupan yang paling rentan, terkadang dengan konsekuensi yang tragis.”
Selain itu, Leo menyoroti peran AI dalam memperburuk misinformasi dan merendahkan nilai pemikiran kritis, terutama di sekolah-sekolah, dengan mengatakan bahwa teknologi tersebut memiliki kekuatan yang tidak manusiawi di ruang kelas.
Big Tech Telah Menciptakan “Bentuk Perbudakan Baru”
Sambil menyampaikan kecaman formal pertama terhadap perdagangan budak transatlantik, Paus Leo menyebut proses manufaktur teknologi yang eksploitatif dan pelatihan AI global sebagai “bentuk perbudakan baru.”
“Di beberapa wilayah dunia, anak-anak dan remaja bekerja dalam kondisi berbahaya, menghancurkan bahan-bahan dari mana unsur tanah jarang diekstraksi… Tubuh orang-orang ini terluka, cedera, dan aus agar aliran komputasi dapat berlangsung tanpa henti,” katanya. “Realitas ini sangat menantang kesadaran moral zaman kita.”
Paus juga menghubungkan kebangkitan kecerdasan buatan dengan perang global yang sedang berlangsung, menyoroti insentif pribadi dan memperingatkan agar tidak mempercayakan sistem AI dengan “keputusan yang mematikan.” Ia menyerukan untuk menempatkan “kendala etis yang paling ketat” pada senjata yang dikembangkan menggunakan AI.
“Sebuah godaan halus mungkin muncul, yaitu pemikiran bahwa masalahnya terlalu besar dan kita terlalu kecil, dan bahwa pilihan kita, oleh karena itu, tidak dapat membuat perbedaan,” tulis Paus. “Tentu saja, tidak semua orang memiliki kekuatan yang sama untuk membuat perbedaan. Namun, tidak ada seorang pun yang lepas dari tanggung jawabkita. Kita semua memiliki area tindakan kita sendiri.”