Pastor Mike Schmitz, seorang imam Katolik dan podcaster, menyapa jemaatnya yang berjumlah lebih dari 1,2 juta pelanggan YouTube pada bulan November dengan sebuah homili yang tak biasa. Ia menyatakan bahwa Anda tidak selalu dapat mempercayai kata-kata yang keluar dari mulutnya, karena terkadang itu bukan benar-benar kata-katanya—atau bahkan mulutnya. Schmitz telah menjadi sasaran penipuan palsu yang dihasilkan oleh kecerdasan buatan.
“Anda sedang diawasi oleh manusia iblis,” ujar Schmitz palsu dalam satu video yang disertakan oleh Schmitz asli—yang mengenakan jaket L.L. Bean di atas jubah pastoralnya—sebagai contoh dalam pengumuman layanan publiknya. “Anda harus bertindak cepat, karena kuota untuk mengirim doa sudah hampir habis,” kata Schmitz palsu lainnya dengan jam pasir besar di belakangnya. “Dan perjalanan berikutnya baru akan terjadi dalam empat bulan.” Suara Schmitz palsu itu terdengar agak robotik saat mendesak penonton untuk mengklik tautan dan mengamankan berkat mereka sebelum terlambat.
“Saya bisa melihatnya dan berkata ‘Itu konyol, saya takkan pernah mengatakan hal itu,’” kata Schmitz asli, yang berbasis di Duluth, Minnesota, dalam video peringatannya. “Tetapi orang-orang belum tentu bisa membedakannya. Itu masalah. Itu, ya, masalah yang sangat besar.”
Di video asli Schmitz, beberapa komentar teratas dari pengikutnya menyebutkan mereka telah melihat tokoh-tokoh Katolik terkenal lain yang dipalsukan melalui video AI, termasuk sang Paus. Menurut pakar keamanan siber Rachel Tobac, CEO SocialProof Security, hal itu terjadi karena para pastor telah menjadi subjek yang sangat populer untuk penipuan AI dan media menipu lainnya.
“Jika Anda ada di TikTok atau Reels, kemungkinan video itu muncul di halaman ‘For You’ Anda,” ujar Tobac. “Ini adalah seseorang yang terlihat seperti seorang pastor, mengenakan seluruh jubah, berdiri di mimbar atau panggung, dan mereka tampak sedang berbicara kepada jemaat dengan cara yang sangat antusias.”
Para pastor dan pendeta di Birmingham, Alabama, Freeport, New York, dan Fort Lauderdale, Florida, telah memperingatkan pengikut mereka tentang penipuan AI yang meniru mereka dalam bentuk DM, panggilan, dan deepfake. Alan Beauchamp, seorang pastor di Ozarks, mengatakan akun Facebooknya diretas, dengan peretas memposting sertifikat palsu—mungkin buatan AI—untuk perdagangan kripto dengan nama Beauchamp dan keterangan yang mendesak jemaatnya untuk bergabung. Sebuah megachurch di Filipina menerima laporan deepfake yang menampilkan para pastornya. Sebuah gereja evangelis di Nebraska menerbitkan “peringatan penipu” AI di Facebook, dan seorang jemaat di kolom komentar memposting tangkapan layar pesan yang diklaim berasal dari salah satu pastor mereka.
Situasi ini tidak terbantu oleh fakta bahwa banyak pastor dan pendeta yang telah memiliki banyak pengikut daring seringkali memang meminta sumbangan dan menjual barang, meski bukan hal yang sama dengan yang dijual oleh peniru AI mereka. Dengan bantuan media sosial, figura otoritas keagamaan telah dapat menjangkau umat jauh melampaui lingkungan mereka, tetapi proliferasi konten yang menampilkan kemiripan dan suara mereka juga memberikan peluang sempurna bagi para penipu yang menggunakan alat-alat AI generatif.