Prinsip moral Dario Amodei, salah satu pendiri dan CEO Anthropic, sedikit banyak diinspirasi oleh konsep effective altruism—sebuah gagasan yang, secara teori jika bukan dalam praktik, berfokus pada upaya membantu orang lain di atas segalanya. Nama perusahaan ini berasal dari kata “misanthropic” dengan menghilangkan prefiks negasi “mis-“, yang seolah menyiratkan slogan tersirat seperti “kami pro-manusia.” Perselisihan moral perusahaan dengan Pentagon menjadi berita teknologi terbesar sejauh tahun ini.
Jadi, terserah Anda bagaimana menilai perusahaan bernilai $380 miliar ini, yang produk andalannya meledak popularitasnya karena terkait langsung dengan otomatisasi tenaga kerja, dan yang, menurut pengakuannya sendiri, memiliki “lebih banyak kesamaan dengan Departemen Perang daripada perbedaan.” Namun, Anda tak bisa menyangkal bahwa mereka menyisipkan konsep moralitas ke dalam wacana teknologi.
Dan pada akhir bulan lalu, mereka mulai menyuntikkan diri dengan moralitas Kristen secara spesifik, menurut Washington Post.
Empat sumber yang menghadiri sebuah pertemuan puncak di markas Anthropic di San Francisco menyebutkan kepada Post bahwa Anthropic mengundang 15 tokoh Kristen terkemuka untuk pertemuan selama dua hari serta makan malam bersama para peneliti perusahaan.
Menurut artikel tersebut, orang-orang yang bekerja di Anthropic “mencari nasihat” mengenai moralitas Claude serta “perkembangan spiritualnya.” Menurut keterangan salah satu peserta, Brian Patrick Green, seorang Katolik yang mengajar etika AI di Universitas Santa Clara, pertemuan itu mencakup diskusi tentang apakah Claude bisa dianggap sebagai “anak Tuhan.”
“Apa artinya memberikan formasi moral kepada seseorang? Bagaimana kita memastikan Claude bersikap baik?” kata Green kepada Post, dengan formulasi yang memberikan otonomi besar pada perangkat lunak AI, alih-alih pada manusia yang membangun dan menggunakannya. Awal tahun ini, agen AI seseorang membuat postingan blog yang jahat tentang seorang pengkode, dan sang agen-lah yang disalahkan dalam banyak pemberitaan—yang saya tulis saat itu mungkin agak keliru.
Salah satu tokoh tetap dalam kancah teknologi-dan-Kekristesan di Silicon Valley yang hadir adalah Brendan McGuire, seorang pastor Katolik kelahiran Irlandia yang pernah berkecimpung di teknologi sebelum menjadi pastor, dan yang, menurut Observer.com, sedang mengerjakan sebuah novel yang ditulis oleh Claude. “Mereka menumbuhkan sesuatu yang mereka sendiri tidak sepenuhnya tahu akan jadi apa,” ujarnya kepada Post, seraya menambahkan, “Kita harus membangun pemikiran etis ke dalam mesin agar ia mampu beradaptasi secara dinamis.”
Post menyebutkan bahwa para peneliti interpretabilitas—yang berusaha memahami alasan di balik cara kerja model AI—terlibat cukup dalam, dan prosesnya mencakup diskusi tentang kesadaran AI. Kesadaran AI adalah persoalan filosofis yang serius, dan perdebatannya sangat berharga, namun menyelenggarakan debat tersebut di dalam sebuah perusahaan yang berencana IPO tahun ini bisa dianggap meragukan validitas eksplorasi topik yang satu ini.
Juru bicara Anthropic menyatakan kepada Post bahwa mereka sedang berupaya melibatkan pemikir moral dari kelompok lain. Saya harus akui, akan sungguh luar biasa jika sesi-sesi dengan Yahudi, Muslim, dan Hindu menyusul. Tapi mengapa berhenti di situ? Versi terbaru Claude yang belum dirilis memiliki fiksasi aneh pada almarhum filsuf Marxis Mark Fisher, orang yang karyanya paling terkenal adalah renungan atas kutipan “Lebih mudah membayangkan akhir dunia daripada akhir kapitalisme” (meski bukan dia pencetus frasa itu sendiri). Pertemuan puncak antara Anthropic dan sekelompok pengagum Mark Fisher bisa benar-benar memperluas wawasan.