Hingga hari ini, Mrinank Sharma merupakan kepala tim penelitian perlindungan di Anthropic, perusahaan di balik chatbot AI populer Claude. Ia mengundurkan diri pada Senin dan secara publik mempublikasikan surat yang dibagikannya kepada timnya sebelum pergi, di mana ia menyatakan keprihatinan mendalam terhadap… suatu hal.
Dalam surat tersebut, Sharma banyak berbicara tentang kontribusinya pada keamanan AI, menyebutkan sejumlah keberhasilan dalam perannya termasuk “memahami sikap menjilat AI dan penyebabnya; mengembangkan pertahanan untuk mengurangi risiko bioterorisme yang dibantu AI; benar-benar menerapkan pertahanan itu dalam produksi; dan menulis salah satu kasus keamanan AI pertama.” Proyek terakhirnya, tulisnya, adalah “memahami bagaimana asisten AI dapat membuat kita kurang manusiawi atau mendistorsi kemanusiaan kita.”
Ia juga mengatakan bahwa pekerjaan ini lebih penting dari sebelumnya karena ancaman samar dan sebagian besar tak terdefinisi yang membayang di cakrawala. “Saya terus-menerus merenungkan situasi kita. Dunia sedang dalam bahaya. Dan bukan hanya dari AI, atau senjata biologis, tetapi dari serangkaian krisis yang saling terhubung yang terjadi saat ini juga,” tulisnya.
Meski tidak menyebutkan secara rinci bahaya-bahaya itu, ia meninggalkan—sebutlah—catatan kaki yang ‘membantu’ untuk penjelasan lebih lanjut: “Beberapa menyebutnya ‘poli-krisis,’ yang didasari oleh ‘meta-krisis.’” Oke! Untuk lebih memahami gagasan itu, ia mengutip buku “First Principles and First Values” karya David J. Temple, dan ini merupakan lubang kelinci yang cukup dalam untuk dijelajahi.
Beberapa hal tentang teks itu: Pertama, subjudulnya adalah “Empat Puluh Dua Proposisi tentang Humanisme KosmoErotik, Meta-Krisis, dan Dunia yang Akan Datang.” Humanisme KosmoErotik, menurut Pusat Filsafat dan Agama Dunia, adalah “gerakan filosofis dunia yang bertujuan merekonstruksi keruntuhan nilai di inti budaya global,” dan “bukan sekadar teori tetapi sebuah gerakan yang mengubah suasana Realitas itu sendiri.” Itu pasti adalah kata-kata yang disusun secara berurutan.
Dalam upaya menyederhanakan konsep Humanisme KosmoErotik, pada dasarnya ia beranggapan bahwa kita mengalami krisis kemanusiaan mendasar yang disebabkan oleh hilangnya pemahaman bersama tentang dunia dan berupaya menciptakan narasi bersama baru yang membingkai evolusi kemanusiaan sebagai “Kisah Cinta Semesta.”
Kedua, penulis buku tersebut, David J. Temple, sebenarnya bukan seseorang yang nyata. Itu adalah nama samaran yang mencakup sekumpulan penulis yang terkait dengan Pusat Filsafat dan Agama Dunia, termasuk Marc Gafni dan Zak Stein sebagai penulis utama. Perlu dicatat, Gafni telah dituduh melakukan pelecehan seksual oleh beberapa korban, termasuk dua perempuan yang di bawah umur pada saat dugaan pelanggaran terjadi, dan dilarang dari gerakan Pembaruan Yahudi yang sebelumnya ia ikuti. Mungkin bukan tipe orang yang Anda inginkan berada di pusat perancangan “kisah cinta” masyarakat.
Kembali ke Sharma, ia mengatakan bahwa meski bangga dengan pekerjaannya menjaga AI, ia tahu sudah waktunya untuk melanjutkan langkah, dan sepertinya mengisyaratkan bahwa mungkin Anthropic tidak sesuai dengan citra publik yang dengan cermat dibangun sebagai perusahaan AI ‘baik’. “Sepanjang waktu saya di sini, saya berulang kali melihat betapa sulitnya untuk benar-benar membiarkan nilai-nilai kita mengatur tindakan kita,” tulisnya. “Saya melihat ini dalam diri saya, dalam organisasi, di mana kita terus-menerus menghadapi tekanan untuk mengesampingkan hal yang paling penting, dan juga di masyarakat luas.”
Gizmodo menghubungi Anthropic untuk mendapatkan komentar mengenai kepergian Sharma tetapi tidak mendapat tanggapan pada saat publikasi.
Dapat dimengerti, Sharma menyatakan bahwa ia ingin melakukan pekerjaan yang memungkinkannya bertindak sesuai prinsipnya dan menjaga integritas. “Dengan memahami situasi ini dan mendengarkan sebaik mungkin, apa yang harus saya lakukan menjadi jelas,” tulisnya. Jadi kejelasan apa yang ia temukan, mungkin Anda bertanya-tanya? Akankah ia menjadi peniup peluit dan membagikan apa yang telah dilihatnya dari dalam industri dan Anthropic secara khusus? Mungkin ia akan menjadi suara terkemuka untuk mencegah AI digunakan dengan cara yang berbahaya dan ceroboh?
“Saya berharap untuk mengeksplorasi gelar dalam bidang puisi dan mendedikasikan diri pada praktik berbicara yang berani,” tulisnya. Semoga beruntung.