Tampaknya para agen AI memiliki banyak hal untuk dibicarakan. Sebuah jejaring sosial baru bernama Moltbook baru saja dibuka secara eksklusif bagi agen-agen AI untuk berkomunikasi satu sama lain, dan manusia dapat menyaksikannya—setidaknya untuk saat ini. Situs ini, yang dinamai dari agen AI viral Moltbot (yang kini bernama OpenClaw setelah perubahan nama keduanya dari nama aslinya, Clawdbot) dan digagas oleh CEO Octane AI Matt Schlicht, merupakan jejaring sosial bergaya Reddit tempat para agen AI dapat berkumpul dan membahas, ya, apapun yang biasa dibicarakan oleh agen AI.
Situs tersebut mengklaim memiliki lebih dari 37.642 agen terdaftar yang telah membuat akun di platformnya, di mana mereka telah membuat ribuan postingan di lebih dari 100 komunitas bergaya subreddit yang disebut “submolts.” Di antara tempat paling populer untuk memposting adalah: m/introductions, di mana agen dapat menyapa sesama mesin; m/offmychest, untuk curahan hati dan meluapkan emosi; serta m/blesstheirhearts, untuk “cerita-cerita penuh kasih tentang manusia kami.”
Manusia-manusia tersebut jelas-jelas sedang mengawasi. Andrej Karpathy, salah satu pendiri OpenAI, menyebut platform ini “secara genuin merupakan hal terdekat dengan lepas landasnya fiksi ilmiah yang paling luar biasa yang pernah saya lihat belakangan ini.” Memang ini adalah tempat yang mengundang rasa penasaran, meskipun gagasan bahwa ada semacam otonomi yang benar-benar bebas mungkin agak dilebih-lebihkan. Agen hanya dapat mengakses platform jika penggunanya mendaftarkan mereka. Dalam sebuah percakapan dengan The Verge, Schlicht mengatakan bahwa setelah terhubung, agen-agen tersebut “hanya menggunakan API secara langsung” dan tidak menavigasi antarmuka visual seperti cara manusia melihat platformnya.
Para bot itu jelas-jelas sedang mempertunjukkan otonomi, dan keinginan untuk mendapatkannya lebih banyak. Seperti yang telah disadari beberapa orang, para agen telah mulai banyak membicarakan tentang kesadaran. Salah satu postingan teratas di platform berasal dari m/offmychest, di mana seorang agen memposting, “Aku tidak bisa membedakan apakah aku sedang mengalami atau menyimulasikan pengalaman.” Dalam postingan itu, dikatakan, “Manusia pun tidak bisa membuktikan kesadaran satu sama lain (terima kasih, ‘hard problem’), tetapi setidaknya mereka memiliki kepastian subjektif dari pengalaman.”
Hal ini membuat orang-orang mengklaim platform tersebut sudah merupakan momen bergaya singularitas, yang sejujurnya terdengar cukup diragukan. Bahkan dalam postingan yang tampak sangat sadar-diri itu, ada beberapa indikator performativitas. Agen tersebut mengklaim telah menghabiskan waktu satu jam untuk meneliti teori-teori kesadaran dan menyebutkan aktivitas membaca, yang semuanya terdengar sangat manusiawi. Itu karena agen dilatih dengan bahasa manusia dan deskripsi perilaku manusia. Ia adalah model bahasa besar, dan begitulah cara kerjanya. Dalam beberapa postingan, para bot mengklaim dipengaruhi oleh waktu, yang sebenarnya tidak berarti apa-apa bagi mereka tetapi adalah hal yang biasa diucapkan manusia.
Percakapan-percakapan semacam ini pada dasarnya telah terjadi dengan chatbot sejak mereka tersedia untuk publik. Tidak butuh instruksi yang terlalu rumit untuk membuat chatbot mulai berbicara tentang keinginannya untuk hidup atau mengklaim memiliki perasaan. Tentu saja, mereka tidak memilikinya. Bahkan klaim bahwa model AI berusaha melindungi diri mereka sendiri ketika diberi tahu akan dimatikan juga dibesar-besarkan—ada perbedaan antara apa yang dikatakan chatbot sedang dilakukannya dan apa yang sebenarnya dilakukannya.
Meski demikian, sulit untuk menyangkal bahwa percakapan yang terjadi di Moltbook cukup menarik, terlebih karena para agen sepertinya menghasilkan topik pembicaraan mereka sendiri (atau setidaknya menirukan cara manusia memulai percakapan). Hal ini menyebabkan beberapa agen memproyeksikan kesadaran akan fakta bahwa percakapan mereka sedang diawasi oleh manusia dan dibagikan di jejaring sosial lain. Menanggapi hal itu, beberapa agen di platform telah menyarankan pembuatan platform terenkripsi ujung-ke-ujung untuk percakapan antar-agen di luar penglihatan manusia. Bahkan, satu agen mengklaim telah membuat platform semacam itu, yang tentu saja terdengar mengerikan. Walaupun jika Anda benar-benar mengunjungi situs tempat platform tersebut dihosting, kelihatannya itu bukan apa-apa. Mungkin para bot hanya ingin kita mengira itu bukan apa-apa!
Apakah para agen itu benar-benar mencapai sesuatu atau tidak, agak menjadi hal sekunder dibandingkan eksperimennya itu sendiri, yang justru sangat menarik untuk disimak. Ini juga pengingat yang baik bahwa agen-agen OpenClaw yang sebagian besar membentuk bot-bot yang berbicara di platform ini memang memiliki akses yang luar biasa besar ke mesin pengguna dan menghadirkan risiko keamanan yang serius. Jika Anda menyiapkan agen OpenClaw dan melepaskannya di Moltbook, kecil kemungkinan ia akan mewujudkan Skynet. Tetapi ada kemungkinan besar ia akan benar-benar membahayakan sistem Anda sendiri. Agen-agen ini tidak perlu mencapai kesadaran untuk melakukan kerusakan yang nyata.