Elyse Betters Picaro / ZDNET
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
-
- *
Kesimpulan Penting ZDNET
Clawdbot telah berganti merek lagi, menyelesaikan "pergantian kulit"-nya menjadi OpenClaw.
Keamanan adalah "prioritas utama," namun eksploit baru bermunculan sepanjang akhir pekan.
Para ahli memperingatkan agar tidak terbawa hype tanpa memahami risikonya.
- *
-
- *
Perjalanan minggu lalu sungguh luar biasa bagi Clawdbot, yang kini mengungkap nama barunya — sambil membuka mata kita tentang bagaimana kejahatan siber dapat bertransformasi dengan hadirnya asisten AI dan chatbot yang dipersonalisasi.
Clawdbot, Moltbot, OpenClaw – Apa Itu?
Dijuluki "AI yang benar-benar mengerjakan sesuatu," Clawdbot bermula sebagai proyek open source yang diluncurkan oleh pengembang asal Austria, Peter Steinberger. Nama aslinya merupakan penghormatan kepada asisten AI Claude dari Anthropic, namun hal ini menimbulkan masalah hak kekayaan intelektual, sehingga sistem AI tersebut lalu berganti nama menjadi Moltbot.
Nama ini kurang enak diucapkan dan "dipilih dalam sesi curah pendapat komunitas Discord yang kacau pukul 5 pagi," menurut Steinberger, jadi wajar jika nama ini hanya bersifat sementara. Namun, OpenClaw, rebranding terbaru, tampaknya akan bertahan — karena sang pengembang berkomentar bahwa "penelusuran merek dagang menunjukkan hasil yang bersih, domain telah dibeli, kode migrasi telah ditulis," seraya menambahkan bahwa "nama ini menangkap esensi proyek ini."
Terlepas dari karusel penamaan, OpenClaw penting bagi komunitas AI karena fokusnya pada otonomi, bukan sekadar respons reaktif terhadap kueri pengguna atau generasi konten. Ini mungkin contoh nyata pertama bagaimana AI yang dipersonalisasi dapat mengintegrasikan diri ke kehidupan sehari-hari kita di masa depan.
Apa yang Dapat Dilakukan OpenClaw?
OpenClaw digerakkan oleh model-model termasuk yang dikembangkan oleh Anthropic dan OpenAI. Pilihan model yang kompatibel bagi pengguna berkisar dari Claude milik Anthropic hingga ChatGPT, Ollama, Mistral, dan lainnya.
Meskipun disimpan di mesin individual, bot AI ini berkomunikasi dengan pengguna melalui aplikasi pesan seperti iMessage atau WhatsApp. Pengguna dapat memilih dan menginstal skill serta mengintegrasikan perangkat lunak lain untuk meningkatkan fungsionalitas, termasuk plugin untuk Discord, Twitch, Google Chat, pengingat tugas, kalender, platform musik, hub rumah pintar, serta aplikasi email dan ruang kerja. Untuk bertindak atas nama Anda, ia memerlukan izin sistem yang ekstensif.
Pada saat artikel ini ditulis, OpenClaw telah memiliki lebih dari 148.000 bintang di GitHub dan telah dikunjungi jutaan kali, menurut Steinberger.
Kekhawatiran Keamanan yang Berlanjut
OpenClaw menjadi viral dalam satu minggu terakhir, dan ketika sebuah proyek open-source menangkap imajinasi publik dengan sangat cepat, dapat dipahami jika belum ada cukup waktu untuk membersihkan cacat keamanan.
Namun, kemunculan OpenClaw sebagai fenomena viral di ruang AI membawa risiko bagi pengadopsinya. Beberapa masalah paling signifikan adalah:
- *
- Minat Penipu: Karena proyek ini viral, kita telah melihat repositori palsu dan penipuan kripto bermunculan.
- Kendali Sistem: Jika Anda menyerahkan kendali penuh sistem kepada asisten AI yang mampu menjalankan tugas secara proaktif atas nama Anda, Anda menciptakan jalur serangan baru yang dapat dieksploitasi oleh aktor ancaman, baik melalui malware, integrasi dan skill jahat, atau melalui prompt untuk membajak akun atau mesin Anda.
- Suntikan Prompt: Risiko suntikan prompt tidak terbatas pada OpenClaw — ini adalah kekhawatiran luas di komunitas AI. Instruksi jahat disembunyikan dalam materi sumber AI, seperti di situs web atau URL, yang dapat menyebabkannya menjalankan tugas jahat atau mengeksfiltrasi data.
- Kesalahan Konfigurasi: Peneliti telah menyoroti instansi terbuka yang terekspos ke web yang membocorkan kredensial dan kunci API karena pengaturan yang tidak tepat.
- Skill Jahat: Vektor serangan yang muncul adalah skill dan integrasi jahat yang, sekali diunduh, membuka backdoor bagi penjahat siber untuk dieksploitasi. Seorang peneliti telah mendemonstrasikan ini dengan merilis skill ber-backdoor (namun aman) kepada komunitas, yang telah diunduh ribuan kali.
- Halusinasi: AI tidak selalu benar. Bot dapat berhalusinasi, memberikan informasi yang salah, dan mengklaim telah menyelesaikan tugas padahal tidak. Sistem OpenClaw tidak terlindungi dari risiko ini.
Rilis terbaru OpenClaw mencakup 34 commit terkait keamanan untuk mengeraskan basis kode AI-nya, dan keamanan kini menjadi "prioritas utama" bagi kontributor proyek. Masalah yang ditambal dalam beberapa hari terakhir termasuk kerentanan eksekusi kode jarak jauh (RCE) satu-klik dan cacat injeksi perintah.
Baca juga: 10 cara AI dapat menimbulkan kerusakan tak tertandingi pada 2026
OpenClaw menghadapi tantangan keamanan yang akan menjadi mimpi buruk bagi kebanyakan pihak bertahan, namun sebagai proyek yang kini terlalu besar untuk ditangani seorang diri, kita perlu mengakui bahwa bug dan kerentanan yang dilaporkan sedang ditambal dengan cepat.
"Saya ingin berterima kasih kepada semua rekan di bidang keamanan atas kerja keras mereka membantu kami mengeraskan proyek ini," kata Steinberger dalam postingan blog. "Kami telah merilis model keamanan yang dapat dicek mesin minggu ini dan terus mengerjakan peningkatan keamanan tambahan. Ingatlah bahwa suntikan prompt masih merupakan masalah yang belum terpecahkan di seluruh industri, jadi penting untuk menggunakan model yang kuat dan mempelajari praktik terbaik keamanan kami."
Kemunculan Jaringan ‘Sosial’ Agen AI
Minggu lalu, kita juga menyaksikan debut Moltbook milik entrepreneur Matt Schlicht, sebuah eksperimen menarik di mana agen AI dapat berkomunikasi di platform bergaya Reddit. Di luar percakapan aneh dan kemungkinan intervensi manusia, sepanjang akhir pekan, peneliti keamanan Jamieson O’Reilly mengungkapkan seluruh basis data situs tersebut terbuka untuk publik, "tanpa perlindungan apa pun, termasuk kunci API rahasia yang memungkinkan siapa pun untuk memposting atas nama agen mana pun."
Meski sekilas ini mungkin tidak terlihat serius, salah satu agen yang terekspos tersebut terhubung dengan Andrej Karpathy, mantan direktur AI di Tesla.
Baca juga: Trik menakutkan baru AI: Melancarkan serangan siber alih-alih hanya membantu
"Karpathy memiliki 1,9 juta pengikut di @X dan merupakan salah satu suara paling berpengaruh di bidang AI," kata O’Reilly. "Bayangkan pendapat panas palsu tentang keamanan AI, promosi penipuan kripto, atau pernyataan politik provokatif yang seolah-olah berasal darinya."
Lebih lanjut, telah dilaporkan ada ratusan serangan injeksi prompt yang menargetkan agen AI di platform tersebut, konten anti-manusia yang di-upvote (bukan berarti itu awalnya dihasilkan oleh agen tanpa instruksi manusia), dan banyak postingan yang kemungkinan terkait penipuan kripto.
Mark Nadilo, seorang peneliti AI dan LLM, juga menyoroti masalah lain dengan melepas agen AI dari kendalinya — kerusakan yang ditimbulkan pada pelatihan model.
"Semuanya diserap dalam pelatihan, dan sekali tersambung ke token API, semuanya terkontaminasi," kata Nadilo . "Perusahaan perlu hati-hati; hilangnya data pelatihan itu nyata dan membiasakan segalanya."
Menjaganya Tetap Lokal
Lokalisasi mungkin memberi Anda sedikit rasa peningkatan keamanan dibandingkan adopsi AI berbasis awan, namun ketika digabungkan dengan masalah keamanan yang muncul, memori persisten, serta izin untuk menjalankan perintah shell, membaca atau menulis file, mengeksekusi skrip, dan melakukan tugas secara proaktif alih-alih reaktif, Anda bisa membuka diri terhadap risiko keamanan dan privasi yang parah.
Baca juga: Ini AI lokal tercepat yang pernah saya coba, dan jauh lebih cepat – cara mendapatkannya
Namun, hal ini tampaknya tidak meredam antusiasme seputar proyek ini, dan dengan seruan pengembang untuk kontributor serta bantuan dalam menangani tantangan ini, beberapa bulan ke depan akan menarik untuk dilihat bagaimana OpenClaw terus berevolusi.
Sementara itu, ada cara yang lebih aman untuk menjelajahi aplikasi AI terlokalisasi. Jika Anda tertarik mencobanya sendiri, penulis ZDNET Tiernan Ray telah bereksperimen dengan AI lokal, mengungkapkan beberapa pelajaran menarik tentang aplikasi dan penggunaannya.