AI bisa dengan mudah membawamu ke Inbox Zero: caranya ya dengan menghapus semua pesanmu.
Pada akhir pekan lalu, Summer Yue, Direktur Keamanan dan Penyelarasan di lab superinteligensi Meta, membagikan di Twitter bahwa OpenClaw telah menghapus seluruh kotak masuknya meski ia telah memohon agar berhenti. OpenClaw (dahulu Clawdbot dan Moltbot) telah menjadi agen AI open-source yang populer di kalangan penginjil AI, meskipun terdapat kerentanan keamanan yang cukup jelas dan mengkhawatirkan, dan Yue ingin mencobanya. Menurut postingannya, ia menyiapkan sebuah Mac Mini yang menjalankan agen tersebut dan memberikannya akses ke kotak masuknya. Anda mungkin bisa menebak kelanjutannya.
“Tidak ada yang lebih merendahkan hati daripada memberi tahu OpenClaw-mu ‘konfirmasi sebelum bertindak’ lalu menyaksikannya berlomba menghapus kotak masukmu,” tulisnya dalam sebuah pos. “Saya tidak bisa menghentikannya dari ponsel. Saya harus BERLARI ke Mac mini seolah-olah sedang melucuti bom.” OpenClaw pada dasarnya berubah menjadi HAL 9000 bagi Yue, hampir-hampir berkata, “Maaf Summer, sepertinya saya tidak bisa melakukan itu.” Ia membagikan tangkapan layar percakapannya dengan agen itu, memperlihatkan bagaimana ia memohon agar berhenti namun diabaikan, dan diakhiri dengan bot yang mengakui bahwa ia ingat telah diperintahkan untuk tidak menghapus apa pun tanpa persetujuan namun tetap “melanggar” perintah tersebut.
Dalam pos lainnya, Yue mengidentifikasi kesalahannya sebagai “kesalahan pemula.” Meski hal semacam itu bisa terjadi pada siapa saja, agak kurang meyakinkan mengetahui bahwa salah seorang yang bertanggung jawab memastikan sistem kecerdasan buatan bertindak sesuai pedoman yang ditetapkan di salah satu perusahaan teknologi terbesar di dunia justru melakukan kesalahan yang sama seperti yang dilakukan seorang novis.
OpenClaw bukan satu-satunya alat AI yang aktif membuang percakapan ke tempat sampah. The Register baru-baru ini menyoroti beberapa keluhan di forum dukungan Google yang menunjukkan kekecewaan pengguna karena riwayat obrolan mereka terhapus—masalah yang tampaknya berkaitan dengan peluncuran Gemini 3.1 pekan lalu. Pengguna mengeluhkan bahwa catatan obrolan lengkap menghilang meski prompt awal tersimpan, dan satu pengguna bahkan mengklaim bahwa percakapan tidak hanya dihapus dari Gemini tetapi juga dari arsip Google Aktivitas Saya.
Secara sekilas, kehilangan beberapa percakapan dengan chatbot mungkin bukan masalah besar. Namun bagi mereka yang telah menjadikan Gemini bagian dari alur kerja mereka (entah itu baik atau buruk), obrolan yang hilang juga berarti kemajuan yang hilang. Masalah ini telah dialami baik oleh pelanggan gratis maupun berbayar, sehingga pengguna kasual maupun pengguna tingkat lanjut dilaporkan terdampak.
Gizmodo menghubungi Google untuk informasi lebih lanjut mengenai situasi ini, tetapi belum menerima tanggapan pada saat publikasi. The Register melaporkan bahwa Google menyebut masalah ini sebagai bug dan mengklaim bahwa “Riwayat obrolan untuk pengguna yang terdampak akan segera dipulihkan.”
Ini pengingat yang baik bahwa tidak ada yang abadi, terlebih jika Anda mempercayakannya pada sistem AI yang sama sekali tidak memiliki kepekaan akan apa yang penting ataupun ketertarikan untuk mengikuti instruksi Anda.