Meta kini masuk ke dalam daftar perusahaan yang sistem internalnya mengalami kekacauan akibat AI. Menurut laporan dari The Information, sebuah agen AI, yang bertindak atas nama seorang insinyur, memberikan panduan yang akhirnya mengakibatkan data sensitif pengguna terekspos kepada individu yang tidak memiliki wewenang untuk melihatnya.
Seperti yang kerap terjadi dalam situasi serupa, misalnya insiden yang menyebabkan agen AI menghapus kode kritis dan membuat server Amazon offline, laporan investigasinya terdengar seperti komedi kesalahan. Berdasarkan The Information, masalah ini bermula ketika seorang pegawai Meta mengajukan pertanyaan teknis di forum internal yang dirancang untuk saling bantu antar karyawan. Seorang insinyur melihat pertanyaan tersebut dan meminta agen AI untuk menganalisisnya, yang berujung pada agen itu memposting respons atas nama sang insinyur. Penanya asli melihat panduan itu dan, mengira itu berasal dari rekan kerja di Meta, memutuskan untuk menjalankannya.
Ternyata, agen AI tersebut tidak sepenuhnya memahami apa yang dibicarakannya. Saat pegawai itu menjalankan sarannya, dilaporkan sejumlah besar data—termasuk informasi sensitif perusahaan dan pengguna—menjadi dapat diakses oleh karyawan Meta yang tidak memiliki izin untuk melihat atau mengaksesnya. Paparan ini berlangsung sekitar dua jam sebelum akhirnya diperbaiki.
Ini bukan pertama kalinya seseorang di Meta terlalu mempercayai agen AI. Awal tahun ini, Summer Yue, Direktur Keamanan dan Penyelarasan di lab superintelijen Meta, memberikan akses ke kotak masuk emailnya kepada agen AI sumber terbuka OpenClaw. Ujung-ujungnya, semua emailnya terhapus, bahkan saat ia memohon agar agen itu berhenti.
Mungkin itulah sebabnya Meta mencari bantuan dari luar untuk urusan keamanan. Wired melaporkan bahwa Moxie Marlinspike, sosok di balik Signal dan protokol enkripsinya yang sumber terbuka, sedang bekerja sama dengan Meta untuk menghadirkan enkripsi ujung-ke-ujung pada chatbot AI mereka.
Marlinspike telah mengembangkan chatbot terenkripsi bernama Confer, dan dikabarkan akan membantu Meta mengintegrasikan teknologi tersebut ke dalam produk AI mereka—meski platformnya akan tetap beroperasi secara independen, sehingga tampaknya ia tidak akan bergabung ke perusahaan tersebut.
“Kami menggunakan LLM untuk jenis pemikiran tanpa filter seperti yang kami lakukan dalam jurnal pribadi—hanya saja jurnal ini adalah endpoint API ke pipeline data yang dirancang khusus untuk mengekstrak makna dan konteks,” tulisnya dalam sebuah postingan blog. “Seiring Meta membangun lebih banyak produk AI di luar paradigma chat dasar, teknologi privasi dari Confer akan menjadi bagian fondasi dari segala hal yang akan datang.”