Pendiri Signal diketahui tengah menggarap proyek diam-diam: sebuah chatbot AI sumber terbuka dengan enkripsi ujung-ke-ujung lengkap yang dirancang untuk menjaga kerahasiaan percakapan pengguna.
Dalam serangkaian tulisan blog, Moxie Marlinspike menyatakan dengan jelas bahwa meskipun ia penggemar model bahasa besar (LLM), ia merasa risau dengan sedikitnya privasi yang ditawarkan sebagian besar platform AI saat ini.
Marlinspike berargumen bahwa, seperti halnya Signal, antarmuka sebuah chatbot seharusnya secara akurat mencerminkan proses yang terjadi di balik layar. Signal terlihat seperti percakapan pribadi satu lawan satu karena memang begitulah adanya. Sementara itu, chatbot seperti ChatGPT dan Claude memberikan kesan ruang aman untuk curahan perasaan atau buku harian pribadi, padahal percakapan pengguna dapat diakses oleh perusahaan pengembangnya dan terkadang digunakan untuk pelatihan.
Dengan kata lain, jika sebuah chatbot memberi rasa seperti Anda sedang berbicara secara privat, Marlinspike mengatakan seharusnya itulah cara kerjanya.
Ia menyatakan hal ini尤其 penting karena LLM merupakan media teknologi utama pertama yang “secara aktif mengundang pengakuan.” Saat orang-orang mengobrol dengan sistem ini, mereka akhirnya membagikan banyak hal tentang cara kerja pikiran mereka, termasuk pola pikir dan ketidakpastian.
Marlinspike memperingatkan bahwa informasi semacam ini dapat dengan mudah digunakan melawan pengguna, di mana para pengiklan pada akhirnya dapat mengeksploitasi wawasan tentang mereka untuk menjual produk atau memengaruhi perilaku.
Solusi yang ia usulkan adalah Confer, sebuah chatbot AI yang mengenkripsi baik perintah (prompt) maupun respons sehingga hanya pengguna yang dapat mengaksesnya.
“Confer dirancang untuk menjadi layanan tempat Anda dapat mengeksplorasi ide tanpa kekhawatiran bahwa pikiran Anda sendiri suatu hari nanti berpotensi berbalik melawan Anda; sebuah layanan yang memutus siklus umpan balik di mana pikiran Anda menjadi iklan bertarget yang kemudian membentuk pikiran Anda; sebuah layanan di mana Anda dapat belajar tentang dunia – tanpa pialang data dan proses pelatihan masa depan justru mempelajari diri Anda,” tulis Marlinspike.
Signal didirikan pada tahun 2014 dengan prinsip serupa, dan protokol pesan terenkripsi sumber terbukanya akhirnya diadopsi oleh WhatsApp milik Meta hanya beberapa tahun kemudian. Oleh karena itu, mungkin saja Meta dan raksasa teknologi lain pada akhirnya juga mengadopsi teknologi Confer.
Cara Kerjanya
Menurut Marlinspike, Confer dirancang sehingga percakapan pengguna terenkripsi sebelum meninggalkan perangkat mereka, mirip dengan cara kerja Signal.
Perintah dienkripsi di komputer atau telepon pengguna dan dikirim ke server Confer dalam bentuk tersebut, kemudian hanya didekripsi di lingkungan data yang aman untuk menghasilkan respons.
Confer melakukan ini dengan menggunakan gabungan berbagai alat keamanan. Alih-alih kata sandi tradisional, ia menggunakan kunci akses (passkey), seperti Face ID, Touch ID, atau PIN membuka kunci perangkat pada perangkat pengguna terverifikasi, untuk menghasilkan kunci enkripsi.
Saat AI harus memberikan respons, Confer menggunakan yang disebut komputasi kerahasiaan (confidential computing), di mana isolasi yang diterapkan perangkat keras digunakan untuk menjalankan kode di dalam Lingkungan Eksekusi Terpercaya (Trusted Execution Environment/TEE).
“Mesin host menyediakan CPU, memori, dan daya, tetapi tidak dapat mengakses memori atau status eksekusi TEE,” jelas Marlinspike.
Dengan “proses berpikir” atau inferensi LLM yang berjalan di mesin virtual kerahasiaan, respons kemudian dienkripsi dan dikirim kembali ke pengguna.
Perangkat keras juga menghasilkan bukti kriptografis, yang dikenal sebagai attestasi, yang memungkinkan perangkat pengguna untuk memverifikasi bahwa semuanya berjalan sebagaimana mestinya.
Semua ini dilakukan untuk menjaga keamanan data pengguna, dan bukan, sebagaimana dikatakan Marlinspike, dikirim ke “sebuah danau data (data lake) yang dirancang khusus untuk mengekstraksi makna dan konteks.”