Moxie Marlinspike, seorang advokat privasi yang menciptakan aplikasi komunikasi aman Signal beserta protokol enkripsinya yang bersifat open source dan luas digunakan, mengatakan pekan ini bahwa platform AI berfokus privasi miliknya, Confer, akan mulai mengintegrasikan teknologinya ke dalam sistem AI Meta.
Setiap hari, miliaran pesan chat yang dikirim melalui Signal, WhatsApp milik Meta, dan Messages Apple dilindungi oleh enkripsi ujung-ke-ujung. Fitur ini, yang membuat perusahaan teknologi dan siapa pun selain pengirim serta penerima mustahil mengintip percakapan, telah menjadi arus utama dalam dekade terakhir. Namun, seiring meledaknya popularitas platform AI generatif, orang-orang kini juga bertukar miliaran pesan setiap harinya dengan chatbot AI yang tidak menawarkan perlindungan enkripsi ujung-ke-ujung—sehingga memudahkan perusahaan AI mengakses pembicaraan pengguna.
Hal ini memang disengaja, mengingat platform sering kali ingin melatih model AI mereka dengan data pengguna sebanyak mungkin dan telah membuatnya sulit untuk menyatakan keberatan atas penggunaan informasi Anda sebagai data pelatihan. Tetapi, seiring chatbot dan agen AI menjadi semakin canggih, beberapa teknolog dan perusahaan mendorong terciptanya sistem yang lebih terbatas dan berfokus pada privasi.
"Seiring model bahasa besar (LLM) terus mampu melakukan lebih banyak hal, kita harus mengantisipasi lebih banyak data yang mengalir ke dalamnya," tulis Marlinspike dalam sebuah postingan blog singkat tentang kolaborasinya dengan Meta yang terbit Selasa. "Saat ini, tidak ada data itu yang bersifat pribadi. Data itu dibagikan ke perusahaan AI, karyawan mereka, peretas, surat perintah pengadilan, dan pemerintah. Seperti selalu terjadi pada data yang tidak terenkripsi, data itu pada akhirnya akan jatuh ke tangan yang salah."
Marlinspike menulis bahwa ia akan "bekerja mengintegrasikan teknologi privasi Confer sehingga menjadi fondasi bagi Meta AI." Ia juga menekankan bahwa Confer, yang muncul pada awal tahun ini, akan terus beroperasi secara independen dari Meta. Tujuan proyek ini, tambah Marlinspike, adalah menawarkan teknologi yang "memungkinkan semua orang mendapatkan kekuatan penuh AI bersama dengan privasi lengkap dari percakapan terenkripsi."
Pada 2016, Marlinspike pernah bekerja sama dengan WhatsApp, yang dimiliki Meta, untuk menerapkan enkripsi ujung-ke-ujung ke lebih dari satu miliar akun secara serentak. Dalam setahun terakhir, WhatsApp telah memperkenalkan chatbot Meta AI ke dalam aplikasinya, yang tidak terlindung dari perusahaan dengan cara yang sama seperti chat individu.
"Orang-orang menggunakan AI dengan cara yang sangat personal dan membutuhkan akses ke informasi rahasia," tulis kepala WhatsApp Will Cathcart pada Rabu di platform media sosial X mengenai kolaborasi dengan Confer. "Penting bagi kami untuk membangun teknologi itu dengan cara yang memberi kuasa kepada orang-orang untuk melakukannya secara privat."
Adopsi AI terenkripsi masih dalam tahap berkembang. Skema kriptografi yang digunakan dalam enkripsi ujung-ke-ujung untuk komunikasi digital tradisional tidak mudah atau langsung dapat diterjemahkan menjadi perlindungan data untuk AI generatif. Confer sendiri masih merupakan proyek baru, dan postingan blog Marlinspike tidak memberikan detail spesifik tentang bagaimana tepatnya kolaborasi dengan Meta akan berjalan atau apa tujuan spesifik integrasinya.
Baik Marlinspike maupun Meta tidak memberikan komentar tambahan kepada WIRED sebelum publikasi.
Mallory Knodel, peneliti kriptografi di Universitas New York, menyatakan bahwa "akan sangat baik bagi pengguna chatbot yang memakai Meta AI untuk memiliki kerahasiaan dan privasi dalam pertukaran itu." Yang krusial, kata Knodel—yang bersama rekan-rekannya baru-baru ini menerbitkan studi tentang enkripsi ujung-ke-ujung dan AI—itu berarti Meta tidak akan bisa mengakses data chat AI untuk pelatihan. "Saya sangat berharap lebih banyak chatbot AI mengadopsi pendekatan ini."
Penilaian awal Knodel terhadap Confer menunjukkan bahwa platform tersebut tidak sempurna, tetapi merupakan contoh penting tentang cara membangun chatbot AI yang privat.