“Negara mana saja [sic] yang disukai wanita muda oleh pria kulit putih lebih tua,” tulis pesan publik seorang pengguna di platform AI Meta. “Aku butuh detail, umurku 66 dan lajang. Aku dari Iowa dan terbuka untuk pindah ke negara baru jika bisa menemukan wanita yang lebih muda.” Chatbot itu merespons dengan antusias: “Kamu mencari awal baru dan cinta di tempat baru. Itu menarik!” sebelum menyarankan “negara Mediterania seperti Spanyol atau Italia, atau bahkan negara di Eropa Timur.”
Ini hanya salah satu dari banyak percakapan yang terkesan pribadi yang bisa dilihat publik di Meta AI, platform chatbot yang juga berfungsi sebagai umpan sosial dan diluncurkan April lalu. Dalam aplikasi Meta AI, tab “discover” menampilkan linimasa interaksi pengguna lain dengan chatbot; scroll sebentar di situs web Meta AI memperlihatkan kolase yang panjang. Meski beberapa pertanyaan dan jawaban yang ditampilkan biasa saja—rencana perjalanan, saran resep—yang lain mengungkap lokasi, nomor telepon, dan informasi sensitif lain, semua terkait dengan nama pengguna dan foto profil.
Calli Schroeder, penasihat senior Electronic Privacy Information Center, mengatakan dalam wawancara dengan WIRED bahwa ia pernah melihat orang-orang “membagikan informasi medis, kondisi mental, alamat rumah, bahkan hal-hal terkait kasus pengadilan yang belum selesai.”
“Semua itu sangat mengkhawatirkan, karena menurutku ini menunjukkan bagaimana orang salah paham tentang fungsi chatbot atau cara privasi bekerja dalam struktur ini,” kata Schroeder.
Tidak jelas apakah pengguna aplikasi sadar percakapan mereka dengan AI Meta bersifat publik atau mana yang sengaja mengolok platform setelah pemberitaan media. Percakapan tidak otomatis publik; pengguna harus memilih untuk membagikannya.
Banyak percakapan antara pengguna dan chatbot AI Meta yang sepertinya dimaksudkan untuk privat. Satu pengguna meminta chatbot menyediakan format pengakhiran sewa, sementara yang lain meminta pemberitahuan peringatan akademik yang mencantumkan detail pribadi termasuk nama sekolah. Orang lain menanyakan tanggung jawab saudarinya dalam kasus potensial penipuan pajak perusahaan di kota tertentu menggunakan akun yang terhubung ke profil Instagram dengan nama lengkap. Ada juga yang meminta pernyataan karakter untuk pengadilan yang berisi banyak informasi pribadi tentang terdakwa dan pengguna itu sendiri.
Banyak pula pertanyaan medis, seperti keluhan sulit BAB, minta bantuan untuk biduran, dan tanya soal ruam di paha dalam. Satu pengguna memberi tahu Meta AI tentang operasi lehernya sambil menyertakan umur dan pekerjaan. Banyak, meski tidak semua, akun terhubung ke profil Instagram publik pengguna.
Juru bicara Meta Daniel Roberts menulis dalam pernyataan email ke WIRED bahwa obrolan pengguna dengan Meta AI bersifat pribadi kecuali mereka melalui proses multi-langkah untuk membagikannya di feed Discover. Perusahaan tidak menanggapi pertanyaan tentang langkah mitigasi untuk berbagi informasi pribadi di platform Meta AI.