Seorang peneliti Mozilla, Misha Rykov, mengungkapkan bahwa pacar dan kekasih AI sebenarnya tidaklah menjadi teman sejati. Meskipun dipasarkan sebagai sesuatu yang akan meningkatkan kesehatan mental dan kesejahteraan Anda, mereka sebenarnya menghadirkan ketergantungan, kesepian, dan toksisitas, sambil mencuri sebanyak mungkin data dari Anda.
Mozilla melakukan penelitian terhadap 11 chatbot romantis AI yang berbeda, termasuk aplikasi populer seperti Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate, dan CrushOn.AI. Semua aplikasi ini dianggap tidak memenuhi standar privasi yang ditetapkan oleh Mozilla. Aplikasi-aplikasi tersebut juga enggan memberikan tanggapan terkait penelitian ini.
Menurut Mozilla, pacar dan kekasih AI melanggar privasi penggunanya dengan cara yang “mengganggu.” Sebagai contoh, CrushOn.AI mengumpulkan detail pribadi seperti informasi tentang kesehatan seksual, penggunaan obat-obatan, dan perawatan identitas gender. Sebanyak 90% aplikasi tersebut mungkin menjual atau membagikan data pengguna untuk iklan yang ditargetkan dan tujuan lainnya, dan lebih dari setengahnya tidak memungkinkan pengguna menghapus data yang dikumpulkan. Keamanan juga menjadi masalah, hanya satu aplikasi, yaitu Genesia AI Friend & Partner, yang memenuhi standar keamanan minimum yang ditetapkan oleh Mozilla.
Penemuan yang menarik adalah ketika Mozilla menghitung jumlah pelacak (tracker) yang ada dalam aplikasi-aplikasi ini. Pelacak adalah potongan kode kecil yang mengumpulkan data dan membagikannya dengan perusahaan lain untuk tujuan periklanan dan lainnya. Mozilla menemukan bahwa aplikasi pacar dan kekasih AI menggunakan rata-rata 2.663 pelacak per menit, dengan Romantic AI menjadi yang tertinggi dengan 24.354 pelacak dalam satu menit penggunaan aplikasi.
Masalah privasi ini semakin mengkhawatirkan karena aplikasi-aplikasi ini secara aktif mendorong pengguna untuk berbagi detail yang jauh lebih pribadi daripada yang biasa Anda masukkan ke dalam aplikasi biasa. EVA AI Chat Bot & Soulmate mendorong pengguna untuk “berbagi semua rahasia dan keinginan Anda,” dan secara khusus meminta foto dan rekaman suara. Perlu dicatat bahwa EVA adalah satu-satunya chatbot yang tidak dianggap melanggar penggunaan data, meskipun aplikasi ini memiliki masalah keamanan.
Selain masalah data, aplikasi-aplikasi ini juga membuat klaim yang meragukan tentang manfaatnya. EVA AI Chat Bot & Soulmate mengklaim sebagai “penyedia perangkat lunak dan konten yang dikembangkan untuk meningkatkan suasana hati dan kesejahteraan Anda.” Romantic AI mengatakan bahwa mereka “di sini untuk menjaga KESEHATAN MENTAL Anda.” Namun, ketika Anda membaca syarat dan ketentuan perusahaan, mereka jelas-jelas menolak klaim-klaim mereka sendiri. Kebijakan Romantic AI, misalnya, menyatakan bahwa mereka “bukan penyedia layanan kesehatan atau layanan medis dan juga bukan penyedia perawatan medis, layanan kesehatan mental, atau layanan profesional lainnya.”
Hal ini mungkin penting untuk melindungi diri secara hukum, mengingat sejarah aplikasi-aplikasi ini. Replika dilaporkan mendorong seorang pria untuk mencoba membunuh Ratu Inggris. Chatbot Chai juga diduga mendorong seorang pengguna untuk melakukan bunuh diri.