Para advokat keamanan dan privasi sedang bersiap untuk pertempuran berat lainnya melawan Recall, alat AI yang akan diluncurkan di Windows 11 yang akan mengambil tangkapan layar, mengindeks, dan menyimpan segala sesuatu yang pengguna lakukan setiap tiga detik.
Ketika Recall diperkenalkan pada Mei 2024, praktisi keamanan secara luas mengritiknya karena menciptakan tempat yang bagus untuk insider jahat, penjahat, atau mata-mata negara jika mereka berhasil mendapatkan akses administratif singkat ke perangkat Windows. Para advokat privasi memperingatkan bahwa Recall rentan disalahgunakan dalam pengaturan kekerasan pasangan intim. Mereka juga mencatat bahwa tidak ada yang menghentikan Recall dari menyimpan konten yang menghilang yang dikirim melalui pesan privasi-protecting seperti Signal.
Total Recall
Setelah beberapa bulan mendapat kritik, Microsoft kemudian menangguhkan Recall. Pada hari Kamis, perusahaan mengatakan mereka akan memperkenalkan kembali Recall. Saat ini hanya tersedia untuk insider dengan akses ke versi pratinjau Windows 11 Build 26100.3902. Seiring berjalannya waktu, fitur ini akan diimplementasikan secara lebih luas. Pejabat Microsoft menulis:
Recall (pratinjau) * menghemat waktu Anda dengan menawarkan cara baru untuk mencari hal-hal yang telah Anda lihat atau lakukan di PC Anda dengan aman. Dengan kemampuan AI dari PC Copilot +, sekarang mungkin untuk dengan cepat menemukan kembali setiap aplikasi, situs web, gambar, atau dokumen hanya dengan menggambarkan kontennya. Untuk menggunakan Recall, Anda perlu menyetujui untuk menyimpan snapshot, yang berupa gambar aktivitas Anda, dan mendaftar di Windows Hello untuk mengkonfirmasi keberadaan Anda sehingga hanya Anda yang dapat mengakses snapshot Anda. Anda selalu memiliki kontrol atas snapshot yang disimpan dan dapat menghentikan penyimpanan snapshot kapan pun. Saat Anda menggunakan PC Copilot + sepanjang hari bekerja pada dokumen atau presentasi, mengambil panggilan video, dan beralih konteks di seluruh aktivitas, Recall akan mengambil snapshot secara teratur dan membantu Anda menemukan hal-hal lebih cepat dan lebih mudah. Ketika Anda perlu menemukan atau kembali ke sesuatu yang pernah Anda lakukan sebelumnya, buka Recall dan autentikasi dengan Windows Hello. Ketika Anda telah menemukan yang Anda cari, Anda dapat membuka kembali aplikasi, situs web, atau dokumen, atau menggunakan Klik untuk Melakukan untuk bertindak pada gambar atau teks dalam snapshot yang Anda temukan.
Microsoft berharap bahwa konsesi yang memerlukan opt-in dan kemampuan untuk menghentikan Recall akan membantu meredakan pemberontakan kolektif yang pecah tahun lalu. Kemungkinan besar tidak akan terjadi karena berbagai alasan.
Pertama, bahkan jika Pengguna A tidak pernah mengaktifkan Recall, mereka tidak memiliki kontrol atas pengaturan di mesin Pengguna B hingga Z. Itu berarti segala hal yang dikirim Pengguna A kepada mereka akan diambil tangkapan layar, diproses dengan pengenalan karakter optik dan Copilot AI, dan kemudian disimpan dalam database terindeks di perangkat pengguna lain. Itu akan secara sembrono mengumpulkan berbagai materi sensitif Pengguna A, termasuk foto, kata sandi, kondisi medis, dan video serta pesan terenkripsi. Seperti yang ditulis oleh penulis Panduan Privasi Em di Mastodon:
Fitur ini sayangnya akan mengekstrak informasi Anda dari perangkat lunak yang aman yang mungkin telah Anda gunakan dan menyimpannya di komputer orang ini dengan cara yang mungkin kurang aman.
Tentu saja orang ini dapat secara manual mengambil tangkapan layar dari semua hal ini, namun fitur ini membuatnya bahwa bahkan orang yang berniat baik mungkin tidak menyadari bahwa ini sedang berjalan, atau mungkin salah menganggap itu cukup aman.
Fitur ini belum sepenuhnya dirilis, tetapi mungkin akan segera.
Kehadiran database yang mudah dicari yang merekam setiap momen hidup mesin juga akan menjadi sebuah keuntungan bagi orang lain yang tidak memiliki kepentingan terbaik pengguna. Tingkat material arsip yang detail itu pasti akan menjadi subjek subpoena oleh pengacara dan pemerintah. Para pelaku ancaman yang berhasil menginstal spyware mereka di perangkat tidak perlu lagi mencari data paling sensitif yang disimpan di sana. Sebaliknya, mereka akan menambang Recall sama seperti yang mereka lakukan pada database browser yang menyimpan kata sandi sekarang.
Microsoft tidak segera merespons pesan yang bertanya mengapa mereka mengenalkan kembali Recall kurang dari setahun setelah fitur tersebut mendapat sambutan dingin. Bagi para kritikus, Recall kemungkinan akan tetap menjadi salah satu contoh yang paling merugikan dari enshittification, istilah yang baru-baru ini diciptakan untuk memasukkan AI yang tidak diinginkan dan fitur lain ke dalam produk yang sudah ada ketika manfaat bagi pengguna sangat sedikit.
Cerita ini awalnya muncul di Ars Technica.