Gambar: anilakkus/iStock/Getty Images Plus via Getty Images
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
**Intisari ZDNET**
* Copilot kini dapat mengingat atau melupakan detail berdasarkan perintah Anda.
* Memori Copilot dapat dilihat di Pengaturan > Memori pengguna.
* Kemampuan mengingat yang lebih besar membawa resiko yang lebih besar pula.
Asisten AI Copilot dari Microsoft kini dapat secara eksplisit diperintahkan untuk mengingat atau melupakan detail tertentu tentang kehidupan penggunanya. Dalam sebuah postingan X pada hari Senin, Mustafa Suleyman, CEO divisi AI perusahaan, mengumumkan bahwa preferensi memori individu tersebut pada gilirannya akan membentuk respons chatbot di masa depan.
Sebagai contoh, Anda kini dapat meminta Copilot untuk mengingat bahwa Anda seorang vegetarian, sehingga ia mempertimbangkan pembatasan diet tersebut ketika merespons permintaan Anda untuk rekomendasi restoran lokal nantinya. Atau, Anda mungkin memerintahkannya untuk mengingat nama dan ulang tahun pasangan baru Anda; jika hubungan itu tidak berhasil, Anda selalu dapat menyuruhnya untuk melupakan nama dia.
Fitur memori baru ini juga bisa berguna jika Anda sedang mencoba membangun kebiasaan baru, seperti menulis jurnal setiap pagi. Cukup minta Copilot untuk mengirimkan pengingat harian kepada Anda untuk menulis jurnal tepat setelah Anda bangun tidur. Anda dapat menggunakan perintah “Lupakan” dan “Ingat,” seperti yang ditunjukkan contoh dari Microsoft.
Copilot akan melacak memorinya, yang dapat Anda lihat dan edit secara manual dengan mengeklik Pengaturan > Memori pengguna. Fitur baru ini sudah aktif baik di desktop maupun ponsel.
Mencari Keseimbangan
Dalam upaya berkelanjutan mereka untuk membangun asisten AI yang sangat menarik dan berguna untuk berbagai tugas, para pengembang teknologi harus menemukan keseimbangan yang tepat antara ingatan dan kelupaan.
Latih sebuah chatbot untuk mengingat setiap detail kecil tentang kehidupan pengguna, dan hal itu dapat menciptakan kelambatan setiap kali pengguna menanyakannya (selain dari kekhawatiran privasi karena semakin banyak memberikan informasi pribadi kepada chatbot). Di sisi lain, chatbot yang melupakan segala sesuatu yang diceritakan pengguna tidak jauh lebih berguna daripada pencarian Google.
Alih-alih mengambil pendekatan satu-untuk-semua terhadap masalah memori-kelupaan, perusahaan pada dasarnya telah mengalihdayakannya kepada pengguna individual itu sendiri, memberi mereka kemampuan untuk memodifikasi sejauh mana sistem AI dapat mengingat informasi pribadi mereka.
Membangun Asisten AI yang Lebih Berguna
Microsoft pertama kali memperkenalkan fitur “personalisasi dan memori” untuk Copilot pada bulan April tahun ini, memposisikannya sebagai langkah penting menuju pembangunan pendamping AI yang memahami konteks dan preferensi unik dari pengguna individual.
Melalui fitur ini, setiap pertukaran dengan chatbot menjadi bagian dari korpus data pelatihannya, sehingga seiring waktu, ia mampu membangun profil pengguna yang lebih terperinci — mirip dengan bagaimana algoritma yang menggerakkan aplikasi media sosial seperti Instagram dan TikTok mempersonalisasi umpan mereka kepada pengguna individual dari waktu ke waktu.
“Saat Anda menggunakan Copilot, ia akan mencatat interaksi Anda, menciptakan profil pengguna yang lebih kaya dan solusi yang disesuaikan yang dapat Anda andalkan,” tulis Microsoft dalam sebuah postingan blog bulan Mei. “Dari saran untuk tempat liburan baru hingga produk yang mungkin Anda nikmati, Copilot adalah pendamping AI andalan Anda yang membantu Anda merasa dipahami dan dilihat.”
Ini disusul dengan cepat setelah pembaruan serupa pada kemampuan memori ChatGPT, yang memungkinkannya untuk merujuk semua percakapan masa lalu pengguna guna menyesuaikan responsnya dengan lebih efektif. Anthropic juga mengumumkan pada bulan Agustus bahwa Claude dapat diperintahkan untuk mengambil informasi dari percakapan sebelumnya — meskipun fitur itu diaktifkan secara default, pengguna juga dapat mematikannya secara manual.
Semua upaya ini diarahkan untuk membangun chatbot yang lebih dari sekadar mesin penjawab pertanyaan, dan lebih mendekati teman atau kolega tepercaya yang mampu mengenal pengguna dan memperbarui pemahaman mereka tentang pengguna tersebut dari waktu ke waktu.
Resiko dari Mengingat
Namun, kemampuan chatbot untuk mengingat informasi dari waktu ke waktu dan membangun profil pengguna yang detail bukannya tanpa resiko.
Dalam hal terjadi kebocoran data, informasi sensitif yang dibagikan oleh pengguna individual atau organisasi dapat bocor. Pada tingkat psikologis, chatbot AI yang secara bertahap mempelajari gaya komunikasi dan keyakinan seseorang dari waktu ke waktu dapat secara halus mendorong orang tersebut ke dalam pola pikir yang delusional — sebuah fenomena yang kini banyak digambarkan di media (bukan oleh psikiater) sebagai “psikosis AI.” Hal itu juga patut diperhatikan mengingat kontroversi terkini seputar pendamping AI.
Memberikan kemampuan kepada pengguna untuk mematikan atau memodifikasi fitur memori chatbot adalah langkah awal yang baik, tetapi tidak semua pengguna cukup paham untuk mengetahui cara mengambil langkah-langkah ini, atau bahkan menyadari fakta bahwa informasi yang mereka bagikan disimpan di server di suatu tempat.
Sementara Perlindungan Data Umum (GDPR) Uni Eropa mewajibkan perusahaan teknologi untuk mengungkapkan kapan mereka mengumpulkan dan memproses data pribadi pengguna — seperti nama, alamat, atau preferensi mereka — tidak ada regulasi komprehensif seperti itu yang saat ini berlaku di AS, yang berarti kebijakan transparansi dari para pengembang teknologi sendiri adalah satu-satunya mekanisme yang memastikan pengguna memiliki pemahaman tentang bagaimana informasi pribadi mereka disimpan dan digunakan oleh chatbot.