OpenAI mengatakan bahwa Memori ChatGPT secara default adalah opt-in, yang berarti pengguna harus secara aktif mematikannya. Memori dapat dihapus kapan saja, baik di pengaturan atau dengan menginstruksikan bot untuk menghapusnya. Setelah pengaturan Memori dibersihkan, informasi tersebut tidak akan digunakan untuk melatih model AI. Belum jelas seberapa banyak data pribadi yang digunakan untuk melatih AI saat seseorang sedang mengobrol dengan chatbot. Dan mematikan Memori tidak berarti Anda sepenuhnya tidak mengizinkan percakapan Anda melatih model OpenAI; itu adalah opsi terpisah.
Perusahaan juga mengklaim bahwa mereka tidak akan menyimpan beberapa informasi sensitif di Memori. Jika Anda memberi tahu ChatGPT kata sandi Anda (jangan lakukan ini) atau nomor Social Security (atau ini), Memori aplikasi tersebut akan melupakannya. Jang juga mengatakan bahwa OpenAI masih meminta umpan balik tentang apakah informasi pribadi lainnya, seperti etnisitas pengguna, terlalu sensitif untuk perusahaan otomatis tangkap.
“Kami percaya ada banyak kasus yang berguna untuk contoh itu, tetapi untuk saat ini kami telah melatih model untuk menjauh dari mengingat informasi tersebut secara proaktif,” kata Jang.
Mudah melihat bagaimana fungsi Memori ChatGPT bisa berjalan tidak sesuai—kasus di mana pengguna mungkin lupa bahwa mereka pernah bertanya kepada chatbot tentang hal yang sensitif, seperti preferensi seksual, atau klinik aborsi, atau cara non-kekerasan untuk menghadapi ibu mertua, hanya untuk diingatkan atau dilihat oleh orang lain dalam percakapan di masa depan. Bagaimana Memori ChatGPT menangani data kesehatan juga masih menjadi pertanyaan terbuka. “Kami mengarahkan ChatGPT untuk menjauh dari mengingat beberapa detail kesehatan, tetapi ini masih dalam tahap pengembangan,” kata juru bicara OpenAI, Niko Felix. Dengan cara ini, ChatGPT adalah lagu yang sama, hanya dalam era baru, tentang kekekalan internet: Lihat fitur Memori baru yang hebat ini, sampai akhirnya menjadi masalah.
OpenAI juga bukan entitas pertama yang mencoba dengan memori dalam AI generatif. Google telah menekankan teknologi “multi-turn” dalam Gemini 1.0, LLM miliknya sendiri. Ini berarti Anda dapat berinteraksi dengan Gemini Pro menggunakan satu prompt giliran—satu pertukaran pesan antara pengguna dan chatbot—atau memiliki percakapan berkelanjutan multi-turn di mana bot “mengingat” konteks dari pesan sebelumnya.
Sebuah perusahaan kerangka AI yang disebut LangChain telah mengembangkan modul Memori yang membantu model bahasa besar mengingat interaksi sebelumnya antara pengguna akhir dan model tersebut. Memberikan LLM memori jangka panjang “dapat sangat kuat dalam menciptakan pengalaman LLM yang unik—sebuah chatbot dapat mulai menyesuaikan responsnya terhadap Anda sebagai individu berdasarkan apa yang diketahui tentang Anda,” kata Harrison Chase, pendiri dan CEO LangChain. “Ketidakmampuan untuk mengingat jangka panjang juga dapat menciptakan pengalaman yang menjengkelkan. Tidak ada yang ingin terus-menerus memberi tahu chatbot tentang preferensi makanan vegetarian mereka.”
Teknologi ini kadang-kadang disebut “retensi konteks” atau “konteks yang persisten” daripada “memori,” tetapi tujuan akhirnya sama: agar interaksi manusia-komputer terasa begitu lancar, begitu alami, sehingga pengguna dengan mudah melupakan apa yang mungkin chatbot ingat. Ini juga merupakan keuntungan potensial bagi bisnis yang menggunakan chatbot ini dan ingin menjaga hubungan berkelanjutan dengan pelanggan di sisi lain.
“Anda dapat memikirkannya sebagai sejumlah token yang ditambahkan ke percakapan Anda,” kata Liam Fedus, seorang ilmuwan riset OpenAI. “Bot memiliki kecerdasan tertentu, dan di balik layar, ia melihat memori dan mengatakan, ‘Ini terlihat terkait; biarkan saya menggabungkannya.’ Dan itu masuk dalam anggaran token Anda.”
Fedus dan Jang mengatakan bahwa Memori ChatGPT tidak mendekati kapasitas otak manusia. Namun, hampir dalam satu napas yang sama, Fedus menjelaskan bahwa dengan Memori ChatGPT, Anda dibatasi hanya “beberapa ribu token.” Jika saja.
Apakah ini asisten virtual yang sangat waspada yang dijanjikan kepada konsumen teknologi selama dekade terakhir, atau hanya skema pengumpulan data lain yang menggunakan kesukaan, preferensi, dan data pribadi Anda untuk melayani perusahaan teknologi daripada pengguna? Mungkin keduanya, meskipun OpenAI mungkin tidak menyebutkannya dengan cara itu. “Saya pikir asisten masa lalu hanya tidak memiliki kecerdasan,” kata Fedus, “dan sekarang kita sedang menuju ke sana.”
Will Knight berkontribusi dalam laporan ini.