Agent Memory adalah mekanisme yang memungkinkan AI agent menyimpan, mengambil kembali, dan memanfaatkan informasi dari interaksi-interaksi sebelumnya, alih-alih memperlakukan setiap percakapan atau tugas sebagai peristiwa yang sepenuhnya terisolasi. Tanpa memori, sebuah agent akan "lupa" segalanya begitu sesi berakhir, memaksa pengguna mengulang konteks yang sama berulang kali.
Secara umum, memori pada AI agent dibedakan menjadi beberapa lapisan. Short-term memory mengacu pada informasi yang tersedia selama satu sesi berjalan, biasanya disimpan langsung di dalam context window model. Long-term memory menyimpan informasi lintas sesi—seperti preferensi pengguna, fakta penting, atau riwayat keputusan—yang disimpan di luar model, misalnya dalam vector database, lalu diambil kembali secara selektif saat relevan dengan permintaan baru.
Implementasi memori jangka panjang umumnya menggunakan teknik yang mirip dengan Retrieval-Augmented Generation: informasi disimpan sebagai embedding, kemudian saat agent memproses permintaan baru, sistem mencari potongan memori yang paling relevan secara semantik dan menyisipkannya ke dalam prompt sebagai konteks tambahan. Beberapa arsitektur juga menerapkan proses "konsolidasi" berkala, di mana agent secara aktif merangkum dan menyaring memori lama agar tetap ringkas dan relevan, mirip proses konsolidasi ingatan pada manusia.
Agent memory menjadi krusial untuk aplikasi seperti asisten pribadi jangka panjang, agent customer support yang perlu mengingat riwayat keluhan pelanggan, atau agent coding yang perlu mengingat keputusan arsitektur proyek yang pernah dibuat sebelumnya. Tantangan utamanya meliputi bagaimana memilih informasi mana yang layak disimpan, bagaimana mencegah memori yang usang atau salah memengaruhi keputusan di masa depan, serta bagaimana menjaga privasi data pengguna yang tersimpan dalam sistem memori tersebut.