大模型根本没有记忆,那AI到底是怎么"记住"你的?
本文探讨了智能体记忆系统的运作方式及其局限性,并提出了两种解决方案:短期记忆管理和长期记忆存储。首先,解释了智能体本质上是无状态的,其“记忆”仅由用户发送的完整对话历史决定。然后介绍了三种短期记忆管理方法:滑动窗口、摘要压缩和混合策略。接下来,讨论了长期记忆的重要性,并展示了一个简单的RAG(检索增强生成)实现。文章还指出了长期记忆中的几个潜在问题,包括噪音干扰、幻觉放大和成本与延迟。最后,指出虽然记忆管理很重要,但在某些情况下,任务规划更为关键,以便智能体能够更好地应对复杂的任务。