
AI 智能体记忆系统的10大关键技术 原创
关于 AI 智能体的记忆系统架构设计和落地实现可以参考这两篇文章:《AI 智能体长期记忆系统架构设计》和《AI 智能体的长期记忆系统架构设计与落地实现》,今天我们详细剖析下 AI 智能体记忆系统的10大关键技术。
一、AI 智能体记忆系统10大关键技术
1、关键技术一:为什么长期记忆很重要?
我们构建的 AI 智能体存在以下三个关键问题:
第一、丢失上下文:AI 智能体忘记了过去互动中的重要信息;
第二、通用回应:没有适当的记忆,AI 智能体的回复变得不个性化且不准确;
第三、信任侵蚀:当 AI 智能体无法记住基本偏好时,用户失去信心。
这肯定不是通往通用人工智能的道路,或者更实际地说,不是留住客户的方法。
2、关键技术二:为什么 RAG 不适合作为长期记忆系统?
让我用一个具体的例子来说明为什么 RAG 作为记忆系统是不合适的?
考虑一个电商场景:
- 用户表达对阿迪达斯运动鞋的喜爱;
- 他们的鞋子两个月后坏了,导致沮丧;
- 用户将偏好转向彪马;
- 用户问:“我应该买什么运动鞋?”
在一个基于 RAG 的系统中,“我应该买什么运动鞋?”这个查询在语义上最接近最初的阿迪达斯偏好。向量数据库返回了这个过时的事实,AI 智能体错误地推荐了阿迪达斯:完全忽略了偏好变化。
核心问题是:
- 时间顺序:哪个事实先出现?
- 因果关系:鞋子坏了→失望→偏好变化;
- 事实失效:“喜欢阿迪达斯”应该被后来的事件覆盖。
3、关键技术三:向量嵌入 VS 知识图谱
这是以上问题的向量嵌入可视化表示:
在向量空间中,这些事实作为孤立的点存在,没有明确的关系。查询找到了最相似的向量嵌入,但完全错过了因果链和时间上下文。
然而,知识图谱可以明确地用时间有效期来建模这些关系。如下图中显示:
Graphiti动态知识图谱
- “喜欢”关系在特定日期失效;
- “坏了”关系创建了一个因果链接;
- 新的“喜欢”彪马的关系目前是有效的。
4、关键技术四:知识图谱开源实现 Graphiti
Graphiti 是Zep 的开源框架,用于构建实时、动态的知识图谱。它专门设计来解决以上探讨的记忆问题。
Graphiti 关键特点:
- 时间感知:跟踪事件发生的时间以及它们被学习的时间;
- 关系性:实体+关系+社区;
- 实时性:动态更新无需昂贵的重新计算
- 秘密武器:双时间记忆
5、关键技术五:秘密武器:双时间记忆
这就是 Graphiti 的时间模型的工作方式。每个事实跟踪四个时间戳:
- created_at:Graphiti 学习这个事实的时间;
- valid_at:事件实际发生的时间;
- invalid_at:事实变得不真实的时间;
- expired_at:Graphiti 学习到它不再有效的时间。
这使得强大的时间推理成为可能:“用户在二月份的偏好是什么?”变得可以回答。
6、关键技术六:智能冲突解决
当 Graphiti 遇到冲突信息时,它不会简单地添加另一个嵌入。相反:
- 新事实:“阿迪达斯鞋坏了,[用户不高兴]”;
- 检测到冲突:这使得“喜欢阿迪达斯”的关系失效;
- 时间解决:设置 invalid_at 日期并创建因果边;
- 结果:为每个偏好设置清晰的时间边界。
如上结果图保留了历史,同时清楚地表明了当前的有效性。这是“更接近人类处理和回忆随时间变化的状态的方式”。
7、关键技术七:混合检索
Graphiti 并没有抛弃向量嵌入,它使它们变得更智能。Graphiti 系统采用混合方法,使得检索结果:快速、准确、上下文相关的检索,操作时间以毫秒为单位,而不是秒。
- 语义搜索:通过嵌入向量找到相关内容;
- 关键词搜索:BM25 全文搜索特定术语;
- 子图遍历:从初始结果导航关系;
- 结果融合:结合所有方法以获得全面的上下文。
8、关键技术八:特定领域的记忆
Graphiti 的一个强大功能是领域建模。心理健康应用程序需要存储与电商 AI 智能体非常不同的记忆类型。
Graphiti 允许你使用熟悉的工具(比如:pydantic)定义自定义实体和边,为你提供:
- 任何数据源:动态整合对话和业务数据;
- 相关检索:只检索与你的应用程序相关的实体和事实;
- 熟悉的工具:使用 pydantic 定义你的实体和边本体。
9、关键技术九:适合工作的工具
我并不是主张到处替换 RAG。每种方法都有其优势,如下表所示:
AI 智能体应用程序可以使用 RAG 方法用于静态知识,使用 Graphiti 用于动态记忆。
10、关键技术十:记忆 ≠ 知识检索
总之,AI 智能体记忆不是知识检索,而是需要一个能够处理时间序列、因果关系和动态更新的系统。Graphiti 正是这样一个系统,它能够提供更准确、更个性化的服务。
基于Graphiti的Agent智能体架构图
本文转载自玄姐聊AGI 作者:玄姐
