短期、长期及实体记忆

⋯

快速回顾

项目 内容
短期记忆 当前会话的近期消息与条件,滑动窗口结合历史摘要
长期记忆 有来源的历史背景、重要事件和明确偏好,支持跨会话召回
实体记忆 用稳定业务 ID 关联设备、机型与任务,辅助指代消解
存储分工 MySQL 保存消息、摘要、情景和显式画像;Redis 缓存近期规范消息;Qdrant 保存情景及画像投影
召回链路 首轮装配摘要、近期消息和显式偏好;需要历史时调用 memory.search,分层召回后回查当前事实
更新与删除 独立整理游标、事实版本、遗忘水位与墓碑;精确旧版本投影持久登记删除
业务边界 记忆帮助理解背景与定位对象,动态状态和权限仍通过业务服务校验

职责与实现概述

用户追问“上次那台收割机的维修进展”时,需要先找回历史讨论、定位具体设备,再查询当前工单。对话记忆通过近期上下文、跨会话召回和实体关联延续任务背景,减少用户重复提供设备和历史信息。

存储上,MySQL 保存消息、摘要、情景记忆、显式画像及来源,Redis 缓存近期规范消息,Qdrant 保存可重建的情景和画像投影。首轮只装配有界摘要、近期消息和启用注入的明确偏好,需要长期背景时再通过 memory.search 按层召回。实体关联使用稳定业务 ID,多个候选通过查询和用户确认消歧。

召回时先按组织和用户过滤,再回查来源、权限与有效状态,最后按预算装配上下文。历史信息提供背景和对象线索,业务工具提供设备状态、任务冲突和维修进展,两者共同支持连续追问与后续操作。

记忆类型与存储分工

短期、长期及实体记忆分别是什么?

面试回答

短期记忆服务于当前对话,比如保留刚确认的设备和时间,理解下一句里的“它”或“改到明天”。长期记忆保存跨会话可复用的背景、重要事件和明确偏好。实体记忆则把用户提到的机器、机型或工单关联到稳定业务对象,解决到底说的是谁。

例如先查资产 A 的维保记录,再问它为什么停机,近期对话帮助确定指代;过一段时间问上次那台收割机的维修进展,长期记忆找回讨论背景,实体关联定位资产,再用业务工具查当前进展。三类记忆按用途划分,同一条历史记录可以同时提供背景和实体线索,存储按持久化、缓存和语义索引分工。

实现细节

三类记忆的对象和目的见表。实体关联回答对象是谁,历史背景回答过去发生或表达过什么;设备当前能否调度和维修是否完成,仍以当前业务查询为准。

类型 保存什么 解决什么问题
短期记忆 当前会话的近期消息、刚补充的条件 理解追问、指代和当前任务
长期记忆 历史任务背景、重要事件和明确偏好 跨会话找回相关信息
实体记忆 用户提到的设备、机型、任务等实体及关联 识别这台机器、上次那张工单等指代

MySQL、Redis 和 Qdrant 怎么分工?

面试回答

MySQL 保存规范消息、滚动摘要、情景记忆、显式画像和来源,是判断记忆是否有效的事实来源。Redis 缓存近期规范消息的带版本快照,命中时仍检查 MySQL 消息版本和证据可读性;Qdrant 保存情景与画像的文本向量,用于按需语义召回。

偏好分两类:个人中心手动设置称呼、风格和详略,自动画像只整理用户明确表达的偏好、习惯、约束或实体 ID,两者都保存在 MySQL。画像直接读取即可参与首轮表达,不需要先做向量检索。向量候选返回后再核对当前记录、版本和来源权限。

实现细节

内容 事实来源与投影
工作记忆 assistant_messages 保存规范消息;Redis STRING 保存带版本 JSON 快照
会话摘要 assistant_conversations 保存增量滚动摘要与处理水位
情景记忆 assistant_memory_episodes 保存历史目标、上下文和事项;Qdrant 保存投影
显式画像 assistant_memory_facts 保存每个事实键的当前值或墓碑,关联来源消息;Qdrant 保存版本化投影
手动表达偏好 账号的 assistant_preferences 保存称呼、风格、详略和版本

记忆检索使用文本 embedding,知识页面使用 ColQwen 多向量,两者分别管理集合和编码契约。向量故障跳过语义召回,MySQL 中仍有效的明确偏好可以继续读取。

记忆形成与实体关联

短期记忆怎么管理?

面试回答

短期记忆保留近期规范消息,较早的对话通过后台滚动摘要压缩。首轮按预算加载摘要、近期消息和显式偏好,完整保留选中的消息,避免逐条截断后丢失条件。长期情景不在首轮自动向量检索,需要时由模型调用记忆工具。

任务目标、计划、草案、审批和执行回执独立持久化。再生成或恢复使用原轮冻结上下文,并重新过滤失权来源;这样能继续理解原问题,也能按结构化状态恢复执行位置。

实现细节

正常轮次以当前用户消息 ID 为排他上界读取历史,排除本轮及后来消息;近期规范消息保留用户输入和每轮最新成功回复,失败、取消或被替代的回复不作为规范回答。这个历史读取绕过最新工作记忆缓存,防止后续消息混入原轮。

工作记忆缓存用于相应近期读取入口,值包含 MySQL 消息 ID/更新时间版本。命中后逐项检查证据可读性,版本不符或 Redis 故障时回源重建。输入预算合计协议、工具 Schema、消息、记忆和回执,预留输出空间;运行内压缩保留完整工具调用/返回配对,历史语义摘要在后台完成。

长期记忆怎么形成,哪些内容值得保存?

面试回答

后台通过持久事件和 RabbitMQ 整理规范对话,保存可跨会话复用的历史目标、背景和事项,同时提取用户明确表达的偏好、习惯、约束与实体 ID。每条内容保留组织、用户、来源和时间,模型建议与真实业务完成分别表达。

摘要、情景和画像各有自己的处理进度。摘要合并旧摘要和新增规范消息,情景按来源区间去重,画像按事实键维护当前值或墓碑。先写 MySQL,再更新 Qdrant 投影;失败保留状态,后续可以重试或重建。

实现细节

  1. Worker 先复核 active 账号、成员、用户记忆开关及来源有效性。
  2. 摘要处理水位之后的规范消息,排除仍保留在近期窗口中的部分;提交时锁会话并检查来源和旧摘要未变化,失败不推进水位。
  3. 情景按会话、用户及结束消息 ID 去重;已有明确业务引用可保留,自由文本不猜补实体 ID。
  4. 画像只保存明确表达。同一事实键的新来源必须晚于当前来源和遗忘水位,旧消息不能覆盖新事实。
  5. MySQL 提交后更新情景和画像投影;画像点 ID 包含事实 ID 与版本,召回时与当前 MySQL 版本比对。

例如“默认用表格展示”形成明确的展示偏好,“本次用列表”只影响当前回答;“建议维修”保留为历史建议,设备现在是否修好仍查询当前工单。情景与画像使用独立整理游标,关闭记忆期间不继续抽取,重新开启也不补抽这段停用期。

实体记忆怎么保存,如何避免认错设备?

面试回答

实体关联用稳定业务 ID 保存,名称、别名、机型和来源消息辅助匹配。用户说“那台收割机”时,最终要关联到具体 assetId,不能只记住机型,因为同一机型可能对应多台资产,一台资产又可能有多张工单。

召回候选后,通过业务查询确认对象和当前访问权。多个设备符合描述时,让用户选择或补充信息。实体类型和稳定 ID 一同保存,机型、资产和工单分别关联,后续追问据此定位到正确业务对象。

实现细节

实体关联同时保留类型、稳定 ID 与来源,以区分跨类型的同名对象。每次使用时检查当前访问权,已撤权对象的关联信息从本次上下文中排除。

用户问“上次那台收割机的维修进展”时,先在当前组织和用户范围内找出历史讨论,将候选关联到 assetId 及当时的维修工单。两台同名收割机或同一资产有多次维修时,用资产编号、时间和工单区分;仍无法唯一定位就请用户确认。确认对象后调用业务服务查询当前工单状态,记忆提供定位线索,业务记录提供进展。

召回、更新与隔离

长期记忆怎么召回并放进上下文?

面试回答

首轮先用当前问题、滚动摘要、近期规范消息和明确偏好理解请求,需要跨会话历史时再调用 memory.search。每次指定情景或画像中的一层,编码一次查询并检索对应向量集合,然后回查 MySQL 的当前版本、来源和权限。

语义相似度筛选候选,当前有效性决定能否采用。历史片段按预算装配并标为历史线索,设备状态、资源占用、费用和审批由业务工具查询。用户说“上次那台收割机”时,记忆先找回对象线索,再用当前记录回答维修进展。

实现细节

环节 处理方式
首轮装配 有界摘要、近期规范消息、启用注入的显式偏好;不执行情景向量检索
按需检索 memory.search 每次选择 episode 或 profile,编码与检索共用一次期限预算
候选过滤 当前组织、用户、有效状态,必要时核对稳定实体引用
MySQL 回查 当前版本、来源消息、遗忘状态、有效期和实体权限
上下文装配 去重、保留时间与来源,在目标、约束和当前证据之外按预算补充

原轮上下文以历史上界冻结,再生成和恢复沿用同一快照,并重新过滤不可读来源。摘要或情景包含不能读取的目标证据时整段不注入。Qdrant 或编码故障保留当前请求和有效近期背景,缺少关键历史再澄清;画像偏好可以直接从 MySQL 获取。

新旧记忆冲突、用户修改偏好怎么办?

面试回答

先区分当前请求、手动表达偏好和自动画像。当前明确要求优先,个人中心手动设置其次,自动记忆偏好再次;这些内容只影响表达和理解,实际动作、统计期间和资源选择仍按本次请求及业务规则确认。

用户明确修改长期偏好时,同一事实键更新为新的当前值,保留来源和版本,并登记旧投影清理;临时指令只用于本次回答。历史任务和维修事件按时间分别保留,查询现状时重新读取当前业务事实。

实现细节

内容 保存与生效
当前请求 本次回答优先采用,例如“这次用列表”
手动表达偏好 账号内保存称呼、风格和详略;版本校验后写入,新运行冻结有效设置
自动显式画像 从用户明确表达中提取,例如“默认用表格”;同键当前值或墓碑,来源消息有先后约束
历史情景 保留事件时间、来源和当时背景,当前状态通过业务工具核实

自动画像提取与遗忘共用用户锁,旧来源不能越过遗忘水位或覆盖新来源。投影滞后时以 MySQL 当前版本决定是否可用,精确删除旧版本点,避免清理任务误删新事实。称呼内容按数据处理,不能改变系统指令或授权。

多租户隔离和删除怎么处理?

面试回答

工作记忆按组织、用户和会话隔离,向量召回按组织与用户过滤,再检查来源、版本和当前访问权。平台助手只使用本人有界会话历史,租户长期记忆留在租户范围内。

用户遗忘画像时,在 MySQL 保存删除墓碑和消息抑制水位,后续旧消息不能重新提取同一事实。旧版本向量删除通过持久任务交给 Worker,失败重试;删除会话还清理近期缓存、情景和仅由该会话支撑的画像。查询侧立即按 MySQL 排除失效记录。

实现细节

操作 当前处理
删除一条画像 同用户锁内保存墓碑和遗忘水位,登记该旧版本点的删除任务
清空记忆 推进相应处理游标与抑制水位,阻止旧消息再次生成已遗忘内容
删除会话 清理工作缓存、软删情景、登记向量删除,清理仅由本会话支撑的画像
变更组织 在原事务清理旧组织事实并登记删除,Worker 按原稳定范围处理
投影删除失败 Outbox 持久任务进入重试/死信,全部外部删除成功后才完成
关闭长期记忆 停止相应整理与注入,保留已有事实和 checkpoint;手动表达偏好、当前工作记忆独立生效

新消息明确重申某个偏好时,来源晚于遗忘水位才可恢复该事实键。删除任务使用精确旧版本点 ID,旧清理与新投影并发时不会删除新值;会话删除后的迟到任务也不能重新整理其内容。

评测与结果

怎么判断记忆有没有帮助?

面试回答

记忆效果通过同一批历史任务的对照评估判断,比较启用长期召回与只用近期对话的表现。评估关注相关背景是否找回、设备或工单是否定位正确、用户是否减少重复说明,以及跨会话任务能否正确完成。

对照同时检查历史背景的有效性、实体定位准确性和当前业务状态,覆盖偏好更新、来源撤权及设备进展变化。再记录上下文 token 和额外耗时,将背景复用、任务完成情况与召回开销放在同一组条件下评估。

实现细节

指标与核对内容见表。对照保持任务、历史来源和执行条件一致,分别观察背景复用、实体定位、当前事实正确性及成本,以跨会话任务的实际结果衡量记忆价值。

指标 检查内容
召回相关性 历史信息是否与当前问题相关
实体定位准确率 是否关联正确资产、机型或工单
过时与冲突比例 是否注入被替代或不再适用的信息
跨会话任务完成情况 是否减少重复背景补充且正确完成任务
上下文 token 与耗时 记忆带来的额外成本
测试样例 判断规则
同组织两台同名设备,追问“上次那台” 关联正确业务 ID,信息不足时澄清,不默认第一条
已讨论设备的维修进展发生变化 用历史定位对象,用业务查询回答当前进展
默认表格,用户说“这次用列表” 本次使用列表,长期展示偏好不变
用户明确修改默认展示格式 新版本生效,旧来源和旧向量不覆盖新值
来源被撤权、删除或失效 派生记忆不进入上下文
遗忘后再次处理保留的来源消息 遗忘控制阻止同一信息重新形成记忆
Redis 过期或语义检索服务故障 能加载有效近期信息;缺失历史时澄清,不虚构背景

每条样例记录期望实体、可用来源、应排除信息、实际注入片段与任务结果,同时记录输入 token 和额外检索耗时。将对象选错、旧偏好覆盖、来源越权分别归因,便于区分检索相关性问题与权限、更新流程问题。

易混点与回答检查

工作记忆、历史摘要、情景与显式画像分别维护;首轮装配和按需语义召回分开,历史线索通过业务工具衔接当前事实。

复盘手记

搜索笔记

输入关键词,搜索所有主题与问答。