langchain短期 长期记忆架构整体架构用户输入 │ ├── 短期记忆WindowMemory── 内存最近 K 条消息 │ ├── 长期记忆ChromaDB ──── 语义检索历史重点 │ ├── 知识库ChromaDB ────── 文档检索 │ └── 拼接 Prompt → LLM → 输出 │ ├── 写入短期窗口内存 ├── 写入 MySQL完整备份 └── 后台提取长期记忆点 → 写入 ChromaDB三层存储层级存储数据源用途容量短期内存OrderedDict当前会话实时写入最近 K 轮对话连贯性k × 2条消息长期ChromaDBlongMemory集合每次回复后 AI 自动提取跨 session 的语义记忆无限制备份MySQLchat_messages表每次对话实时写入前端历史展示、审计无限制短期记忆WindowMemory实现# memory_manager.pyclassMemoryManager:def__init__(self,window_k2):self.window_kwindow_k self._windowsOrderedDict()defget_context(self,session_id):返回窗口内的最近消息memoryself.get_window(session_id)returnmemory.load_memory_variables({})[history]机制每个 session 独立一个ConversationBufferWindowMemory(k2)k2表示保留最近2 轮对话 4 条消息2 条 user 2 条 assistant新消息通过save_context写入超出 K 轮自动丢弃最早的消息纯内存操作不查数据库写入时机# streamInvoke 中self.memoryger.get_window(session_id).chat_memory.add_user_message(question)...self.memoryger.get_window(session_id).chat_memory.add_ai_message(answer)长期记忆ChromaDB提取每次对话完成后后台线程调用 LLM 从对话中提取关键信息# langchain_chat.py generateSummary()prompt 总结以下对话的核心语义。 保留任务目标、问题描述、解决方案、重要约束 忽略礼貌用语、重复内容、确认性回复 如果没有任何实质性内容返回NONE 用户... AI... 总结提取结果存入 ChromaDB 的longMemory集合chromadb.write_long_memory(texts[提取的摘要],metadata_list[{session_id:xxx}])检索用户提问时从longMemory集合中按 session 检索相关内容longMemoryterchromadb.get_long_memory_retrieve(k10,filter{session_id:input_data.session_id})longMemoryslongMemoryter.invoke(input_data.question)Prompt 组装最终发给 LLM 的 prompt 结构历史对话摘要ChromaDB 长期记忆 {longMemorys} 最近通话记录WindowMemory 短期窗口 {recentHistory} 资料知识库 RAG 检索 {docs} 用户问题 {input}各模块职责模块文件职责MemoryManagermemory_manager.py管理短期窗口按 session 隔离Chromadblangchain_chromadb.py知识库 长期记忆的向量存储LangchainChatlangchain_chat.py主流程编排流式对话FinishReasonHandlerlangchain_chat.py检测 LLM 输出是否被截断数据流完整链路用户发送消息 │ ▼ 1. 从 MemoryManager 取短期窗口消息 ── 内存不查 DB 2. 从 ChromaDB 检索长期记忆 ──────── 按 session_id 语义检索 3. 从 ChromaDB 检索知识库 ────────── RAG 检索 4. 拼接 Prompt → LLM 流式生成 │ ▼ 流式输出到前端 │ ▼ 完成后 ├── 写入短期窗口MemoryManager ├── 写入 MySQLcreate_chat_message └── 后台线程 → LLM 提取摘要 → 写入 ChromaDB longMemory版本历史版本变更v1MySQL 全量加载 ContextBudget 手动截断v2ConversationSummaryBufferMemory 压缩摘要v3短期窗口 ChromaDB 长期记忆当前
langchain短期 + 长期记忆架构
发布时间：2026/5/28 23:18:33
langchain短期 长期记忆架构整体架构用户输入 │ ├── 短期记忆WindowMemory── 内存最近 K 条消息 │ ├── 长期记忆ChromaDB ──── 语义检索历史重点 │ ├── 知识库ChromaDB ────── 文档检索 │ └── 拼接 Prompt → LLM → 输出 │ ├── 写入短期窗口内存 ├── 写入 MySQL完整备份 └── 后台提取长期记忆点 → 写入 ChromaDB三层存储层级存储数据源用途容量短期内存OrderedDict当前会话实时写入最近 K 轮对话连贯性k × 2条消息长期ChromaDBlongMemory集合每次回复后 AI 自动提取跨 session 的语义记忆无限制备份MySQLchat_messages表每次对话实时写入前端历史展示、审计无限制短期记忆WindowMemory实现# memory_manager.pyclassMemoryManager:def__init__(self,window_k2):self.window_kwindow_k self._windowsOrderedDict()defget_context(self,session_id):返回窗口内的最近消息memoryself.get_window(session_id)returnmemory.load_memory_variables({})[history]机制每个 session 独立一个ConversationBufferWindowMemory(k2)k2表示保留最近2 轮对话 4 条消息2 条 user 2 条 assistant新消息通过save_context写入超出 K 轮自动丢弃最早的消息纯内存操作不查数据库写入时机# streamInvoke 中self.memoryger.get_window(session_id).chat_memory.add_user_message(question)...self.memoryger.get_window(session_id).chat_memory.add_ai_message(answer)长期记忆ChromaDB提取每次对话完成后后台线程调用 LLM 从对话中提取关键信息# langchain_chat.py generateSummary()prompt 总结以下对话的核心语义。 保留任务目标、问题描述、解决方案、重要约束 忽略礼貌用语、重复内容、确认性回复 如果没有任何实质性内容返回NONE 用户... AI... 总结提取结果存入 ChromaDB 的longMemory集合chromadb.write_long_memory(texts[提取的摘要],metadata_list[{session_id:xxx}])检索用户提问时从longMemory集合中按 session 检索相关内容longMemoryterchromadb.get_long_memory_retrieve(k10,filter{session_id:input_data.session_id})longMemoryslongMemoryter.invoke(input_data.question)Prompt 组装最终发给 LLM 的 prompt 结构历史对话摘要ChromaDB 长期记忆 {longMemorys} 最近通话记录WindowMemory 短期窗口 {recentHistory} 资料知识库 RAG 检索 {docs} 用户问题 {input}各模块职责模块文件职责MemoryManagermemory_manager.py管理短期窗口按 session 隔离Chromadblangchain_chromadb.py知识库 长期记忆的向量存储LangchainChatlangchain_chat.py主流程编排流式对话FinishReasonHandlerlangchain_chat.py检测 LLM 输出是否被截断数据流完整链路用户发送消息 │ ▼ 1. 从 MemoryManager 取短期窗口消息 ── 内存不查 DB 2. 从 ChromaDB 检索长期记忆 ──────── 按 session_id 语义检索 3. 从 ChromaDB 检索知识库 ────────── RAG 检索 4. 拼接 Prompt → LLM 流式生成 │ ▼ 流式输出到前端 │ ▼ 完成后 ├── 写入短期窗口MemoryManager ├── 写入 MySQLcreate_chat_message └── 后台线程 → LLM 提取摘要 → 写入 ChromaDB longMemory版本历史版本变更v1MySQL 全量加载 ContextBudget 手动截断v2ConversationSummaryBufferMemory 压缩摘要v3短期窗口 ChromaDB 长期记忆当前
