agent面试必备37-AI Agent 核心架构：记忆系统（Memory System）

AI Agent 核心架构记忆系统Memory System全解析与面试指南如果说大模型LLM是 AI Agent 的“大脑”工具Tools是“手脚”那么**记忆系统Memory**就是它的“海马体”。初学者刚接触大模型时通常只是把它当成一个“一问一答”的维基百科。但在真实的 AI Agent 开发中如果不解决“记忆”问题大模型就像只有 7 秒记忆的金鱼。面试官在考察 Agent 架构时**“如何设计和优化记忆系统”**是区分新手和高阶开发者的重要分水岭。这篇博客将用最通俗的大白话带你彻底搞懂 AI Agent 记忆系统的核心分类、主流工程实现方案并附带面试级别的实战代码 一、 为什么 Agent 需要记忆系统大白话秒懂大语言模型LLM本质上是**无状态Stateless**的。意思是每一次你向 API 发送请求对它来说都是一次“全新的人生”。它根本不记得你上一秒跟它说了什么。为了让它能够连贯地和你聊天我们需要在每次提问时把历史聊天记录连同新问题一起打包发给它。但是由于大模型有上下文长度限制Context Window Limit并且按 Token 收费我们不可能把几年来的聊天记录全发给它。因此我们需要一个**“记忆系统”**来管理哪些话该记住、哪些话该遗忘、哪些话该提炼、哪些话该存进数据库里随时翻阅。️ 二、 记忆系统的两大核心分类面试必背工业界通常借用人类认知心理学的概念将 Agent 的记忆分为两大类1. 短期记忆 (Short-Term Memory / Working Memory)概念Agent 正在处理的当前对话上下文Chat History。特点直接放入大模型的 Prompt 中模型可以直接“看到”并理解。容量受限于大模型的上下文窗口比如 8K、128K Token。类比就像人类大脑的“工作台”上面放着你现在正在思考的文件。2. 长期记忆 (Long-Term Memory)概念Agent 存储的海量历史信息和外部知识。特点不能一次性全塞给大模型通常需要将文本向量化Embedding后存入向量数据库Vector DB。只有当当前对话需要用到时才通过检索RAG 技术提取出来放到工作台上。容量理论上无限大取决于你的硬盘和数据库大小。类比就像人类的“档案馆”或“图书馆”。⚙️ 三、 短期记忆的四大工程优化策略面试实战既然短期记忆容量有限当对话越来越长时我们该怎么处理 Chat History全量记忆Buffer Memory简单粗暴把所有对话原封不动保留。仅适用于极短的单次任务。滑动窗口记忆Window Memory只保留最近的 N 轮对话比如最近 5 轮把更早的对话直接丢弃。适合闲聊机器人代码实现极简成本低。摘要记忆Summary Memory当对话长度达到一定阈值时在后台悄悄调一个小模型把之前的对话提炼成一段摘要替换掉长长的原始聊天记录。既保留了核心信息又极大节省了 Token。实体/知识图谱记忆Entity/KG Memory在对话过程中专门抽取用户特征如“用户叫张三”、“喜欢吃辣”提取成 Key-Value 格式存入系统。这是高级个人助理必备的能力。 四、 高频面试 QA 实战演练Q1现在的大模型如 GPT-4o, Claude 3.5都已经支持 128K 甚至 200K 的超长上下文了我们还需要费劲做“长期记忆向量数据库”吗标准答案绝对需要虽然长上下文模型能装下很多内容但存在三大致命缺陷成本极其高昂每次提问都要把 100K 的背景资料发给模型按 Token 计费分分钟破产。首字延迟TTFT巨大模型阅读大量文本需要很长的预填充时间用户体验极差。中间遗忘现象Lost in the Middle当上下文过长时大模型极容易忽略掉放在中间位置的信息。因此**“短期记忆滑动窗口 长期记忆向量检索 RAG”**依然是目前兼顾成本、速度和准确度的工业界唯一标准解法。Q2如果用户的提问既需要结合最近的聊天上下文又需要查阅长期记忆库你怎么设计这个流程标准答案这是典型的Query Rewrite查询改写场景。如果用户突然说“那它的价格是多少”这里的“它”指代不明直接去查长期记忆数据库肯定查不到。必须先增加一个步骤利用“短期记忆历史对话”加上“当前提问”让大模型改写出一个完整、独立的检索词比如“苹果 iPhone 15 的价格是多少”。然后再用这个改写后的独立 Query 去查长期记忆库。 五、 面试加分代码手写一个融合“长短期记忆”的 Agent 核心类在面试白板环节如果你能用纯 Python 数据结构展示长短期记忆的协同工作原理会让面试官眼前一亮fromcollectionsimportdequeimportjsonclassAgentMemorySystem: 工业级 Agent 记忆系统核心骨架 (概念代码) 包含了 短期记忆(滑动窗口) 和 长期记忆(模拟向量检索) 的结合。 def__init__(self,window_size5):# # 1. 短期记忆 (Short-Term Memory)# # 使用 deque (双端队列) 天然实现滑动窗口机制限制最大长度为 window_sizeself.short_term_memorydeque(maxlenwindow_size)# # 2. 长期记忆 (Long-Term Memory)# # 这里用字典模拟真实的向量数据库 (Vector DB)self.long_term_memory_db{公司的年假规定:入职满一年可享受5天年假满三年可享受10天。,报销流程:请在每月25号前将发票交至财务部李雷处。}defadd_conversation(self,role:str,content:str):将最新的对话存入短期记忆的滑动窗口中self.short_term_memory.append({role:role,content:content})defretrieve_long_term_memory(self,query:str)-str: 模拟长期记忆检索 (真实环境中这里是 Embedding 余弦相似度计算) print(f [触发长期记忆检索] 正在资料库中寻找关于 {query} 的信息...)# 简单的关键字命中模拟forkey,knowledgeinself.long_term_memory_db.items():ifkeyinquery:returnknowledgereturn未在长期记忆中找到相关信息。defgenerate_prompt(self,current_user_input:str)-str: 核心逻辑在每次调用大模型前如何拼装包含记忆的最终 Prompt # 第一步根据当前问题去长期记忆中找线索知识增强retrieved_knowledgeself.retrieve_long_term_memory(current_user_input)# 第二步提取短期记忆最近的聊天记录chat_history_str\n.join([f{msg[role]}:{msg[content]}formsginself.short_term_memory])# 第三步拼装最终发给大模型的完整 Promptfinal_promptf 你是一个智能助手请结合以下【背景知识】和【历史聊天记录】回答用户的最新问题。 【背景知识】(来自长期记忆库):{retrieved_knowledge}【历史聊天记录】(来自短期记忆滑动窗口):{chat_history_str}【用户的最新提问】:{current_user_input}returnfinal_prompt# # 面试现场演示运行# if__name____main__:agent_memoryAgentMemorySystem(window_size3)# 只记住最近 3 条# 模拟历史对话填入短期记忆agent_memory.add_conversation(user,你好我是新员工张三。)agent_memory.add_conversation(assistant,你好张三欢迎加入公司有什么我可以帮你的)agent_memory.add_conversation(user,我平时喜欢打篮球。)# 这一条会被推入队列末尾# 用户提出新问题触发长短期记忆联动new_question对了公司的年假规定是怎样的# 生成最终发给 LLM 的 Promptprompt_to_llmagent_memory.generate_prompt(new_question)print(\n 最终组装的 Prompt (发给大模型的内容) )print(prompt_to_llm)# 面试讲解要点# 通过这个双端队列我们保证了 Prompt 的长度永远不会爆炸解决了 Token 成本问题。# 同时当用户问到具体的规章制度时系统自动去长期记忆模拟的 DB里捞出了答案拼接进去。# 这就是目前企业落地时最典型、最轻量级的 Agent 记忆管理架构。