Agent 的两大核心能力——Memory(记忆系统)与 RAG(本地知识库)

Agent 的两大核心能力——Memory(记忆系统)与 RAG(本地知识库)

从“会调用工具”的 AI,到“了解用户、掌握知识”的智能助手

上一篇文章我们介绍了 AI Agent 的核心能力:

  • LLM 负责理解和推理
  • Function Calling 让 AI 调用工具
  • Tool 系统让 AI 连接外部能力

一个简单的 Agent 已经可以完成:

用户提出问题

LLM 理解需求

选择工具

执行任务

返回结果

例如: 用户: > 查询一下广州天气。 Agent:

用户问题

LLM 判断需要天气信息

调用 weather 工具

获取天气结果

生成回答

但是,一个真正可用的 AI 助手,还需要解决两个更重要的问题:


第一个问题:

AI 每次聊天都像第一次认识我,它如何理解我的习惯和背景?

第二个问题:

AI 本身不知道我的公司资料、个人文件,它如何获得这些知识?

这两个问题分别对应:

  • Memory(记忆系统)
  • RAG(检索增强生成)

它们也是现代 AI Agent 的两个核心能力。


一、为什么 Agent 需要 Memory?

我们人类交流有一个非常自然的能力:

记忆。

例如:

第一次聊天:

我叫小明,是一家互联网公司的产品经理。

第二次聊天:

最近我要负责一个 AI 项目。

朋友会知道:

“小明是一名产品经理。”

所以交流会越来越自然。


但是,大语言模型(LLM)默认并没有这种能力。

每一次请求:

用户 ↓ LLM ↓ 回答

模型并不知道:

  • 你是谁
  • 你的工作背景
  • 你的兴趣习惯
  • 之前聊过什么

除非这些信息被重新发送给它。

所以:

Memory 的作用,就是让 Agent 拥有持续记忆能力。


二、Memory 到底保存什么?

很多人认为:

Memory 就是保存聊天记录。

其实并不完全准确。

完整的 Memory 系统通常包含:

Memory ├── 短期记忆 │ ├── 长期记忆 │ └── 用户事实记忆

  1. 短期记忆(Short-term Memory)
    ==========================

短期记忆就是:

当前对话上下文。

例如:

用户: 我喜欢喝咖啡。 AI: 好的,我知道了。 用户: 推荐一个饮品。

为什么 AI 知道用户喜欢咖啡?

因为之前的信息还存在:

[ { "role": "user", "content": "我喜欢喝咖啡" }, { "role": "assistant", "content": "好的,我知道了" } ]

这种方式叫:

Conversation Buffer(对话缓冲区)


但是短期记忆有一个问题:

如果关闭聊天窗口:

上下文消失。

下一次:

AI 又不知道之前发生过什么。


  1. 长期记忆(Long-term Memory)
    =========================

长期记忆解决的是:

如何让 AI 跨时间记住重要信息。

例如:

用户告诉 AI:

我的公司叫 ABC 科技。 我的职位是产品经理。 我喜欢阅读 AI 技术文章。

系统可以提取:

{ "company": "ABC科技", "job": "产品经理", "interest": "AI技术文章" }

然后保存到数据库。

下一次聊天:

AI 可以重新加载这些信息。

例如:

用户:

帮我写一篇技术文章。

Agent:

读取记忆:

用户: - 喜欢技术内容 - 运营公众号 - 偏好 Markdown 格式

然后生成更符合用户需求的内容。


三、Memory 在 Agent 中的位置

完整结构:

用户 | ↓ Agent | ----------------- | | LLM Memory | 用户信息库

Agent 的工作流程:

  1. 用户提出问题
  2. 查询相关记忆
  3. 将记忆加入 Prompt
  4. 调用 LLM
  5. 生成回答

例如:

用户:

帮我规划学习路线。

Memory:

找到:

用户背景: - Java开发经验 - 正在学习AI - 想转型AI应用方向

LLM 就可以给出更符合用户情况的建议。


四、为什么还需要 RAG?

Memory 解决:

AI 记住用户。

但是还有另一个问题:

AI 不知道用户自己的知识资料。

例如企业内部:

员工手册.pdf 产品说明书.docx 技术文档.md 销售数据.xlsx

这些内容:

没有出现在模型训练数据里。

所以:

LLM 不知道。

怎么办?

答案:

RAG。


五、什么是 RAG?

RAG:

Retrieval-Augmented Generation

中文:

检索增强生成。

简单理解:

让 AI 在回答问题之前:

先去知识库搜索相关资料。

流程:

用户问题 ↓ 搜索知识库 ↓ 找到相关资料 ↓ 交给 LLM ↓ 生成答案

例如:

用户:

公司年假是多少?

普通 LLM:

我不知道你公司的年假制度。

RAG:

先搜索:

员工手册.pdf ↓ 找到: 员工连续工作满一年, 享受5天带薪年假。

然后:

LLM:

根据员工手册,公司员工连续工作满一年,可以享受5天带薪年假。

六、RAG 的完整流程

一个完整 RAG 系统:

文档 | ↓ Loader | ↓ Chunk | ↓ Embedding | ↓ Vector Database | ↓ Retriever | ↓ LLM | ↓ Answer

第一步:Loader(文档加载)

负责读取各种文件:

例如:

PDF Word Markdown Excel 网页

转换成统一的数据结构:

Document

第二步:Chunk(文本切分)

为什么需要切分?

因为一个文档可能非常长。

例如:

一本 200 页的 PDF:

不能全部发送给 LLM。

所以需要拆成:

Chunk 1 Chunk 2 Chunk 3 ...

每个小片段作为独立知识单元。


第三步:Embedding(向量化)

计算机无法直接理解文字。

所以需要把文本转换成向量。

例如:

文本:

员工年假5天

转换:

[0.23,0.51,0.88,...]

这个过程叫:

Embedding。


第四步:Vector Database(向量数据库)

保存:

文本内容 + 向量 + 元数据

例如:

文本: 员工满一年享受5天年假 向量: [0.23,0.51...] 来源: 员工手册.pdf

常见向量数据库:

  • Chroma
  • Milvus
  • FAISS

第五步:Retriever(检索)

用户:

公司的年假是多少?

系统:

先把问题转换成向量。

然后在向量数据库搜索:

最相似的内容。

返回:

员工手册第三章: 员工工作满一年享受5天年假。

七、Memory 和 RAG 的区别

很多人容易混淆。

简单理解:

能力解决的问题
MemoryAI记住用户
RAGAI获取外部知识

举例:

Memory:

用户喜欢喝咖啡。

这是:

用户信息。

RAG:

公司的咖啡报销制度。

这是:

知识信息。


八、现代 AI Agent 的完整架构

现在,一个完整 Agent:

用户 | ↓ AI Agent | -------------------------------- | | | Tools Memory RAG | | | 外部能力 用户信息 企业知识库 | ↓ LLM

三种能力分别解决:


Tool

让 AI:

会做事。

例如:

  • 查询天气
  • 查询数据库
  • 发送邮件

Memory

让 AI:

了解用户。

例如:

  • 用户身份
  • 用户偏好
  • 历史信息

RAG

让 AI:

掌握自己的知识。

例如:

  • 企业文档
  • 产品资料
  • 私有数据

九、回到我们的 Mini-Agent 项目

我们自己实现的 Mini-Agent:

已经逐步具备:

Mini-Agent ├── Function Calling │ ├── Tool System │ ├── Agent Loop │ ├── Memory │ └── RAG

它的核心思想和企业 AI Agent 架构是一致的。

我们并不是重新训练一个 AI 模型。

而是在利用已有的大语言模型,通过:

工具 + 记忆 + 知识库 + 任务规划

让一个通用模型变成一个真正解决问题的智能助手。


十、下一步学习方向

完成 Memory 和 RAG 后,Agent 还需要解决:

MCP(Model Context Protocol)

解决:

Agent 如何标准化连接更多外部工具?

例如:

  • 文件系统
  • 数据库
  • 企业软件
  • 第三方服务

Multi-Agent

解决:

多个 Agent 如何协作完成复杂任务?

例如:

研究Agent ↓ 写作Agent ↓ 审核Agent

Agent 工程化

包括:

  • 权限管理
  • 日志系统
  • 异常处理
  • 部署上线

最终:

AI Agent 的完整形态:

AI Agent | ---------------------- | | | Tools Memory RAG | | | 能行动 懂用户 有知识 | ↓ LLM

这就是从“大语言模型”走向“智能应用”的关键路径。

学AI大模型的正确顺序,千万不要搞错了

🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!

有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!

就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!

我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费