一、为什么需要RAG模式普通的 LLM如你输入一句话模型直接“凭记忆”生成回答这些记忆是模型在训练期间学到的可能过时、也可能不包含你所关心的特定资料。而 RAG当你提问时模型先检索retrieve与你问题相关、外部的资料比如公司文档、网页、数据库 → 然后再基于这些检索到的资料 生成generate回答。这就类似人类在回答问题前会“先查一下资料”再作答。这样做的好处一方面能用到最新、专业、特定领域的资料另一方面让回答更“脚踏实地”、引用来源从而减少凭空“胡扯”即所谓的“幻觉”的情况。简单比喻你问一个课题普通模型像“凭脑子回答”RAG 则是“先翻书查资料→再回答”。例如GPT5的基础知识更新到2024年6月之后的信息需要通过联网搜索查询资料再作答。二、RAG模式介绍RAGRetrieval-Augmented Generation是一种设计模式技术流程,在 LLM 生成答案之前先从一个或多个外部知识源如文档库、数据库、知识图谱检索相关内容再将这些内容作为上下文补充给 LLM 一起生成答案。这样模型就不只靠训练时“记住”的知识而是能实时“查”到最新或专有的资料。RAG的优点模型训练数据有时“滞后”、或不专门覆盖特定组织领域而 RAG 可以补充通过外部资料模型能快速访问最新/专属内容。减少重新训练/大规模微调的需求当资料更新时只需更新检索库不一定要重新训练整个模型。RAG的挑战尽管强大RAG也面临诸多挑战。主要问题是答案所需信息可能分散在多个块或文档中检索器难以获取完整上下文导致答案不准确或不完整。系统效果高度依赖分块和检索质量若检索到无关块则会引入噪声干扰LLM。如何有效整合可能矛盾的信息也是难题。此外RAG需将整个知识库预处理并存入专用数据库(如向量或图数据库)这是一项庞大工程且需定期同步以保持最新尤其是企业动态资料。整个流程会影响性能增加延迟、运维成本和最终提示的Token 数量。三、RAG的经典工作流程下面描述一个比较完整的 RAG 系统流程整个流程粗略可以分成检索阶段和生成阶段为了方便理解这里细分为若干阶段数据准备索引阶段收集你系统要用的文档知识源可能是公司文档、网页、数据库、知识图谱等文档分块chunking将大文档拆成适度长度的文本块。对每个块生成 embeddings。将这些 embeddings 存入向量数据库可能还同时保存文本块的原文、来源 ID、元数据等。可选建立检索索引或图谱索引。用户查询阶段用户提交提问。系统将用户问题也转成 embedding或向量表示。检索器retriever在向量数据库中找到与该查询向量最相似距离最近的 k 个文档块或符合阈值的块。增强上下文阶段把用户提问 检索得到的文档块以及它们的来源或摘要组合起来构造成一个 prompt上下文输入给 LLM 。可能还会做重排序把最相关块放前面、摘要、过滤冗余、控制上下文长度等。回答生成阶段将构造好的上下文交给 LLM它基于这些资料生成用户所需回答。如果系统设计得好还可能让模型返回“资料出处”或引用从而增强可信度。5.可选反馈迭代阶段根据回答质量、用户反馈、检索效果对文档库检索器重排序策略进行优化。在一些系统中可能做 multi-hop 多跳检索模型回答过程中发现还需要更多资料就再次检索直到满足条件。四、RAG的关键技术文档分块Document Chunking原理分块是将大文档拆分为更小、更易处理的片段。当你有大量文档长篇 PDF、报告、网页等直接用整篇文档检索效率低、也不利于精准匹配。于是先把文档切成更小的“块”chunk——比如按段落、按页、或按逻辑单位。目的RAG 系统无法将整本大文档输入 LLM而是处理这些小块。分块策略使每个块长度适中、语义较完整、便于以“此块是否相关”作检索。解释就像你把一本书分成很多小章节检索时先定位哪个小章节可能有答案再进去看。嵌入 (Embeddings)介绍将文本如一句话、一段话、一块文档转成一个向量通常是高维实数向量使得语义相近的文本在向量空间中距离更近。在 RAG 把你切好的文档块用某个模型例如 Sentence-Transformer 类生成 embeddings然后存进向量数据库。查询时也将用户问题转成向量再找到“最近”的文档块。原理在 LLM 语境下嵌入是文本(如词语、短语或文档)的数值表示通常为向量(数字列表)。其核心思想是用数学空间表达语义和文本间的关系。含义相近的词或短语其嵌入在向量空间中距离更近。例如“cat”可能是(2,3)而“kitten”则在 (2.1,3.1)附近;“car”则远在(8,1)。实际嵌入空间维度远高于二维能细致刻画语言的语义。解释就像把每段话变成“坐标点”用户提问也变成一个点然后看哪些资料的点离它最近。向量数据库Vector Database介绍向量数据库专为高效存储和查询嵌入设计。文档分块并转为嵌入后这些高维向量存入向量数据库。传统关键词检索只能找到包含查询词的文档无法理解语义。例如“furry feline companion”与“cat”无法关联。向量数据库则专注于语义搜索将文本以数值向量存储能根据概念意义检索结果。用户查询也转为向量数据库用高效算法(如 HNSW)在海量向量中快速查找“最接近”的含义。原理用于存储上述的 embeddings并支持“最近邻检索”Nearest Neighbour Search——用户问题向量出发找到在向量空间里“最近”的文档块。主流实现包括Pinecone、Weaviate、ChromaDB、Milvus、Qdrant等甚至Redis、Elasticsearch、Postgres(pgvector扩展)也可支持向量检索。底层检索机制常用 FAISS、ScaNN 等库保证系统高效。解释就像一个巨大的地图资料都标上了坐标问题是一个点你找离它最近的几个资料点。文本相似度语义相似度与距离文本相似度介绍指两段文本的相似程度可分为表层(词汇重叠)和深层(语义)。在RAG 中文本相似度用于在知识库中找到与用户查询最相关的信息。例如“法国的首都是什么?”和“哪个城市是法国的首都?”虽措辞不同但表达同一问题。优秀的相似度模型会识别并赋予高分这通常通过文本嵌入计算。语义相似度与距离介绍:语义相似度关注文本的含义和上下文而非仅词汇。语义距离则是其反向指标。RAG 的语义搜索就是寻找与用户查询语义距离最小的文档。例如“毛茸茸的猫咪”和“家猫”虽词汇不同但表达同一概念嵌入距离很近。正是这种“智能搜索”让 RAG 能在措辞不同的情况下找到相关信息。原理传统可能用关键词匹配或 BM25 等稀疏方法语义相似度用 embeddings 之后用点积余弦相似度欧氏距离等度量向量间“距离”。在 RAG 中“问题向量” vs. “文档块向量” 的距离相似度决定是否检索该块。解释就是看“提问”这一点和各“资料点”的距离关系有多近越近越可能相关。检索Retrieval步骤用户提问 → 转向量 → 在向量数据库搜索索引中检索 top-k 或阈值以内的文档块 → 得到这些相关资料。解释你提个问题系统先去“翻书”找可能有答案的小段。增强Augmentation步骤把检索到的相关资料文档块、上下文片段与用户提问一起构造成 prompt或输入上下文给 LLM用于生成。提示工程Prompt Engineering也属于此环节。解释就是把“你提的问题”“找到的那些相关小段”一起给模型让它在“看了这些资料”之后再回答。生成Generation步骤最后LLM 利用提问 检索资料 自身知识生成最终回答。其中文档资料起到“事实依据”作用。解释查完资料后你开始写回答了。重排序再检索反馈机制介绍在实际系统里有时会对初检的资料做 rerank重排序、剔除相关性差的资料或多跳multi-hop检索、甚至反馈过去检索的结果改进模型。解释不是一次就完有时你查到的资料不够可能再查查、更精细地排个序再用。五、RAG的发展方向RAG 并非只有一种实现方式下面是一些常见变体或进阶形式标准 RAGVector-based RAG标准 RAG最常见的形式正如上文介绍的流程文档块 → embeddings → 向量数据库 → 检索 → 生成。这就是“文档向量LLM”的经典流程。适用于资料主要是文本、需求是基于相似语义检索。图 RAGGraphRAG介绍GraphRAG是 RAG引入知识图谱Knowledge Graph或图结构数据节点实体、边关系的形式利用知识图谱而非简单向量数据库进行信息检索。检索时不仅看“语义相似”、还看“结构关系”例如实体与实体之间的关系路径。 它通过遍历知识图谱中实体(节点)间的显式关系(边)来回答复杂问题能整合分散在多个文档的信息弥补传统 RAG 的不足。通过理解数据间的连接GraphRAG 能提供更具上下文和细致度的答案。应用场景包括复杂金融分析、企业与市场事件关联、科学研究(如基因与疾病关系发现)。主要缺点是构建和维护高质量知识图谱的复杂性、成本和专业要求极高系统灵活性较低延迟也可能高于简单向量检索。系统效果完全依赖底层图结构的质量和完整性。因此GraphRAG 在需要深度、关联洞察时表现优异但实现和维护成本较高。优势在需要 多跳推理、实体关系理解、复杂结构化知识场景如法律、医学、学术里表现更好。举例用户提问 “某人击败 X 之后他的儿子叫什么”这种涉及“击败→儿子”这种关系就更适合 Graph RAG。3.智能体RAGAgentic RAG智能体 RAGAgentic RAG是在传统 RAG 基础上加入“推理与决策层”的高级形态。它不再是“一次检索、一次生成”的被动流水线而是让模型具备判断力是否需要再次检索行动力能主动调用外部工具或模块规划力能分步执行复杂任务。Agentic RAG是一种更自动化、更流程化的增强型 RAG让系统从“资料搬运工”变成“问题解决专家”。它具备四大智能特征1.反思与来源验证Source Validation智能体不仅接受检索结果还会审查其质量、相关性与时效性。示例用户问“公司远程办公政策是什么”标准 RAG 可能同时取回 2020 年旧博客和 2025 年官方政策。智能体 RAG 则会分析文档元数据识别 2025 文件为最新、权威来源丢弃旧信息只保留正确内容供 LLM 生成。结果答案更准确可靠。2.知识冲突调和Conflict Resolution当不同来源的内容相互矛盾时智能体能自动判断优先级采用最可信数据。示例分析师问“Alpha 项目 Q1 预算是多少”系统检索到两份文件初步方案 €50,000 vs. 最终报告 €65,000。智能体 RAG 识别冲突优先采用财务报告数据。结果回答基于最终、权威数据避免混乱。3.多步推理与综合分析Multi-step Reasoning智能体可将复杂问题拆分为多个子问题逐一检索、再整合回答。示例用户问“我们产品的功能和定价与竞争对手 X 有何区别”智能体拆分成 4 个子任务① 检索自家产品功能② 检索自家定价③ 检索竞争对手功能④ 检索竞争对手定价。最后将结果汇总成结构化对比表送入 LLM 生成完整答案。结果回答更全面、逻辑化。识别知识空缺与外部工具调用Tool Use Gap Detection智能体具备自我反思能力发现资料不足时能主动寻求外部数据源。示例用户问“昨天新产品发布后市场反应如何”内部知识库每周更新暂无数据智能体识别空缺 → 调用实时 Web 搜索 API → 获取最新新闻与社交媒体反馈 → 用于生成答案。结果系统突破静态数据库限制能实时更新知识。其他变体优化方向混合检索Hybrid Search将传统关键词检索稀疏检索与向量检索结合以提高覆盖率。时间维度上下文记忆增强在资料检索中考虑时间、动态变化或长对话记忆。六、实践应用与典型场景企业搜索与问答:企业可开发内部聊天机器人利用 HR政策、技术手册、产品规格等内部文档回答员工问题。RAG 系统会提取相关文档片段辅助 LLM 响应。客户支持与服务台:基于 RAG 的系统可通过产品手册、FAO、工单等信息为客户提供精准一致的答复减少人工介入。个性化内容推荐:RAG 能根据用户偏好或历史行为语义检索相关内容(文章、产品)实现更相关的推荐而非简单关键词匹配。新闻与时事摘要:LLM 可集成实时新闻源用户提问时RAG检索最新文章让LLM 生成最新摘要。七、何时使用这种模式如果你遇到以下情况就该考虑RAG了AI的知识太旧、答非所问问题涉及企业内部资料或专业知识需要生成“有出处”的答案想让AI支持实时、可验证的信息。简单来说当“模型脑子不够用”时就给它挂上RAG的外挂记忆。八、一图速览视觉总结是什么:LLM 虽有强大文本生成能力但受限于训练数据知识是静态的无法包含实时或专有数据导致响应可能过时、不准确或缺乏特定场景所需的上下文影响其在需最新、事实答案场景下的可靠性。为什么:RAG 模式通过连接 LLM 与外部知识源提供标准化解决方案。收到查询后系统先从指定知识库检索相关信息片段再将这些片段附加到原始提示丰富上下文最后送入 LLM生成准确、可验证、基于外部数据的响应。此过程让 LLM 从“闭卷”推理者变为“开卷”推理者显著提升实用性和可信度。经验法则:当需要 LLM 基于最新、专有或训练数据之外的信息回答问题或生成内容时建议采用此模式。适用于构建内部文档问答系统、客户支持机器人以及需可验证、带引用的事实型响应应用。九、总结总之RAG 通过连接 LLM 与外部、最新数据源解决了其静态知识的核心局限。流程包括先检索相关信息片段再增强用户提示使LLM 能生成更准确、具上下文的响应。让 LLM 从“闭卷对话者”变为强大的“开卷推理工具”。普通人如何抓住AI大模型的风口为什么要学AI大模型当下⼈⼯智能市场迎来了爆发期并逐渐进⼊以⼈⼯通⽤智能AGI为主导的新时代。企业纷纷官宣“ AI ”战略为新兴技术⼈才创造丰富的就业机会⼈才缺⼝将达 400 万DeepSeek问世以来生成式AI和大模型技术爆发式增长让很多岗位重新成了炙手可热的新星岗位薪资远超很多后端岗位在程序员中稳居前列。与此同时AI与各行各业深度融合飞速发展成为炙手可热的新风口企业非常需要了解AI、懂AI、会用AI的员工纷纷开出高薪招聘AI大模型相关岗位。AI大模型开发工程师对AI大模型需要了解到什么程度呢我们先看一下招聘需求知道人家要什么能力一切就好办了我整理了AI大模型开发工程师需要掌握的知识如下大模型基础知识你得知道市面上的大模型产品生态和产品线还要了解Llama、Qwen等开源大模型与OpenAI等闭源模型的能力差异以及了解开源模型的二次开发优势以及闭源模型的商业化限制等等。了解这些技术的目的在于建立与算法工程师的共通语言确保能够沟通项目需求同时具备管理AI项目进展、合理分配项目资源、把握和控制项目成本的能力。产品经理还需要有业务sense这其实就又回到了产品人的看家本领上。我们知道先阶段AI的局限性还非常大模型生成的内容不理想甚至错误的情况屡见不鲜。因此AI产品经理看技术更多的是从技术边界、成本等角度出发选择合适的技术方案来实现需求甚至用业务来补足技术的短板。AI Agent现阶段AI Agent的发展可谓是百花齐放甚至有人说Agent就是未来应用该有的样子所以这个LLM的重要分支必须要掌握。Agent中文名为“智能体”由控制端Brain、感知端Perception和行动端Action组成是一种能够在特定环境中自主行动、感知环境、做出决策并与其他Agent或人类进行交互的计算机程序或实体。简单来说就是给大模型这个大脑装上“记忆”、装上“手”和“脚”让它自动完成工作。Agent的核心特性自主性能够独立做出决策不依赖人类的直接控制。适应性能够根据环境的变化调整其行为。交互性能够与人类或其他系统进行有效沟通和交互。对于大模型开发工程师来说学习Agent更多的是理解它的设计理念和工作方式。零代码的大模型应用开发平台也有很多比如dify、coze拿来做一个小项目你就会发现其实并不难。AI 应用项目开发流程如果产品形态和开发模式都和过去不一样了那还画啥原型怎么排项目周期这将深刻影响产品经理这个岗位本身的价值构成所以每个AI产品经理都必须要了解它。看着都是新词其实接触起来也不难。从0到1的大模型系统学习籽料最近很多程序员朋友都已经学习或者准备学习 AI 大模型后台也经常会有小伙伴咨询学习路线和学习资料我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师吴文俊奖得主给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频全系列的学习资料这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】适学人群应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。AI大模型系统学习路线在面对AI大模型开发领域的复杂与深入精准学习显得尤为重要。一份系统的技术路线图不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点还能提供一条高效、有序的学习路径。基础篇包括了大模型的基本情况核心原理带你认识了解大模型提示词Transformer架构预训练、SFT、RLHF等一些基础概念用最易懂的方式带你入门AI大模型进阶篇你将掌握RAGLangchain、Agent的核心原理和应用学习如何微调大模型让大模型更适合自己的行业需求私有化部署大模型让自己的数据更加安全项目实战篇会手把手一步步带着大家练习企业级落地项目比如电商行业的智能客服、智能销售项目教育行业的智慧校园、智能辅导项目等等但知道是一回事做又是另一回事初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性在这基础上找到高质量的学习资源不浪费时间、不走弯路又是重中之重。AI大模型入门到实战的视频教程项目包看视频学习是一种高效、直观、灵活且富有吸引力的学习方式可以更直观地展示过程能有效提升学习兴趣和理解力是现在获取知识的重要途径光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。海量AI大模型必读的经典书籍PDF阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。600AI大模型报告实时更新这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。AI大模型面试真题答案解析我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下AI时代企业最需要的是既懂技术、又有实战经验的复合型人才**当前人工智能岗位需求多薪资高前景好。**在职场里选对赛道就能赢在起跑线。抓住AI这个风口相信下一个人生赢家就是你机会永远留给有准备的人。如何获取这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】