本文深入剖析工业级RAG系统为何采用双塔单塔两阶段索引机制。双塔结构通过独立编码Query和Doc再计算相似度实现海量数据的高效召回但会丢失细粒度匹配信息单塔结构通过联合编码Query和Doc利用交叉注意力机制实现精准语义匹配提升检索精度。两者结合双塔负责快速找到相关内容单塔负责精准找对核心答案是高质量RAG系统的关键设计。很多人做 RAG 时都会遇到一个问题为什么明明已经用了 Embedding检索结果却依旧“不够准”为什么用户问“苹果营收”系统却检索不到“Apple Inc.”相关内容真正的问题往往不在大模型而在 RAG 的检索架构本身。本文将深入拆解工业级 RAG 背后最核心的“两阶段索引”机制双塔Embedding为什么适合海量召回单塔Rerank为什么能大幅提升精度以及为什么几乎所有高质量 RAG 系统都会采用“Embedding Rerank”的组合方案。看完以后你会真正理解双塔负责“找到”单塔负责“找对”。4.5 RAG 中的两阶段索引在上一节内容中我们详细介绍了如何基于在第3章中构建的语义检索引擎来搭建一个完整的 RAG Agent让它根据用户的提问自主分拆解、回答并总结得到完整的答案。尽管整个流程看似已经搭建完毕但是依旧有很多地方需要继续优化例如从向量库检索内容的精度、模型输出结果的后处理等。在本节内容中我们将从检索精度这一角度来介绍如何让 RAG Agent 在回答问题时检索到的参考内容更精准也就是重排序Rerank模型的使用。很多人第一次搭建 RAG 系统时都会有一个疑问既然 Embedding 模型能把文本变成向量为什么还要再加一个 Rerank 模型刚开始你可能觉得有它没它区别应该不大但真正用过之后你会发现加了 Rerank 模型后检索结果可能有质的飞跃而这背后涉及到的就是 RAG 检索架构中一个非常核心的设计。4.5.1 双塔结构思想原理双塔Bi-Encoder是 RAG 系统中最常用的检索架构也是几乎所有向量数据库的底层基础。双塔的核心思想可以用一句话概括Query 和 Doc 分开编码最后在向量空间中计算相似度。图 4-6. 双塔检索流程图例如在 RAG 应用开发中我们会先通过 Embedding 模型也就是 Encoder将所有的离线文档都转换成向量存入到向量库中。当用户提问时我们再将 Query 通过 Embedding 模型将其转换成向量然后同向量库中的向量进行相似度比较最后取向量库中前 K 个最相似的文本块作为参考源。你可以把整个过程想象成图书馆的图书检索系统每本书都有一个编号向量读者查询时先拿到查询词的编号然后在书架上找编号最接近的书。4.5.2 双塔结构的优势与不足说完了工作原理我们自然要问为什么双塔结构能支撑百万级甚至更大规模的数据检索这得益于它的一个关键设计文档向量可以提前离线计算好并存入向量数据库查询时只需计算一次 Query 向量然后在向量索引中做近似最近邻搜索Approximate Nearest Neighbor, ANN。这意味着时间复杂度可以从线性的 降低到接近 例如简单的[倒排文件索引举个例子如果你有 100 万篇文档使用双塔结构时系统可以在对数级别的时间内找到最相关的文档而不用逐一比较 100 万次。这也是为什么 RAG 系统能够秒级响应而不是等待几分钟。不过双塔结构也有明显的局限性这也是为什么它不能单独使用的原因。由于 Query 和 Doc 在编码时彼此不知道对方的存在模型只能把整段文本压缩成一个固定长度的向量然而一旦压缩完成细粒度的匹配信息就会丢失。换句话说我们希望在编码 Query 的时候它是能够看到 Doc 的这样检索得到的参考内容也将更加准确。举个例子假设你的知识库中有一篇文档讲的是苹果公司 2024 年的财报数据当用户搜索“苹果营收”时双塔结构可能会把这篇文档排在后面因为它在编码“苹果营收”时无法捕捉到“苹果”和“苹果公司”的细粒度对应关系它只能基于整体语义的粗略匹配。所以你会发现只用双塔检索时结果往往是看起来相关但不够精准。4.5.3 单塔结构思想原理说完了双塔结构我们再来看单塔结构是怎么解决精度问题的。单塔Cross-Encoder是另一种常见的架构通常用于排序场景中它的做法与双塔完全不同。双塔是分开编码而单塔则是将 Query 和 Doc 拼接在一起输入模型进行联合编码。具体来说我们会把 Query 和 Doc 的文本拼接成一个序列例如[CLS] Query [SEP] Doc然后再通过 Embedding 模型对整个序列进行编码并输出一个0 到1之间相关性分数最后取相关性分数最高的前 K 的文本块作为参考源。图 4-7. 单塔检索流程图此时我们可以把单塔理解成一个专业的审稿人它会仔细阅读问题和文档的每一个字然后判断这篇文档是否真的回答了问题。4.5.4 单塔结构的优势与不足可以发现单塔结构最大的优势在于表达能力强能够捕捉细粒度的语义匹配。在 Cross-Encoder 中Query 里的每个 token 都可以关注 Doc 的每个 token也就是完整的交叉注意力机制。因此这意味着模型可以进行精确的语义对齐以及上下文补全和逻辑关系的判断。……2026年AI行业最大的机会毫无疑问就在应用层字节跳动已有7个团队全速布局Agent大模型岗位暴增69%年薪破百万腾讯、京东、百度开放招聘技术岗80%与AI相关……如今超过60%的企业都在推进AI产品落地而真正能交付项目的大模型应用开发工程师****却极度稀缺落地AI应用绝对不是写几个prompt调几个API就能搞定的企业真正需要的是能搞定这三项核心能力的人✅RAG融入外部信息修正模型输出给模型装靠谱大脑✅Agent智能体让AI自主干活通过工具调用Tools环境交互多步推理完成复杂任务。比如做智能客服等等……✅微调针对特定任务优化让模型适配业务目前脉脉上有超过1000家企业发布大模型相关岗位人工智能岗平均月薪7.8w实习生日薪高达4000远超其他行业收入水平技术的稀缺性才是你「值钱」的关键具备AI能力的程序员比传统开发高出不止一截有的人早就转行AI方向拿到百万年薪AI浪潮正在重构程序员的核心竞争力现在入场仍是最佳时机我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】⭐️从大模型微调到AI Agent智能体搭建剖析AI技术的应用场景用实战经验落地AI技术。从GPT到最火的开源模型让你从容面对AI技术革新大模型微调掌握主流大模型如DeepSeek、Qwen等的微调技术针对特定场景优化模型性能。学习如何利用领域数据如制造、医药、金融等进行模型定制提升任务准确性和效率。RAG应用开发深入理解检索增强生成Retrieval-Augmented Generation, RAG技术构建高效的知识检索与生成系统。应用于垂类场景如法律文档分析、医疗诊断辅助、金融报告生成等实现精准信息提取与内容生成。AI Agent智能体搭建学习如何设计和开发AI Agent实现多任务协同、自主决策和复杂问题解决。构建垂类场景下的智能助手如制造业中的设备故障诊断Agent、金融领域的投资分析Agent等。如果你也有以下诉求快速链接产品/业务团队参与前沿项目构建技术壁垒从竞争者中脱颖而出避开35岁裁员危险期顺利拿下高薪岗迭代技术水平延长未来20年的新职业发展……那这节课你一定要来听因为留给普通程序员的时间真的不多了立即扫码即可免费预约「AI技术原理 实战应用 职业发展」「大模型应用开发实战公开课」还有靠谱的内推机会直聘权益完课后赠送大模型应用案例集、AI商业落地白皮书
