从 0 搭建企业智能客服完整项目实战标签项目实战 | 智能客服 | 知识库 | 完整方案 | 落地指南一、项目背景和目标1.1 场景假设你在一家 SaaS 公司客服团队每天被这些问题淹没“这个产品怎么收费”“API 怎么调用”“我这边报错 XXX什么意思”“能给我发一下操作手册吗”80% 的问题是重复的但用户不愿意翻文档宁愿问客服。1.2 目标搭建一个企业智能客服系统实现目标具体指标自动回答常见问题覆盖率 80%7x24 在线响应时间 3s回答可溯源标注文档来源答不上时转人工无缝衔接持续学习优化基于反馈改进二、架构设计2.1 系统架构┌─────────────────────────────────────────────────────────┐ │ 用户端 │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ Web 聊天窗 │ │ 微信小程序 │ │ 钉钉/飞书 │ │ │ └──────┬──────┘ └──────┬──────┘ └──────┬──────┘ │ └──────────┼──────────────────┼──────────────────┼────────┘ │ │ │ └──────────────────┼──────────────────┘ ↓ ┌─────────────────────────────────────────────────────────┐ │ 接入网关层 │ │ Nginx / API Gateway限流、鉴权 │ └─────────────────────────────────────────────────────────┘ ↓ ┌─────────────────────────────────────────────────────────┐ │ 核心业务层 │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ 对话引擎 │ │ 知识库引擎 │ │ 人工客服 │ │ │ │ Chatchat │◄──►│ RAG │ │ 转接 │ │ │ └─────────────┘ └─────────────┘ └─────────────┘ │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ 意图识别 │ │ 会话管理 │ │ 反馈收集 │ │ │ │ 路由分发 │ │ 上下文维护 │ │ 效果评估 │ │ │ └─────────────┘ └─────────────┘ └─────────────┘ │ └─────────────────────────────────────────────────────────┘ ↓ ┌─────────────────────────────────────────────────────────┐ │ 数据存储层 │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ 向量数据库 │ │ 关系数据库 │ │ 对象存储 │ │ │ │ Milvus │ │ PostgreSQL │ │ MinIO │ │ │ └─────────────┘ └─────────────┘ └─────────────┘ │ └─────────────────────────────────────────────────────────┘ ↓ ┌─────────────────────────────────────────────────────────┐ │ 模型服务层 │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ LLM 服务 │ │ Embedding │ │ Rerank │ │ │ │ Xinference │ │ 服务 │ │ 服务 │ │ │ └─────────────┘ └─────────────┘ └─────────────┘ │ └─────────────────────────────────────────────────────────┘2.2 技术选型模块技术说明对话引擎LangChain-Chatchat核心 RAG AgentLLMQwen2-72B中文能力强Embeddingbge-large-zh-v1.5中文语义向量库Milvus企业级数据库PostgreSQL会话、反馈数据前端Vue3 Element Plus客服工作台部署Kubernetes高可用三、知识库构建3.1 数据来源数据类型内容优先级产品文档功能说明、使用指南⭐⭐⭐⭐⭐FAQ常见问题及答案⭐⭐⭐⭐⭐API 文档接口说明、错误码⭐⭐⭐⭐历史工单客服处理记录⭐⭐⭐⭐视频教程转录文本⭐⭐⭐更新日志版本变更说明⭐⭐⭐3.2 文档预处理# 文档预处理流水线classDocumentPipeline:defprocess(self,raw_docs):# 1. 格式统一全部转 Markdowndocsself.normalize_format(raw_docs)# 2. 清洗去广告、去页眉页脚docsself.clean(docs)# 3. 结构化提取标题层级docsself.extract_structure(docs)# 4. 去重docsself.deduplicate(docs)# 5. 质量检查docsself.quality_check(docs)returndocsdefquality_check(self,docs):过滤低质量文档valid_docs[]fordocindocs:# 太短不要iflen(doc.page_content)50:continue# 乱码不要ifself.is_garbage(doc.page_content):continuevalid_docs.append(doc)returnvalid_docs3.3 知识库组织knowledge_base/ ├── product-docs/ # 产品文档 │ ├── getting-started.md │ ├── pricing.md │ └── api-reference/ ├── faq/ # 常见问题 │ ├── account-faq.md │ ├── billing-faq.md │ └── technical-faq.md ├── api-docs/ # API 文档 │ ├── authentication.md │ ├── endpoints.md │ └── error-codes.md └── troubleshooting/ # 故障排查 ├── common-errors.md └── debug-guide.md3.4 分块策略优化# kb_settings.yaml - 针对不同知识库用不同策略knowledge_base_config:product-docs:chunk_size:1000chunk_overlap:200separators:[\n## ,\n### ,\n\n,\n]faq:chunk_size:500chunk_overlap:50separators:[\nQ:,\n\n,\n]api-docs:chunk_size:800chunk_overlap:100separators:[\n### ,\n,\n\n,\n]四、对话流程设计4.1 意图识别和路由# 意图识别 路由classIntentRouter:def__init__(self):self.intents{pricing:pricing_kb,# 价格相关technical:tech_kb,# 技术问题billing:billing_kb,# 账单问题human:transfer,# 转人工greeting:greeting,# 问候}asyncdefroute(self,query,history):# 用 LLM 做意图识别intentawaitself.classify_intent(query,history)# 根据意图路由ifintenthuman:returnawaitself.transfer_to_human()elifintentgreeting:returnself.greeting_response()else:# 走知识库问答returnawaitself.kb_chat(query,intent)asyncdefclassify_intent(self,query,history):用轻量模型做意图分类promptf 根据用户问题判断意图可选pricing/technical/billing/human/greeting 历史对话{history}用户问题{query}意图 responseawaitllm.generate(prompt)returnresponse.strip()4.2 多轮对话上下文管理classConversationManager:def__init__(self,max_history10):self.max_historymax_history self.sessions{}defget_context(self,session_id):获取对话上下文sessionself.sessions.get(session_id,[])# 只保留最近 N 轮returnsession[-self.max_history:]defadd_message(self,session_id,role,content):添加消息到会话ifsession_idnotinself.sessions:self.sessions[session_id][]self.sessions[session_id].append({role:role,content:content,timestamp:time.time()})defbuild_prompt_with_context(self,session_id,current_query):构建带上下文的 Prompthistoryself.get_context(session_id)messages[]formsginhistory:messages.append({role:msg[role],content:msg[content]})messages.append({role:user,content:current_query})returnmessages4.3 转人工机制classHumanTransfer:def__init__(self):self.transfer_triggers[转人工,找客服,我要投诉,你们这是垃圾,]defshould_transfer(self,query,confidence):判断是否需要转人工# 1. 用户明确要求ifany(triggerinqueryfortriggerinself.transfer_triggers):returnTrue# 2. 系统置信度低ifconfidence0.5:returnTrue# 3. 连续多次未解决ifself.consecutive_failures2:returnTruereturnFalseasyncdeftransfer(self,session_id,context):执行转人工# 1. 保存对话上下文awaitself.save_transcript(session_id,context)# 2. 通知客服系统awaitnotify_customer_service(session_id,context)# 3. 给用户反馈return{type:transfer,message:已为您转接人工客服请稍候...,queue_position:awaitget_queue_position()}五、核心功能实现5.1 智能问答 APIfromfastapiimportFastAPIfrompydanticimportBaseModel appFastAPI()classChatRequest(BaseModel):session_id:strquery:struser_id:strchannel:str# web / wechat / dingtalkclassChatResponse(BaseModel):answer:strsources:listconfidence:floatintent:strneed_transfer:boolapp.post(/api/chat,response_modelChatResponse)asyncdefchat(request:ChatRequest):# 1. 意图识别intentawaitintent_router.classify(request.query)# 2. 获取对话上下文contextconversation_manager.get_context(request.session_id)# 3. 知识库检索docsawaitretriever.search(request.query,intent)# 4. 生成回答answer,confidenceawaitgenerator.generate(queryrequest.query,contextcontext,docsdocs)# 5. 判断是否需要转人工need_transferhuman_transfer.should_transfer(request.query,confidence)# 6. 保存会话conversation_manager.add_message(request.session_id,user,request.query)conversation_manager.add_message(request.session_id,assistant,answer)# 7. 记录日志awaitlog_chat(request,answer,confidence)returnChatResponse(answeranswer,sources[{title:d.metadata[source],content:d.page_content}fordindocs[:3]],confidenceconfidence,intentintent,need_transferneed_transfer)5.2 反馈收集app.post(/api/feedback)asyncdefsubmit_feedback(feedback:FeedbackRequest): 收集用户对回答的反馈用于持续优化 # 保存反馈awaitsave_feedback({session_id:feedback.session_id,message_id:feedback.message_id,rating:feedback.rating,# 1-5 星comment:feedback.comment,is_helpful:feedback.is_helpful,timestamp:datetime.now()})# 如果反馈很差触发告警iffeedback.rating2:awaitalert_poor_response(feedback)return{status:ok}5.3 效果评估 Dashboardapp.get(/api/metrics)asyncdefget_metrics(time_range:str7d): 获取系统运行指标 return{total_conversations:awaitget_conversation_count(time_range),avg_response_time:awaitget_avg_response_time(time_range),resolution_rate:awaitget_resolution_rate(time_range),human_transfer_rate:awaitget_transfer_rate(time_range),avg_rating:awaitget_avg_rating(time_range),top_failing_queries:awaitget_top_failing_queries(time_range),knowledge_gaps:awaitidentify_knowledge_gaps(time_range)}六、前端客服工作台6.1 功能设计┌─────────────────────────────────────────────────────────┐ │ 智能客服工作台 [在线] [设置] [退出] │ ├──────────────────────┬──────────────────────────────────┤ │ │ │ │ 会话列表 │ 当前对话 │ │ ┌────────────────┐ │ ┌────────────────────────────┐ │ │ │ 用户 A │ │ │ 用户怎么收费 │ │ │ │ 等待中... │ │ │ │ │ │ ├────────────────┤ │ │ 根据产品文档... │ │ │ │ 用户 B │ │ │ [来源: pricing.md] │ │ │ │ 已解决 │ │ │ │ │ │ ├────────────────┤ │ │ 用户不太明白 │ │ │ │ 用户 C │ │ │ │ │ │ │ 已转人工 │ │ │ 具体来说... │ │ │ └────────────────┘ │ └────────────────────────────┘ │ │ │ │ │ [转人工] [快捷回复] │ [输入框...] [发送] │ │ │ │ ├──────────────────────┴──────────────────────────────────┤ │ 知识库推荐pricing.md / getting-started.md / api-auth.md │ └─────────────────────────────────────────────────────────┘6.2 关键组件!-- 客服工作台主页面 -- template div classcs-workbench !-- 会话列表 -- SessionList :sessionssessions selectselectSession / !-- 对话区域 -- ChatArea :sessioncurrentSession :messagescurrentMessages sendsendMessage transfertransferToHuman feedbacksubmitFeedback / !-- 知识库推荐 -- KnowledgePanel :querycurrentQuery :recommendationskbRecommendations / /div /template七、效果评估和持续优化7.1 评估指标体系维度指标目标值回答质量准确率 85%相关性 90%用户满意度 4.0/5系统性能平均响应时间 3s可用性 99.9%并发处理能力 100 QPS业务效果自助解决率 70%人工转接率 30%客服效率提升 50%7.2 持续优化流程收集反馈 ↓ 分析问题哪些回答不好为什么 ↓ 识别知识缺口用户问到了但知识库没有 ↓ 补充知识库加文档、调分块、优化 Prompt ↓ A/B 测试对比优化前后的效果 ↓ 上线验证 ↓ 回到第一步7.3 知识缺口自动发现asyncdefidentify_knowledge_gaps(time_range7d):自动发现知识库覆盖不到的问题# 1. 找出低置信度的查询low_confidence_queriesawaitdb.query( SELECT query, COUNT(*) as count FROM chat_logs WHERE confidence 0.5 AND timestamp NOW() - INTERVAL %s GROUP BY query ORDER BY count DESC LIMIT 50 ,time_range)# 2. 聚类相似问题clusterscluster_queries(low_confidence_queries)# 3. 生成知识库补充建议gaps[]forclusterinclusters:representativecluster[0]gaps.append({topic:representative,frequency:len(cluster),suggestion:f建议补充关于 {representative} 的文档,sample_queries:cluster[:5]})returngaps八、项目里程碑阶段时间交付物验收标准Phase 11-2 周MVP 版本能回答 50% 常见问题Phase 23-4 周功能完善接入多渠道、转人工Phase 35-6 周效果优化准确率 80%Phase 47-8 周生产上线7x24 稳定运行Phase 5持续迭代优化每月优化迭代九、成本估算项目配置月成本云厂商LLM 服务1x A100 80G¥15,000应用服务器4x 8C16G¥3,000向量数据库Milvus 集群¥2,000关系数据库RDS PostgreSQL¥1,000对象存储500GB¥200带宽100Mbps¥1,500合计~¥23,000/月降本方案用量化模型 → LLM 成本降 50%用共享 GPU 实例 → 再降 30%自建机房 → 再降 40%十、系列总结到这里LangChain-Chatchat 开发与应用系列就全部结束了。咱们一起走过了阶段篇目核心收获快速上手1-3部署、模型接入、知识库搭建深入原理4-6源码架构、RAG 链路、Agent二次开发7-9自定义 Loader、前后端分离、性能优化生产落地10-11集群部署、完整项目实战核心认知RAG 不是搭起来就行而是一个需要持续迭代的系统工程。检索质量决定上限LLM 质量决定下限工程能力决定能不能落地。附录学习资源资源链接说明Chatchat 官方仓库github.com/chatchat-space/Langchain-Chatchat源码和文档LangChain 文档python.langchain.com框架文档Xinference 文档inference.readthedocs.io模型部署Milvus 文档milvus.io向量数据库BGE Embeddinggithub.com/FlagOpen/FlagEmbeddingEmbedding 模型感谢阅读这个系列如果你在实践过程中有任何问题或者有自己的经验想分享欢迎交流。技术的世界很大RAG 只是其中一角。保持好奇持续学习咱们下个项目见
