三步给 Open WebUI 捏一个只懂你业务的自定义模型

三步给 Open WebUI 捏一个只懂你业务的自定义模型 三步给 Open WebUI 捏一个只懂你业务的自定义模型【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui想让网页聊天框里的通用 AI 变成只答你业务问题的助手这套 Open WebUI 自定义模型配置教程带你用 Model Builder 选基座、写系统提示、定参数和权限三步上线一个岗位专属模型全程不用写代码。 先把环境跑起来部署与连通检查这一节帮你把 Open WebUI 和 Ollama 都拉到线上后面所有配置才有地方落。还没部署的话一条命令就能把它跑起来数据落到本地open-webui卷里磁盘建议留 5GB 以上docker run -d -p 3000:8080 --add-hosthost.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main再看一眼日志确认就绪docker logs open-webui | grep Server started别急别只看到页面能打开就完事。Model Builder 的基座列表是从 Ollama 那边拉的Ollama 没启动或者地址没配好下一步你面对的就是一份空列表。拿浏览器或curl访问http://localhost:11434/api/tags能返回模型列表才算通了。选基座给新模型挑一个毛坯来改这一节解决新模型基于谁构建的问题基座直接决定你后面能改出什么水平。在左侧导航进Workspace Models点Create这个表单就是 Model Builder 的主战场。只填两处最要紧Model ID全站唯一的标识符以后 API 调用都用它。它不能和已有模型撞名甚至和 Ollama 模型的短前缀撞上都会被后端直接拒掉Base model下拉列表来自基座模型列表本地 Ollama 模型和 OpenAI 兼容的远程模型混在一起按owned_by区分基座就像毛坯房结构定死了你只能做内装。选型跟着场景走做客服问答挑llama3这类小而快的省钱要写代码、做推理就上能力更强的。系统提示这样写模型才守规矩这一节帮你把角色设定落成文字它是自定义模型和通用模型拉开差距的关键。系统提示system prompt就是发给模型入职第一天的《岗位说明书》干什么、不干什么、说话什么口吻全部白纸黑字。写法记住三点定边界——明确该答什么、不该答什么比如只回答本公司售后问题给格式——你想要的回答样式比如先给结论再列步骤句子要短留兜底——不确定时回答我不确定请转人工而不是硬编一句话你对通用模型回答的不满全都写进这个文本框。参数与权限管住回答风格和使用范围这一节帮你调两个最容易被忽略的开关模型回答的放飞程度以及谁能看见这个模型。参数只关心三个temperature温度回答的放飞程度范围 0~2。客服场景取 0.3~0.7 更稳要写文案就往高调num_ctx上下文窗口模型一次能记住多少字普通对话 4096 够用长文档场景再往上加top_p采样开关0.9 默认就行别动它权限在访问控制里选私有只有你自己看得到公开则出现在所有人的模型列表里也可以只授权给指定用户组校验逻辑在访问控制模块。小团队共享就选用户组真没必要别设公开。上线检验发一句话确认它真的变了这一节帮你花一分钟验证新模型是否真的按设定生效。创建成功后模型列表里立刻多出一条记录。回到聊天界面顶部下拉框就能看到你的新 ID点一下切过去验证做两步先问一个业务内问题看它是不是按你要求的格式回答再故意问一个职责外的问题正确表现是礼貌拒绝。如果它还在胡侃回去把系统提示的边界再收紧一圈。想接到自己的脚本里走 OpenAI 兼容接口就行import openai client openai.OpenAI(base_urlhttp://localhost:3000/api/v1, api_keyyour-api-key) print(client.chat.completions.create(modelcustomer-support, messages[{role: user, content: 退货政策是什么}]).choices[0].message.content)避坑ID 冲突、参数越界、列表里找不到这一节收集了创建时最常见的三种报错基本都能对号入座。ID 已占用后端会逐个核对和已有模型同名、或者撞上 Ollama 模型的前缀都会被挡回来。换个 ID 就行建议给 ID 加上业务前缀比如support-llama3。参数不合法temperature 超出 0~2 会直接被拦改回区间内即可。列表里看不到新模型两种可能你不是管理员、也没拿到workspace.models权限非管理员创建时还必须选一个基座模型或者访问控制设成了私有换账号看当然不存在。说白了看不到基本都是权限的事。进阶把知识库和工具挂上这一节告诉你改完行为之后还能怎么给模型加料。自定义模型解决的是它怎么说话不解决它知道什么。补领域知识的路径是在知识库页面上传文档PDF、Markdown 都支持建好索引聊天时用#引用对应知识库检索链路在知识库检索模块。如果模型需要主动调外部系统查订单、写数据库就在 Workspace 里建一个函数并关联到这个模型什么时候触发由它自己判断。现在就打开 Model Builder按上面的三步捏一个属于你自己的模型想跟进这块功能的后续演进看 CHANGELOG 就够。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考