text-generation-webui 模型下载指南:3 个任务搞定从第一个模型到批量管理

text-generation-webui 模型下载指南:3 个任务搞定从第一个模型到批量管理 text-generation-webui 模型下载指南3 个任务搞定从第一个模型到批量管理【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgentext-generation-webui 内置了一套模型下载工具输入 Hugging Face托管开源模型的站点上的模型名字它就能把文件自动拉到本地并校验完整性。下面按 3 个真实任务展开——拉下第一个模型、管理多个模型、处理失败与校验照着做一遍就能上手。读完这篇你能解决3 步拉下第一个模型并知道系统会替你挑哪种格式下载的文件落在哪、怎么按需过滤和指定存放位置中断续传、SHA256 校验SHA256 是哈希算法文件改动一个字节值就变可用来判断文件是否损坏、私有模型认证download-model.py全部命令行参数的对照速查任务一拉下你的第一个模型 两个入口背后是同一套引擎网页入口在 Model 标签页见Model 标签页说明命令行入口是根目录的 download-model.py。新手任选其一即可。路径 A在网页里点启动服务打开 Model 标签页在 Download model or LoRA 输入框里填模型标识比如facebook/galactica-125m点 Download等进度走完下完后模型会直接出现在模型下拉框里不用你碰目录。路径 B在命令行下python download-model.py facebook/galactica-125m— 最基础用法填模型标识就开始下python download-model.py facebook/galactica-125m --branch main— 指定分支branch 是仓库里的版本线不写时默认就是 mainpython download-model.py TheBloke/Llama-2-7B-Chat-GGUF --specific-file llama-2-7b-chat.Q4_K_M.gguf— 只拉单个文件适合从 GGUF 仓库里挑一个量化版本python download-model.py facebook/opt-1.3b --threads 8— 把并发文件数从默认 4 提到 8模型标识的 3 种写法写法例子适用时机用户名/模型名facebook/galactica-125m最常用后接分支facebook/galactica-125m:main需要特定版本线时直接贴模型页地址Hugging Face 模型页的完整网址从浏览器复制来的地址脚本会自己剥掉域名部分避坑格式是系统替你挑的仓库里同时有 PyTorch 和 SafetensorsHugging Face 的安全权重格式加载快时脚本只留 SafetensorsGGUF 和 Safetensors 同时存在时也只要 Safetensors。如果仓库里只有 GGUF量化权重格式文件小、占用低且你没指定文件它会优先挑 Q4_K_M4 比特量化体积和质量平衡得不错连这个版本都没有就会跳过全部 .gguf 文件、只拉配置类文本。任务二管理多个模型 文件最终落在哪普通模型 → user_data/models/ 下的子文件夹文件夹名是用户名_模型名非 main 分支会再拼上_分支名LoRA给主模型叠加的轻量微调组件→ 脚本自动识别存进 user_data/loras/GGUF 单文件用--specific-file或直贴文件地址时→ 直接放在user_data/models/根下不再套子文件夹每个普通模型文件夹里会多一个huggingface-metadata.txt记录来源地址、分支、下载时间和各文件的 SHA256 值只拿你想要的文件python download-model.py TheBloke/Llama-2-13B-chat-GGUF --exclude-pattern .*(Q5|Q8).*\.gguf— 按正则用模式匹配文本的写法排除不想要的文件只留目标量化版python download-model.py facebook/galactica-125m --text-only— 只拉 txt/json 这类文本配置适合先看看仓库里有什么网页入口输入模型路径后点 Get file list把想下的文件名复制进 File name 框再点 Download换地方存放--output 路径— 直接存到指定文件夹不建模型名子文件夹--model-dir 路径— 换模型根目录仍会在里面按模型建子文件夹--user-data-dir 路径— 整个 user_data 目录整体搬家批量拉多个模型脚本可以反复调用把模型一个个列进自己的批处理里、每次一行命令即可中途断掉也没关系重跑同一条命令会从断点继续续传机制见任务三。任务三处理失败与校验 ️下载断了怎么办默认就是续传本地已有部分进度的文件会从断点接着下不会从头来。想推倒重来就加--cleanpython download-model.py facebook/galactica-125m --clean— 丢弃已有进度重新下载自动重试的强度单文件出错会自动重试每次失败后的等待时间翻倍递增默认上限 7 次。网络不稳可以调高python download-model.py facebook/opt-1.3b --max-retries 15— 失败最多试 15 次校验跑一遍 --check下完想确认没坏用一条命令核对所有文件的 SHA256这也是官方附加技巧文档里推荐的做法python download-model.py facebook/galactica-125m --check— 重新计算并与记录值比对全部通过会打印确认信息校验不通过时脚本会提示你加--clean重下做法见上文。私有模型怎么下需要登录才能看的模型先配好凭证脚本会自动带上设置HF_TOKEN环境变量或先执行过huggingface-cli login缓存令牌或者在环境变量里设置HF_USER和HF_PASS账号与密码拉得慢两个调节旋钮--threads提高并发——注意它指的是同时下载的文件数文件多而小的仓库里提它才有效果HF_ENDPOINT环境变量可切换 Hugging Face 的访问入口直连不畅时用它格式与参数速查格式取舍规则格式特点脚本的处理Safetensors加载快、安全与 GGUF/PyTorch 同时存在时只留它GGUF量化版体积小自动挑 Q4_K_M或用--specific-file指定PyTorch / .pt训练原生格式有 Safetensors 时被跳过参数对照表参数默认值作用--branchmain指定下载的版本分支--threads4并发下载的文件数--specific-file无只下载指定文件--exclude-pattern无按正则排除文件--output自动存到指定文件夹--model-diruser_data/models换模型根目录--user-data-dir自动识别换整个 user_data 目录--clean关不续传从零开始--check关只做 SHA256 校验--max-retries7自动重试上限--text-only关只拉文本配置文件下一步动作清单按顺序勾选执行确认本机已有项目并能运行python download-model.py没有仓库时执行git clone https://gitcode.com/GitHub_Trending/te/text-generation-webui选一个模型标识跑第一次下载到user_data/models/下确认文件到位用--check跑一遍校验确认完整性检查流程能走通空间紧张时用--specific-file只拉一个 GGUF 量化版本要下私有模型先配好HF_TOKEN再发起下载【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考