HoRain 云小助手个人主页⛺️生活的理想就是为了理想的生活!⛳️ 推荐前些天发现了一个超棒的服务器购买网站性价比超高大内存超划算忍不住分享一下给大家。点击跳转到网站。目录⛳️ 推荐1. 拉取与删除模型2. 运行模型3. 推理接口一次性执行4. 创建与修改模型5. 服务器相关6. 模型信息7. 专用参数8. Modelfile 指令9. API当 serve 运行时10. 进阶Ollama 提供了多种命令行工具CLI供用户与本地运行的模型进行交互。基本格式ollama command [args]我们可以用 ollama --help 查看包含有哪些命令Large language model runner Usage: ollama [flags] ollama [command] Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model stop Stop a running model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command Flags: -h, --help help for ollama -v, --version Show version information1、使用方法ollama [flags]使用标志flags运行 ollama。ollama [command]运行 ollama 的某个具体命令。2、可用命令serve启动 ollama 服务。create根据一个 Modelfile 创建一个模型。show显示某个模型的详细信息。run运行一个模型。stop停止一个正在运行的模型。pull从一个模型仓库registry拉取一个模型。push将一个模型推送到一个模型仓库。list列出所有模型。ps列出所有正在运行的模型。cp复制一个模型。rm删除一个模型。help获取关于任何命令的帮助信息。3、标志Flags-h, --help显示 ollama 的帮助信息。-v, --version显示版本信息。完整示例命令 (Command)说明 (Description)示例 (Example)ollama run运行模型。如果不存在则自动拉取。ollama run llama3ollama pull拉取模型。从库中下载模型但不运行。ollama pull mistralollama list列出模型。显示本地所有已下载的模型。ollama listollama rm删除模型。移除本地模型释放空间。ollama rm llama3ollama cp复制模型。将现有模型复制为新名称用于测试。ollama cp llama3 my-modelollama create创建模型。根据 Modelfile 创建自定义模型高级。ollama create my-bot -f ./Modelfileollama show显示信息。查看模型的元数据、参数或 Modelfile。ollama show --modelfile llama3ollama ps查看进程。显示当前正在运行的模型及显存占用。ollama psollama push推送模型。将你自定义的模型上传到 ollama.com。ollama push my-username/my-modelollama serve启动服务。启动 Ollama 的 API 服务通常后台自动运行。ollama serveollama help帮助。查看任何命令的帮助信息。ollama help run1. 拉取与删除模型pull拉取远端模型到本地。ollama pull modelrm / remove删除本地模型。ollama rm modellist / ls列出所有本地模型。ollama list2. 运行模型run交互模式运行模型不退出。ollama run model可带系统信息与 promptollama run model -s system -p promptrun script从文件读取 promptollama run model input.txt当你输入ollama run进入聊天界面后你不再是在操作命令行而是在和 AI 对话。这时你可以使用以/开头的快捷指令来控制对话/bye或/exit最重要退出聊天界面返回命令行。/clear清空当前的上下文记忆开启一段新的对话。/show info查看当前模型的详细参数信息。/set parameter seed 123设置随机种子高级玩法用于复现结果。/help在聊天中查看所有可用的快捷键。3. 推理接口一次性执行generate执行单次推理输出文本。ollama generate model -p prompt4. 创建与修改模型create用 Modelfile 创建本地模型。ollama create model-name -f Modelfilecp复制一个模型为新名字。ollama cp src dst5. 服务器相关serve启动 Ollama 本地服务默认 11434。ollama serverun serverless当ollama run时会自动拉起后台服务不需单独执行。6. 模型信息show查看模型元数据、参数、模板。ollama show model7. 专用参数这些参数多数可用于 run/generate--num-predict number 限制输出 token 数 --temperature float 控制随机性 --top-k int 采样范围 --top-p float 核采样 --seed int 固定随机性 --format json 输出 JSON --keepalive seconds 会话保持时间8. Modelfile 指令构建模型时使用FROM model基础模型SYSTEM xxx设定系统提示PARAMETER keyvalue设定默认参数TEMPLATE xxx自定义 Chat 模板LICENSE xxx设置 LicenseADAPTER file/WEIGHTS file加载 LoRA 或额外权重9. API当 serve 运行时REST 端点默认 http://localhost:11434/api/api/generate文本生成/api/chat对话流式接口/api/pull远程拉取/api/tags本地模型列表调用示例curlcurl http://localhost:11434/api/generate \ -d {model:qwen2.5,prompt:hello}10. 进阶自定义参数运行ollama run model --temperature 0.2 --top-p 0.9持久会话保留上下文会话由模型内部缓存自动管理无需额外命令。❤️❤️❤️本人水平有限如有纰漏欢迎各位大佬评论批评指正如果觉得这篇文对你有帮助的话也请给个点赞、收藏下吧非常感谢! Stay Hungry Stay Foolish 道阻且长,行则将至,让我们一起加油吧
