绿联NAS运行CLI Proxy API实操:NVIDIA模型接入、OpenClaw调用与公网访问

绿联NAS运行CLI Proxy API实操:NVIDIA模型接入、OpenClaw调用与公网访问

文章目录

    • 前言
    • 1 什么是 CLI Proxy API?
    • 2 环境准备:安装 Docker 并开启 SSH
      • 2.1 安装 Docker
      • 2.2 开启 SSH 并连接到 NAS
    • 3 使用一键脚本部署 CLI Proxy API
    • 4 注册登录 NVIDIA 获取API Key
      • 4.1 注册并登录 NVIDIA 账号
      • 4.2 获取 NVIDIA API Key
    • 5 在 CLI Proxy API 中添加 NVIDIA 上游
    • 6 接入客户端使用:这里以 OpenClaw 为例
      • 6.1 获取CLI Proxy API 的调用密钥
      • 6.2 在 OpenClaw 中填写地址和 API Key
      • 6.3 在OpenClaw中对话测试一下
    • 7 下载安装cpolar
      • 7.1 什么是cpolar?
      • 7.2 安装cpolar
    • 8 穿透CLIProxyAPI页面以实现公网访问
    • 9 固定二级子域名(升级任意套餐皆可)
    • 10 总结

前言

这段时间大模型更新得很快,新平台、新模型、新接口一个接一个。刚开始接入时会觉得选择变多了,但真正用起来才发现,麻烦也跟着来了:每个平台都有自己的Base URL、API Key、模型名称和兼容格式。

如果只是偶尔测试一两个工具,直接在客户端里填写配置还可以接受。可一旦你同时使用OpenClaw、Cherry Studio、Open WebUI、脚本工作流或知识库系统,就会发现每换一个模型渠道,都要重复改地址、换密钥、调模型名,维护成本越来越高。

CLI Proxy API适合放在这个位置上。它本身不是大模型,而是夹在上游模型服务和下游客户端之间的一层统一代理。上游可以接NVIDIA这类OpenAI-compatible接口,下游则统一访问你自己的地址和Key,后续切换或扩展模型渠道时,不必每个客户端都重新配置一遍。

把这套服务部署在绿联NAS上,也比较适合个人长期自用。NAS本来就适合低功耗、长期在线运行,CLI Proxy API放在上面,可以作为家里或个人工作流里的AI统一入口层,既方便集中管理模型,也方便后续接入不同工具。

本文将从绿联NAS安装Docker、开启SSH开始,演示CLI Proxy API一键脚本部署、NVIDIA账号注册与API Key获取、OpenAI兼容上游添加、OpenClaw客户端调用测试。最后再通过 cpolar 配置公网访问和固定二级子域名,让这套AI统一入口不只在局域网内可用,外出时也能稳定调用和管理。

1 什么是 CLI Proxy API?

开源项目地址:https://github.com/router-for-me/CLIProxyAPI

CLI Proxy API本身不是模型,也不是某一家厂商的官方接口。你可以把它理解成放在上游模型服务下游客户端之间的一层统一代理。它的核心作用,就是把原本分散的模型入口收口起来,对外提供更统一的调用方式。官方 README 里也明确把它定义成一个提供OpenAI / Gemini / Claude / Codex 兼容 API的代理服务。

这类工具最有用的地方在于:你不用每接一个新模型,就去改一遍客户端配置。上游这边可以接 OpenAI、Gemini、Claude,也可以通过兼容方式继续接入其他 OpenAI-compatible 平台;下游这边不管是聊天工具、脚本、知识库还是工作流,只需要对接你自己的统一地址和 API Key 就够了。CLI Proxy API 官方也列出了对兼容客户端和 SDK、多账号访问,以及 OpenAI-compatible upstream 的支持。

对于个人自用场景来说,CLI Proxy API 比较实用的能力主要包括:

  • 兼容多种接口风格:支持 OpenAI、Gemini、Claude、Codex 兼容 API 形式,方便不同客户端统一接入。
  • 支持 OAuth 登录:目前支持 OpenAI Codex 和 Claude Code 等通过 OAuth 方式接入。
  • 多账号轮询与负载分担:支持部分上游的多账号 round-robin 负载均衡。
  • 支持流式输出、工具调用和多模态输入:官方 README 列出了 streaming / non-streaming、function calling / tools,以及文本和图片输入支持。
  • 支持 OpenAI-compatible 上游扩展:可以通过配置接入其他兼容 OpenAI 的服务,这也是后面接入 NVIDIA 时会用到的关键能力。
  • 内置管理页面:从较新版本开始,Web UI 已经随主程序一起提供,可以通过management.html进入,管理配置、API Keys、凭据、日志和用量。

简单来说,CLI Proxy API 更像是你自己的AI 统一入口层。先把它部署到绿联 NAS 上,后面再把 NVIDIA 这样的上游接进去,整个使用和维护都会轻松很多。

2 环境准备:安装 Docker 并开启 SSH

CLI Proxy API 这套东西后面要靠 Docker 跑起来,所以正式开始之前,先把绿联 NAS 上的基础环境准备一下。这里不用折腾太多,先把两样东西弄好就行:一个是 Docker,另一个是 SSH。Docker 负责跑服务,SSH 则是为了后面方便直接进终端执行部署命令。

如果这两项你之前已经配过,那这一节可以直接略过,往下看部署部分就行。

2.1 安装 Docker

先进入绿联 NAS 首页,打开应用中心:

打开之后,在里面搜索Docker。找到应用后直接点安装,等它装完就可以了:

装好之后,桌面上会多出一个 Docker 图标,说明容器环境已经准备好了:

这里我建议顺手点进去看一眼,确认 Docker 能正常打开。因为后面 CLI Proxy API 的部署、启动和运行,都会用到它。

2.2 开启 SSH 并连接到 NAS

Docker 安装好之后,还需要开启 SSH,这样后面才能通过终端执行部署命令。

首先,需要先给绿联NAS开启SSH远程登录功能,点击首页的控制面板,然后点击终端机图标,点击进入:

点击勾选SSH功能,然后点击应用(注意:SSH密码为登录的密码,建议密码一定要设置强密码,特别是公网环境下!!):

开启完成后,在电脑端打开终端工具。Windows 可以直接使用 PowerShell,电脑上摁【Win + X】键,选择终端(管理员),macOS 和 Linux 则使用系统自带终端即可。然后输入下面的命令连接到你的 NAS:

# ssh 你的绿联NAS用户名@你的绿联NAS访问IP地址sshsusu@192.168.50.99

连接上绿联NAS的终端后,在终端中输入如下命令,切换至root用户:

sudo-i

完成以上准备后,就可以正式开始部署 CLI Proxy API 了。

3 使用一键脚本部署 CLI Proxy API

前面的 Docker 和 SSH 都准备好之后,接下来就可以正式把 CLI Proxy API 部署到绿联 NAS 上了。

如果全程手动去搭,前面还得自己建目录、处理权限、准备配置文件,再一步步把容器跑起来。为了省掉这些重复操作,我这里把部署初期常用的步骤整理成了一个一键脚本,直接执行就能把基础环境先跑起来。

先在终端里执行下面这条命令:

curl-fsSLhttps://gitee.com/jun-wan/script/raw/master/cliproxyapi_deploy/cpa_docker_deploy.sh-o/tmp/cpa_docker_deploy.sh&&chmod+x /tmp/cpa_docker_deploy.sh&&/tmp/cpa_docker_deploy.sh

执行命令后,终端会先进入脚本初始化界面,如下图所示:

这里选择【1】,或者直接按回车使用默认配置即可。后面的几个步骤也是一样,如果你暂时不打算改默认参数,直接一路回车就能继续部署:

等脚本执行完成后,终端里会输出部署结果,界面大致如下:

这时候可以直接复制终端里显示的管理页面(登录地址),粘贴到浏览器中打开,就能进入 CLI Proxy API 的登录页面:

然后再使用终端输出的管理员账号和密码登录后台,进入 CLI Proxy API 的管理界面:

到这里,CLI Proxy API 就已经在绿联 NAS 上成功跑起来了。下一步,我们继续完成初始化配置,并把 NVIDIA 上游接进来。

4 注册登录 NVIDIA 获取API Key

前面的步骤只是把 CLI Proxy API 这个统一入口先搭起来,接下来才是真正把模型上游接进来。这里我先以 NVIDIA 为例,演示如何注册英伟达账号,获取 API Key,并完成上游接入配置。

4.1 注册并登录 NVIDIA 账号

英伟达模型页:https://build.nvidia.com/

前面已经把 CLI Proxy API 部署好了,接下来就可以开始准备上游渠道。这里先以 NVIDIA 为例,在正式接入之前,需要先准备好 NVIDIA 账号,并生成后面要用到的 API Key。NVIDIA Build 当前仍提供Get API Key入口,用于申请开发测试用的 serverless API。

首先,打开 NVIDIA Build 页面,点击右上角的Login按钮:

如果你已经有 NVIDIA 账号,直接登录即可;如果还没有,就输入自己的邮箱地址,按页面提示继续注册:

接下来按照页面提示设置密码,完成验证校验后,点击创建账户:

创建完成后,系统会向你的邮箱发送一封验证邮件。登录邮箱获取验证码,按提示完成验证后继续下一步:

完成邮箱验证后,页面通常还会要求补充一些基础资料,例如账号名称等,按提示填写即可:

登录完成后,如果右上角出现Verify提示,再继续按页面引导完成账号验证:

按提示填手机号进行验证,支持国内+86的手机号填写,验证完成后,这个账号就可以继续用来生成 API Key 了:
验证完成后就搞定啦!

4.2 获取 NVIDIA API Key

账号准备好之后,下一步就是生成 API Key。

点击右上角头像,在菜单中找到API Keys,然后进入 Key 管理页面:

进入后,点击Generate API Key按钮,先给这个 Key 起一个名字,再根据自己的需要选择有效期,然后生成即可:

生成完成后,页面会给出一串 API Key。把它复制保存好,下一步回到 CLI Proxy API 后台配置 NVIDIA 上游时会用到,如下图:

拿到 Key 之后,就可以继续下一步,把 NVIDIA 作为上游接入到 CLI Proxy API 中了。

5 在 CLI Proxy API 中添加 NVIDIA 上游

前面的 NVIDIA 账号和 API Key 都准备好之后,接下来就可以回到 CLI Proxy API 后台,把 NVIDIA 作为一个OpenAI 兼容上游接进来了。CLI Proxy API 官方文档里也专门提供了OpenAI Compatibility Providers这一类配置方式,用来接入兼容 OpenAI 接口风格的模型服务。

首先,在左侧菜单中找到AI 提供商。然后向下滚动,在最下方找到OpenAI 兼容提供商,点击右侧的添加提供商按钮。

进入添加页面后,先给这个提供商起一个名称,方便后面区分。然后在Base URL一栏中填写 NVIDIA 的接口地址:

https://integrate.api.nvidia.com/v1

填好后,点击右侧的从 /models 获取按钮:

点击之后,程序会尝试从当前填写的 Base URL 拉取可用模型列表。如果没有自动显示出来,也可以手动再点一次获取,然后全选模型列表,点击添加:

模型添加完成后,继续向下滚动到页面底部,在API Key的位置填入前面在 NVIDIA 后台生成的密钥。然后任选一个刚刚添加的模型(推荐选择gpt-oss-120b),先做一次连接测试:

如果页面提示密钥测试通过,说明这条 NVIDIA 上游已经可以正常使用了。确认没有问题后,点击底部的保存按钮即可完成添加。

到这里,NVIDIA 就已经成功接入到 CLI Proxy API 里了。下一步,我们再用实际的模型调用测试一下,看看这条统一入口是否已经能够正常工作。CLI Proxy API 官方文档也说明,OpenAI 兼容提供商最终会通过标准的兼容接口方式进行模型调用。

6 接入客户端使用:这里以 OpenClaw 为例

前面在后台把 NVIDIA 上游测试通过之后,其实这套 CLI Proxy API 统一入口就已经能正式拿来用了。后面不管是接 OpenClaw、Hermes、Cherry Studio,还是 Open WebUI,整体思路都差不多:客户端不再直接对接 NVIDIA,而是统一走我们刚刚搭好的这套入口。

这样做的好处也很直接,后面如果你想增加新的模型渠道,或者替换某个上游,就不用再挨个修改客户端配置了,只需要在 CLI Proxy API 这一层调整即可。

下面我就以OpenClaw为例,实际演示一下客户端该怎么填写地址、API Key 和模型,把这套统一入口真正用起来。

6.1 获取CLI Proxy API 的调用密钥

在把 CLI Proxy API 接入客户端之前,先把后面要用到的统一 API Key 复制出来。

进入后台后,在左侧菜单中找到配置面板,然后进入认证配置页面。在这里可以看到当前的API 密钥列表,直接复制其中一条密钥即可使用;如果你想单独给某个客户端创建新的调用密钥,也可以在这里自行新增:

另外,页面下方系统配置中的使用统计开关也建议顺手打开,然后点击底部的保存按钮。这样后面在接入客户端并开始调用之后,就可以更方便地查看请求记录和使用情况:

到这里,后面接入 OpenClaw 时要用到的CLI Proxy API 统一 API Key就准备好了。

6.2 在 OpenClaw 中填写地址和 API Key

这里我以本地 Windows 上已经安装好的OpenClaw为例,演示一下如何把前面搭好的 CLI Proxy API 统一入口接进去。

先在 Windows 的CMDPowerShell中执行下面这条命令,进入 OpenClaw 的配置向导:

openclaw configure

进入配置向导后,先选择Local,然后进入Model,接着选择Custom Provider(自定义提供商),如下图所示:

接下来开始填写 CLI Proxy API 的连接信息,具体可以按下面的思路来配置:

  • API Base URL:填写你部署在绿联 NAS 上的 CLI Proxy API 地址,并在末尾加上/v1
    例如:

    http://192.168.50.99:8317/v1
  • API Key:填写前面在 CLI Proxy API 后台复制出来的统一 API Key

  • Endpoint compatibility:选择OpenAI-compatible

  • Model ID:填写你前面在 CLI Proxy API 中已经添加成功的模型名称

完整填写示例如下图所示:

这里有两个地方要特别注意:

第一,API Key 填的是 CLI Proxy API 的统一调用密钥,不是 NVIDIA 后台生成的原始 Key
第二,Model ID 也不要照抄固定示例,而是填写你前面在 CLI Proxy API 中实际接入成功的模型名称

当界面中出现Verification successful.提示时,就说明当前这组配置已经验证通过。最后选择Continue (Done)保存并退出即可。

到这里,OpenClaw 就已经成功接入到你自己搭好的 CLI Proxy API 统一入口中了。

6.3 在OpenClaw中对话测试一下

完成配置后,如果当前会话还没有切换到刚刚新增的模型,可以先重启一下网关,或者直接在网页端修改当前会话使用的模型,再发送一次/new重新开启新会话。处理好之后,就可以直接开始对话测试了。

这里我直接输入下面这段内容进行验证:

你运行在什么操作系统上,当前接入的是什么模型?你可以干什么?

如下图所示:

可以看到,OpenClaw 已经能够正常返回回答,而且回复中也识别出了当前接入的模型信息,说明前面配置的 CLI Proxy API 统一入口已经生效了。

例如,这里返回的内容大致如下:

我运行在 Windows11(内部版本10.0.22621) 的64位环境上,GPU 是 RTX2080Ti。当前使用的模型是ustom‑192‑168‑50‑99‑8317/openai/gpt‑oss‑120b,这也是系统默认的模型。 我可以直接在工作区里读取、编辑和创建文件,执行 shell 命令,调度cron任务,搜索并抓取网页内容,控制浏览器进行交互,管理子会话(如代码生成子代理),以及使用 TTS、消息发送等工具。还有一些专门的技能(coding‑agent、healthcheck、weather 等)可以按需调用。有什么需要我帮忙的,尽管告诉我!

到这里,就说明 OpenClaw 已经成功通过 CLI Proxy API 接入了前面配置好的 NVIDIA 上游模型。后面无论你是继续接入其他客户端,还是再增加新的模型渠道,整体思路也都是类似的。

7 下载安装cpolar

前面这些步骤,其实已经把最核心的部分做完了:CLI Proxy API 跑起来了,NVIDIA 接进来了,客户端也能正常调用了。换句话说,这套 AI 统一入口在局域网里已经是能直接拿来用的状态。

接下来要解决的,就是“怎么让它不只局限在家里网络里”。如果你想在公司、咖啡店,或者其他外网环境下也能继续访问这套服务,那就需要借助内网穿透工具把它映射到公网。

这里推荐继续使用cpolar内网穿透。先把 cpolar 安装到绿联 NAS 上,后面再把 CLI Proxy API 的页面和接口穿透出去,这样就能实现公网访问了。

7.1 什么是cpolar?

  • cpolar 是一款内网穿透工具,可以将你在局域网内运行的服务(如本地 Web 服务器、SSH、远程桌面等)通过一条安全加密的中间隧道映射至公网,让外部设备无需配置路由器即可访问。
  • 广泛支持Windows、macOS、Linux、树莓派、群晖 NAS等平台,并提供一键安装脚本方便部署。

7.2 安装cpolar

前面已经把 CLI Proxy API 部署好了,接下来就可以继续在绿联 NAS 上安装 cpolar,为后面的公网访问做准备。

先回到前面连接绿联 NAS 时使用的 PowerShell 终端,执行下面这条命令,一键安装 cpolar:

sudocurlhttps://get.cpolar.sh|sh

安装完成后,再执行下面这条命令,检查 cpolar 服务是否已经正常启动:

sudosystemctl status cpolar

如果终端中显示为active (running),就说明 cpolar 当前已经处于正常运行状态。

确认服务启动成功后,在浏览器中输入:

绿联 NAS 的 IP 地址 +9200端口

就可以访问 cpolar 的 Web UI 管理页面了。

可以看到页面能够正常打开,就说明 cpolar 已经安装完成,并且 Web UI 也可以正常访问。 如果你还没有注册 cpolar 账号,也可以直接在页面底部点击入口跳转注册。

8 穿透CLIProxyAPI页面以实现公网访问

前面把 cpolar 安装好并注册登录之后,接下来就可以开始为 CLI Proxy API 创建公网访问地址了。

登录 cpolar Web UI 后,进入左侧菜单中的隧道管理 > 隧道列表。然后点击创建隧道,新建一条用于访问 CLI Proxy API 的公网隧道:

创建时,先设置一个方便辨识的隧道名称,例如cpa。然后按下面的方式填写参数:

  • 协议:选择http

  • 本地地址:填写 CLI Proxy API 的实际运行端口
    例如前面部署时使用的是8317,这里就填写:

    8317
  • 地区:这里选择China Top

全部填写完成后,点击下方的创建按钮:

创建成功后,继续进入状态 > 在线隧道列表,就可以看到刚刚生成的公网访问地址。通常会同时生成两条记录,一条是HTTP,另一条是HTTPS

这里直接复制其中一条公网地址进行访问测试。为了打开 CLI Proxy API 的管理页面,记得在公网地址后面拼接:

/management.html

例如:

https://你的公网地址/management.html

如下图所示:

如果页面能够正常打开,就说明这条穿透已经生效了。接下来再输入前面设置好的管理密钥或登录信息,测试一下是否能够正常进入后台:

成功进入 CLI Proxy API 管理页面后,就说明这套服务已经不仅能在局域网中访问,也可以通过公网地址进行远程管理了。

9 固定二级子域名(升级任意套餐皆可)

前面通过 cpolar 创建好公网隧道后,其实已经可以从外网正常访问 CLI Proxy API 的管理页面了。不过这里生成的公网地址通常是随机分配的,后面如果隧道重建或者地址发生变化,客户端里原来填写的访问地址也得跟着修改。

如果你希望后面长期稳定使用,或者想让客户端尽量做到“配一次就不怎么改”,那接下来更推荐再给这条隧道配置一个固定的二级子域名。这样后面无论是自己远程访问,还是接给其他工具使用,都会更方便一些。

首先,登录 cpolar 控制台,进入预留页面,然后选择其中的保留二级子域名。在这里填写好地区、名称以及描述(描述可以不填),最后点击保存即可:

https://dashboard.cpolar.com/reserved

操作步骤如下图所示:

保留成功后,列表中会新增一条二级子域名记录,如我这里设置的为cpatest01。需要注意的是,二级子域名是唯一的,每个账号最终保留到的名称都不一样,请以你自己实际保留成功的名称为准。

接下来,回到本地 cpolar 管理界面,进入左侧菜单中的隧道管理 → 隧道列表,找到前面创建好的cpa隧道:

点击右侧的【编辑】按钮,把域名类型改为“二级子域名”,在Sub Domain栏中输入你之前保存好的名称(例如cpatest01),然后点一下 【更新】:

更新完成之后,接着进入【状态】→【在线隧道列表】就可以看到公网地址由之前随机字符串变成现在固定的二级子域名形式:

接下来同样记得在公网地址后面拼接/management.html再进行访问测试:

如果页面能够正常打开,并且可以顺利进入 CLI Proxy API 的管理后台,就说明这条固定二级子域名已经配置成功了。这样后面无论是你自己远程管理,还是让客户端长期使用这个地址,都会稳定很多。

10 总结

完成部署后,CLI Proxy API就可以作为一层运行在绿联NAS上的AI统一入口使用。上游接入NVIDIA模型服务,下游再通过统一Base URL和统一API Key调用,整个链路会比每个客户端单独配置更清晰。

这套方案的价值不在于让NAS本身跑大模型,而是让NAS承担“入口管理”的角色。真正的模型推理由上游平台完成,CLI Proxy API负责转发、兼容、管理密钥和统一调用方式,这样更适合个人长期维护。

接入OpenClaw测试通过后,就说明这条调用链已经实际跑通。后面如果还要继续接Cherry Studio、Open WebUI、Hermes或其他支持OpenAI兼容接口的工具,大体思路都一样:客户端只需要认准这一个统一入口。

配置 cpolar 后,CLI Proxy API可以从外部网络访问。随机域名适合临时测试,固定二级子域名更适合长期使用,尤其是当客户端已经写入访问地址后,固定域名能减少后续反复修改配置的麻烦。

需要注意的是,这类服务涉及NVIDIA API Key、CLI Proxy API管理密钥和客户端调用权限,公网访问时一定要设置强密码,不要公开管理页面地址,也不要把密钥截图或写进公开文章里。CLI Proxy API负责统一模型入口,绿联NAS负责长期承载服务,cpolar负责补上远程访问能力。当这几部分组合起来以后,个人AI工具链就会从“到处填Key”变成“统一入口集中管理”。