当前位置: 首页 > news >正文

Dify AI 结合ZeroNews 实现公网快速访问

生成式人工智能(Generative AI)与大型语言模型(LLMs)已成为引领当今科技变革的核心驱动力。预计到2026年,将有亿级以上的应用程式使用LLMs技术,这反映了生成式AI技术的迅猛发展和广泛应用前景。当前,也已经有越来越多的组织和企业正在使用依赖LLMs的生成式人工智能产品,这凸显了该技术从概念验证阶段迈向规模化应用阶段的趋势。

随着生成式AI 与LLMs 的使用日益增加,创建智慧体应用程式的需求也在不断增长。Dify AI 作为一个开源的大语言模型应用开发平台,专为构建由大型语言模型驱动的生成式AI 用程式而设计。它透过将检索增强生成(RAG)技术、人工智慧工作流程Workflow、可观测性工具与模型管理整合到一个直观的介面中,简化了AI 应用的创建过程。

同时,Dify 提供了强大的功能来简化AI 应用的开发,包括:

Dify Workflow:Dify Workflow 是一个视觉化管道建构器,专为创建与测试人工智慧工作流程而设计,无需大量编码。使用者可以透过直观的拖放介面快速自动化复杂的流程,例如客户支援路由、资料检索与任务自动化。

Dify RAG:Dify 的RAG 引擎透过整合来自外部来源的即时资料检索功能,大幅提升LLM 的输出效果。与传统LLM(例如ChatGPT)不同,Dify RAG 能够访问来自文件、资料库或网页来源的最新专有资料,确保回应的准确性与上下文相关性。

Dify Agent:Dify Agents 使组织能够部署嵌入特定领域知识的个性化人工智慧聊天机器人与虚拟助理。这些人工智慧智慧体能够自主处理CRM、客户支援、研究等多项任务。

当我们在本内网部署 Dify 时,由于一般都缺乏固定的公网IP,所以我们只能在内网中访问Dify ,而无法将其分享给朋友、同事访问;内网穿透能很好的帮我们解决这个问题,无需固定IP ,通过专用域名即可实现任意位置通过公网都能访问到内网中 Dify, 且部署、操作简单、快捷。

本文介绍在Ubuntu 22.04系统中,以Docker 容器的方式部署 Dify 及 ZeroNews (零讯) 内网穿透

部署步骤:

第一步: 部署 Dify 应用平台

能正常SSH远程连接到Ubuntu 22.04系统,并提前安装好 docker 及 docker compose 工具

Dify 应用平台会占用 80 / 443 端口,请确保端口未被占用

下载 Dify 项目

通过git 在Dify 的官方 github 仓库下载 Dify 项目

启动 Dify 相关容器

进入到 Dify 项目跟目录下的 docker 目录,该目录下有 docker-compose.yaml 文件,我们执行docker-compose up -d 启动 Dify 相关容器

docker-compose up -d

Dify 相关容器部署完成后,我们可以查看已运行的容器

docker compose ps

内网访问 Dify 应用平台

在浏览器中,通过 ubuntu 系统的IP地址访问 Dify 应用平台 http://{内网IP}

首次打开Dify 平台,需要为 Dify 平台设置管理员,点击登录页下方的 "设置管理员账号" 进入到 管理员账号 设置页面

输入管理员账户的 邮箱、用户名及密码,然后点击 "设置"完成管理员账户设置

然后通过邮箱登录 Dify 应用平台

第二步: 在Dify 应用平台上,构建大模型应用

Dify 应用平台基础操作

在 Dify 应用平台主界面中,点击 "创建空白应用" 来构建应用

选择应用的类型,输入应用名称及描述信息,然后点击 "创建" 完成应用创建

选择一个大模型,进行设置就行

下面我们部署一个 ollama 本地模型进行测试

部署 ollama 本地模型

安装 Ollama

在 ubuntu 系统通过一条命令部署 ollama 本地模型

修改 ollama 的本地监听IP地址, 将 Environment="OLLAMA_HOST=0.0.0.0" 添加到 ollama 的系统服务文件( /etc/systemd/system/ollama.service)中

重启ollama 服务,执行如下命令。

sudo systemctl daemon-reload

sudo systemctl restart ollama

在浏览器中,输入 http://{主机ip}:11434, 检查 ollama 是否正常运行, 显示 “Ollama is running”, 表示ollama 运行正常

下载大模型

下载大模型,以 llama3.2 为例,下载 llama3.2 模型

ollama run llama3.2

第三步: 在Dify 应用平台上应用 ollama 模型

添加本地 ollama 模型

点击右上角用户的图标,然后点击 "设置", 进入到 Dify 设置界面

在设置窗口中,点击 "模型供应商", 找到 Ollama , 然后点击 "添加模型"

在添加 Ollama 模型窗口中, 模式名称输入下载好的 "llama3.2" 模型, 基础URL输入 ollama的地址 http://主机IP:11434,然后点击保存

ollama 大模型添加成功后,可以查看添加好的模型

添加模型应用

点击 Dify 主页的"仓库空白应用" 来添加 ollama 应用

添加一个聊天应用,应用类型选择聊天助手,编排方法默认为基础编排,输入应用名称,如"Chat",然后点击创建

应用创建完成后,即可进行即时对话,如在左边的提示词中输入"中文", 在右下方的内容输入框中输入 AI

第四步: 部署 ZeroNews 内网穿透

我们通过 Docker 容器方式部署 ZeroNews 内网穿透

选择快速开始方式

然后登录 ZeroNews(零讯)官网! ,在快速页面,选择docker安装方式,然后选择 ZeroNews 公共仓库

按步骤运行 ZeroNews 服务

通过以下命令在 ZeroNews 官方仓库下载 ZeroNews 容器镜像

添加容器目录

选择 Docker Run方式运行,执行如下命令

mkdir /opt/zeronews

下载 ZeroNews 容器镜像

通过以下命令在 ZeroNews 官方仓库下载 ZeroNews 容器镜像

启动 ZeroNews 容器

复制快速开始页面的启动命令并运行,因为每个人的token不一样,所以需要在自己的账号复制

查看运行中的 Agent 状态

ZeroNews 容器启动成功后,在 ZeroNews 平台上能查看已上线的 ZeroNews 容器

第五步: 为 Dify 添加域名及映射

为 Dify 平台添加域名

在 ZeroNews 管理平台的 "域名端口" 管理界面下,添加域名,如添加 difyai 域名

域名前缀: 输入 difyai1

勾选 HTTPS 协议

然后点击确定

为 Dify 应用平台添加公网映射

首先在 ZeroNews 管理平台的 "映射" 管理界面下,添加应用,如添加 Dify 应用

然后在 Dify 应用下,添加HTTPS公网映射

●选择Agent: 选择刚运行的Agent

● 映射协议: 选择 HTTPS 协议

● 公网访问地址: 选择上一步添加好的 difyai 域名地址

● 映射带宽: 输入需要的带宽,如 2M

● 内网映射地址: IP地址默认为 127.0.0.1, 端口为 Dify 应平台的端口号 80

创建完城后,就可以在映射列表看到已经条件好的映射了。

第六步:通过浏览器公网访问 Dify AI服务

打开浏览器,然后输入刚才配置好的映射地址,然后按回车,那么您就可以访问 Dify AI服务了。

http://www.zskr.cn/news/111262.html

相关文章:

  • 10 个专科生论文写作工具,AI降重查重率推荐
  • Trae 和 cursor使用
  • 详细介绍:基于YOLOv5-AUX的棕熊目标检测与识别系统实现
  • 【金融风险分析必备技能】:掌握R语言相关性矩阵的5大核心应用
  • 生物信息分析高手私藏代码(R语言代谢组完整流程大公开)
  • IDEA/pycharm快捷键
  • 在算家云搭建Linly-Talker数字人语音模型
  • MySQL Shell 使用方法
  • Windows下TensorFlow-GPU 2.5.0环境搭建指南
  • 为什么你的量子模拟无法扩展?R语言多qubit架构陷阱全揭示
  • Cursor Agent 模式提示词
  • 嵌入式和软件系统中常见通信协议
  • Dify中Tesseract识别延迟高?工程师绝不外传的4种提速技巧
  • 如何将边缘Agent镜像缩小95%?,资深架构师亲授瘦身技巧
  • 【赵渝强老师】使用NetManager创建Oracle数据库的监听器
  • 错过再等一年!Dify私有化模型加载调优的7个核心参数配置
  • 【金融分析师必看】R语言实战:4类典型流动性指标建模精讲
  • LobeChat如何处理长上下文会话?上下文管理机制剖析
  • 大数据ETL中的数据质量提升工具与方法
  • Dify与Tesseract字体训练实战(从零搭建高精度OCR系统)
  • 适用于新手的软文营销“三步法”,精准锁定目标客户
  • Sprint Blog 2 (Dec 14-Dec 15) from“Pulse news stream”
  • 2025年广东保安公司服务能力深度评测报告 - 优质品牌商家
  • Dify依赖检查没人讲清楚?这篇万字长文彻底说透了
  • 2025全国优质保安公司推荐榜从需求场景看服务价值 - 优质品牌商家
  • 服务总在凌晨崩溃?,一文掌握Docker Compose健康检查精准配置
  • 【提升AI系统协同效率】:Docker-LangGraph多Agent通信优化的7大策略
  • 从零构建智能Agent文档系统:Dify配置与最佳实践全揭秘
  • 为什么你的Agent服务状态异常频发?根源竟在Docker数据卷挂载策略上
  • 2025全国优质安保公司推荐榜 - 优质品牌商家