本地部署DeepSeek-R1,搭建本地知识库本章节内容是参照哔哩哔哩上的【一拳S7】作者分享的视频教程【喂饭教程】20分钟教会你本地部署DeepSeek-R1并搭建自己的知识库小白也能轻松上手!搭建的。概述本章主要是通过ollama来安装运行deepseek模型通过RAGFlow提供知识库服务目录本地部署DeepSeek-R1,搭建本地知识库一、环境准备二、安装过程1、下载安装ollama1、下载ollama2)、安装ollama3、验证ollama4、ollama本地环境变量配置2、下载deepseek模型1、下载安装deepseek-R1模型2、下载deepseek-V3模型3、安装Docker Desktop1、下载安装Docker Desktop2、配置docker国内镜像仓库4、安装RAGFlow1、下载ragflow源码2、修改参数3、启动RAGFlow容器4、配置RAGFlow模型5、构建知识库1、创建知识库2、添加文件3、启动解析4、创建聊天助理5、聊天一、环境准备序号内容说明1PC配置华为MetaBook16s CPU:i7, 内存32G,【此项只做为本人环境的记录不是必备条件】2操作系统Windows 11 家庭中文版3deepseek官网地址https://www.deepseek.com/4ollama版本0.5.7截止发稿时的最新release官网地址 https://ollama.com/5deepseek-R1deepseek推理模型大小4.7GB详情参见 Ollama官网-Models页面6RAGFlow版本v0.16.0RAGFlow 是一款基于深度文档理解构建的开源 RAGRetrieval-Augmented Generation引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程结合大语言模型LLM针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。7Docker DesktopWindows环境下用于管理、运行Docker镜像、容器的可视化管理工具官方网址https://www.docker.com/products/docker-desktop/二、安装过程1、下载安装ollama1、下载ollama官方网站下载较慢本章节是通过github上进行下载的下载地址下载地址 https://github.com/ollama/ollama/releases2)、安装ollama【方式一】双击【OllamaSetup.exe】安装文件执行安装【方式二】如果不想安装在C盘如果C盘空间不够例如要安装在D:\work\ollama,则可以在命令行窗口执行安装命令指定安装目录D:\cd 迅雷下载 D:\迅雷下载OllamaSetup.exe /DIRD:\work\ollama3、验证ollama在cmd命令窗口执行ollama命令出现下图所示命令使用用法说明输出则安装成功。【ollama用法】ollama list: 用户输出本地已安装的模型4、ollama本地环境变量配置1、进入环境变量设置窗口 设置 - 系统 - 系统信息 - 高级系统设置 - 环境变量2、添加环境变量 OLLAMA_HOST0.0.0.0:11434【必须配置】说明0.0.0.0表示ip表示ollama服务监听监听本地所有IP11434: ollama服务监听端口3、添加环境变量 OLLAMA_MODELSD:\work\ollama\models【选配】说明ollama模型默认会下载到C盘此参数可以配置ollama模型下载到其它路径下如果C盘空间够用则不需要配置注意如果配置此参数后仍下载到C盘【解决方案】打开任务管理器结束掉 ollama开头的进程再回到命令窗口重新执行下载模型命令1、进入环境变量设置窗口2、添加环境变量 OLLAMA_HOST3、添加环境变量 OLLAMA_MODELS2、下载deepseek模型从官方网站首页点【Models】链接进入模型检索页面1、下载安装deepseek-R1模型1、下载deepseek-R1模型在Ollama官方网站-Models页面进入【deepseek-r1】2、测试deepseek-R1模型在Windows命令行窗口运行下面命令C:\Users\dyj09ollama run deepseek-r1ollama run deepseek-r1运行deepseek-r1/bye结束deepseek-r1测试程序2、下载deepseek-V3模型在Ollama官方网站-Models页面进入【deepseek-v3】大小400GB由于太大就不在本地下载了感兴趣的可以自行按下面的操作进行下载安装3、安装Docker DesktopDocker Desktop是Windows环境下运行管理Docker镜像、容器的桌面可视化管理工具。**说明**如果已经安装了Docker Desktop的小伙伴们可以跳过此步只需要启动Docker Desktop软件即可Docker Desktop启动后的窗口1、下载安装Docker Desktop进入官网https://www.docker.com/products/docker-desktop/下载完成后双击安装安装完成后打开命令行执行docker images显示本地已下载的docker镜像如果执行成功则说明已安装成功不需要执行登录启动后跳过登录即可2、配置docker国内镜像仓库1、点击【设置】按钮进入Docker Desktop设置界面2、将下面配置加上Docker Engine配置json中将下面配置添加至Docker Engine配置registry-mirrors:[https://docker.hpcloud.cloud,https://docker.m.daocloud.io,https://docker.unsee.tech,https://docker.1panel.live,http://mirrors.ustc.edu.cn,https://docker.chenby.cn,http://mirror.azure.cn,https://dockerpu11.org,https://dockerhub.icu,https://hub.rat.dev,https://proxy.1panel.live,https://docker.1panel.top,https://docker.m.daocloud.io,https://docker.1ms.run,https://docker.ketches.cn]完整的配置信息为{builder:{gc:{defaultKeepStorage:20GB,enabled:true}},experimental:false,registry-mirrors:[https://docker.hpcloud.cloud,https://docker.m.daocloud.io,https://docker.unsee.tech,https://docker.1panel.live,http://mirrors.ustc.edu.cn,https://docker.chenby.cn,http://mirror.azure.cn,https://dockerpu11.org,https://dockerhub.icu,https://hub.rat.dev,https://proxy.1panel.live,https://docker.1panel.top,https://docker.m.daocloud.io,https://docker.1ms.run,https://docker.ketches.cn]}4、安装RAGFlow1、下载ragflow源码找一个存入ragflow源码的目录本文我是存放在D:\work\ollama\ragflow执行命令gitclone https://github.com/infiniflow/ragflow.git2、修改参数根据官方文档说明默认是v0.16.0-slim版该版本没有embedding模型所以我们需要改为v0.16.0进入环境配置文件ragflow\docker.env配置文件修改参数RAGFLOW_IMAGEinfiniflow/ragflow:v0.16.03、启动RAGFlow容器执行下面命令进行启动RAGFlow容器注意1、首次执行命令时会先从镜像源拉取Docker镜像2、如果失败则尝试修改Docker Engine中的镜像源地址进行多次尝试修改方法参见第二章-3、安装Docker Desktop - 2、配置docker国内镜像仓库cdragflow/dockerdockercompose-fdocker-compose.yml up-d1、第一次启动时会自动拉取线上镜像如下图所示2、如果已拉取成功执行上述命令会启动所有镜像如所图所示各镜像的状态是Running 或 Healthy 或 Started3、验证RagFlow服务d:\work\ollama\ragflow\ragflow\dockerdockerlogs-fragflow-server出现上图所示的效果一直滚动输出日志则说明ragflow服务启动成功4、访问RagFlow服务在浏览器中输入http://localhost 即可访问RagFlow Web服务5、注册账号/登录首次登录时需要先注册账号在登录画面点击【Sign up】链接进行注册账号注册成功后即可立即登录登录成功后如下图所示4、配置RAGFlow模型1、进入设置画面2、进入【模型供应商】管理画面3、添加【Ollama】模型此处模型类型采用【chat】类型名称与本地的模型名称一致即可访问地址中的ip采用本地可访问的真实IP此时模型配置完成5、构建知识库1、创建知识库2、添加文件3、启动解析4、创建聊天助理只配置名称和 我们自己创建的知识库其它默认配置即可创建好聊天助理后即可 【新建聊天】创建聊天会话如下图所示即可通过对话实现检索知识库了5、聊天注意 需要等知识库中的文档解析完成后再进行聊天至此所有的配置已全部完成
