CentOS 7 离线部署Ollama+Dify+DeepSeek全流程指南

最新推荐文章于 2026-07-08 12:57:50 发布

原创

最新推荐文章于 2026-07-08 12:57:50 发布 · 1k 阅读

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏，讲透 AI 如何接管脏活累活

一键订阅

1. 为什么要在内网折腾AI全家桶？

最近几年，AI大模型火得一塌糊涂，从写代码到写周报，从翻译文档到头脑风暴，它几乎成了我们技术人的“瑞士军刀”。但很多朋友，尤其是企业里的开发、运维同学，都面临一个头疼的问题：公司的生产环境、测试环境，甚至是核心研发网，都是严格的内网、离线环境。外网？不存在的。云服务API？想都别想。在这种“与世隔绝”的环境里，想用上最新的AI能力，感觉比登天还难。

我就在这样的环境里摸爬滚打了很久，从最初的束手无策，到后来成功把Ollama、Dify和DeepSeek这一整套AI工具链完整地搬进了CentOS 7的内网服务器。整个过程踩了不少坑，也总结出了一套非常接地气的离线部署方法论。今天，我就把自己这套“土法炼钢”的实战经验，毫无保留地分享给你。无论你是要给团队搭建一个内部的AI助手平台，还是想在内网安全地研究大模型，这篇指南都能让你少走至少80%的弯路。

简单来说，我们要做的就是在一台完全不能访问互联网的CentOS 7服务器上，搭建一个私有的、功能完整的AI应用平台。Ollama 相当于我们的“本地模型仓库”，负责管理和运行大模型；DeepSeek 是目前综合能力很强的一个开源模型系列，我们将把它作为核心的“大脑”；而 Dify 则是一个可视化的AI应用开发平台，让你不用写复杂的代码，就能通过拖拽搭建出基于这个“大脑”的各类智能应用，比如智能客服、内容生成、数据分析助手等等。

这套组合拳打下来，你就能在内网拥有一个堪比许多云端AI服务的私有化能力，而且数据完全可控，再也不必担心敏感信息外泄。下面，我们就从零开始，一步步拆解这个看似复杂的过程。

2. 战前准备：搞定所有离线安装包

在离线环境干活，最核心、也最头疼的第一步就是：把所有需要的东西，提前在有网的环境下“搬”进去。这就像你要去一个荒岛生存，得把工具、食物、水源都备齐了。我们的“生存物资”主要分三大类：Ollama本体、Docker环境、以及最关键的模型文件。

2.1 获取Ollama离线安装包

Ollama的官方团队很贴心，直接提供了编译好的Linux可执行文件包，这为我们离线安装扫清了最大的障碍。

找对下载地址：你需要在一台能上网的机器上（比如你自己的笔记本电脑），打开浏览器，访问 Ollama 在 GitHub 的发布页面。这个页面地址是固定的，你直接搜索“ollama releases github”就能找到。进去之后，你会看到一堆版本号，我们选择最新的稳定版就行，比如我写这篇文章时，v0.5.7 就是个不错的选择。
选对系统架构：这里有个关键点，你得看清楚你的CentOS 7服务器是amd64（也就是常见的64位Intel/AMD CPU）还是arm64架构。绝大多数机房服务器都是amd64。找到对应架构的.tgz压缩包，它的名字通常类似 ollama-linux-amd64.tgz。
下载命令：在能上网的机器上打开终端，用wget命令把它拽下来。例如：
```
wget https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux-amd64.tgz
```
下载完成后，你会得到一个大概80MB左右的tgz文件，这个就是Ollama的“绿色版”全部家当了。

2.2 搬运Docker与Docker Compose

Dify依赖于Docker容器环境，所以我们必须把Docker也离线装好。Docker官方也提供了静态二进制包，非常适合离线部署。

下载Docker二进制包：同样在有网环境，访问Docker官方的GitHub发布页，搜索“docker binary release”。你需要找到对应Linux x86_64架构的.tgz包，比如 docker-27.5.1.tgz。这个包包含了dockerd守护进程和docker客户端的所有二进制文件。
下载Docker Compose：Docker Compose是一个独立的二进制文件。去它的GitHub发布页，下载对应Linux的版本，文件名叫 docker-compose-linux-x86_64。注意，这个文件没有扩展名，下载后直接就是一个可执行文件。
准备Dify的Docker镜像（关键步骤）：这是离线部署Dify最核心也最繁琐的一步。Dify本身通过docker-compose.yml文件定义了一组服务（API、前端、数据库、Redis等），每个服务都需要对应的Docker镜像。在有网环境下，你需要做以下操作：
- 找一台能上网的、安装了Docker的Linux机器（可以是你的笔记本开个虚拟机）。
- 克隆Dify的代码仓库：git clone https://github.com/langgenius/dify.git。
- 进入dify/docker目录，这里有docker-compose.yml文件。
- 执行 docker-compose pull。这个命令会读取docker-compose.yml，把里面定义的所有服务的镜像（比如