Ubuntu 22.04 环境下安装 Deepseek、Ollama 和 Dify

基础环境

• 系统: Ubuntu 22.04
• 环境: 阿里云 (Alicloud)
• 显卡: NVIDIA T4
• CPU: 8 核 (8C)
• 内存: 32GB
• CUDA 版本: cuda_12.4.r12.4
• 镜像: ubuntu22.04with CUDA (可在公共镜像库搜索)

---

1. 安装 Docker

卸载旧版本

sudo apt-get remove docker docker-engine docker.io containerd runc

更新软件包

sudo apt-get update
sudo apt-get upgrade

安装 Docker 依赖

sudo apt-get install ca-certificates curl gnupg lsb-release

添加 Docker GPG 密钥

curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -

添加阿里云 Docker 安装源

sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"

安装 Docker

sudo apt-get install docker-ce docker-ce-cli containerd.io

更新 Docker Hub 镜像源

echo '{"registry-mirrors": ["https://docker.1ms.run"]}' | sudo tee /etc/docker/daemon.json > /dev/null

重载和重启 Docker 服务

systemctl daemon-reload
systemctl restart docker

---

2. 安装 Ollama

自动安装 Ollama

curl -fsSL https://ollama.com/install.sh | sh

修改 systemd 配置文件

sudo vim /etc/systemd/system/ollama.service

添加监听配置

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/cuda/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"

[Install]
WantedBy=default.target

重载和重启 Ollama 服务

systemctl daemon-reload
systemctl restart ollama.service

确认 Ollama 运行状态

curl http://0.0.0.0:11434

如果返回 Ollama is running，则安装成功。

下载 DeepSeek 7B 模型

ollama run deepseek-r1:7b

执行成功后进入对话页面，即安装完成。
经测试，14B模型也可以正常运行
但是支持的并发请求会下降，显存占用量会提高30%

3. 安装 Dify

克隆 Dify 仓库

git clone https://github.com/langgenius/dify.git
cd dify/docker

复制 .env 配置文件

cp .env.example .env

启动 Dify

docker compose up -d

访问 Dify

• 访问 http://your_server_ip (默认 80 端口)
• 设置管理员账户并登录

---

4. 配置 Dify 连接 Ollama

在 Dify 中添加 Ollama 模型

1. 点击右上角头像 → 设置 → 模型供应商
2. 选择 Ollama，点击“添加模型”
3. 填写配置信息
   • Model Name: deepseek-r1:7b
   • Base URL: http://your_ollama_server_ip:11434
   • 其他选项: 默认或按需修改
4. 创建工作室应用，选择 Ollama 模型即可使用
   

---

参考文档

• CSDN 博客
• 知乎专栏
• Dify GitHub Issue

---

这个排版结构清晰，方便复制执行，有需要调整的地方可以告诉我！ 😊