Dify对接DeepSeek低成本对话系统实战指南

2026-06-13阅读 0热度 0
DeepSeek

直接给结论:在零公有云依赖、低成本且能完全掌控数据的前提下,Dify 对接本地 Ollama 部署 DeepSeek-r1:14b 是目前搭建多轮对话系统的最优解。执行链条很清晰:先装 Docker 和 Ollama,首次加载模型,再部署 Dify 容器,配置 Ollama 服务并设为默认模型,最后创建一个应用验证整条链路是否通畅。

如果你想用国产大模型快速上线一个能处理多轮对话、不依赖公有云 API、还能自主管控数据流向的对话系统,又不想花几万块买商业方案或折腾 GPU 服务器,那么 Dify 对接本地 DeepSeek 就是当前最务实的选择。

准备本地运行环境

首先确认机器上已经安装 Docker Desktop(Windows/macOS 用户)或 docker + docker-compose(Linux 用户),这是 Dify 容器化部署的前置条件,没有任何捷径。还没装的请前往 docker.com 下载并完成初始化,过程中务必启用 WSL2(Win11)或 Hyper-V(Win10),否则后续容器无法启动,到时候别抱怨没提前提醒。

接下来安装 Ollama。到 ollama.com 下载对应操作系统的安装包,装完后在终端执行 ollama -v 验证。如果能看到版本号,说明基础环境已经就绪,这一步没有暗坑。

然后执行 ollama run deepseek-r1:14b,它会自动下载并首次加载模型。这个模型在 32GB 内存 + 6GB 显存的设备上就能稳定运行推理。【千万别跳过首次运行这一步,否则 Dify 后续调用会直接返回 404】。下载耗时大约 8 到 15 分钟,取决于你的网络带宽。

部署并配置 Dify

克隆 Dify 官方仓库:git clone https://github.com/langgenius/dify.git,然后进入项目根目录,再切换到 Docker 配置目录:cd docker

复制环境模板:cp .env.example .env,用文本编辑器打开 .env 文件,在末尾追加三行:

CUSTOM_MODEL_ENABLED=true
OLLAMA_API_BASE_URL=host.docker.internal:11434
DEFAULT_MODEL_NAME=deepseek-r1:14b

这三行至关重要:第一行开启自定义模型开关;第二行让 Dify 容器内通过 host.docker.internal 访问本机 Ollama 服务(【注意,绝对不能写成 localhost 或 127.0.0.1,否则容器网络不通】);第三行指定默认调用模型,省得每次创建应用还要手动选择。

保存后执行 docker compose up -d 启动服务。等大约 90 秒,浏览器访问 http://127.0.0.1/install,完成初始管理员注册。

在 Dify 中挂载 DeepSeek 模型

登录后台 → 点击左下角「设置」→「模型供应商」→ 找到「Ollama」图标,点击「安装」。

装完后刷新页面,回到「模型供应商」→ 点击「Ollama」右侧的「配置」按钮 → 把「基础 URL」字段改为 http://host.docker.internal:11434(注意前缀有 http://)→ 点击「测试连接」,看到绿色的「Success」就说明通路正常了。

接着进入「模型管理」→ 点击「+ 添加模型」→ 模型名称填 deepseek-r1-14b-local,模型类型选「Ollama」,模型 ID 填 deepseek-r1:14b → 保存。

回到「模型管理」列表,找到刚添加的模型,点击右侧「设为默认」。这样一来,所有新建的应用都会自动使用本地 DeepSeek,无需再手动切换。

创建首个对话应用

点击顶部「创建应用」→ 选择「聊天助手」类型 → 应用名称填个「客服预演版」之类的 → 点击「创建」。

进入应用编辑页 → 左侧导航点击「模型配置」→ 确认「推理模型」已经自动选中了你刚才设为默认的 deepseek-r1-14b-local → 右上角「保存并发布」。

发布之后点击右上角「调试」图标 → 在对话框输入「你好,请帮我查一下订单状态」→ 回车。如果 3 秒内能返回一个合理的响应(无报错、无空白、无乱码),那恭喜你,Dify 和 DeepSeek 的端到端链路已经成功打通。

免责声明

本网站新闻资讯均来自公开渠道,力求准确但不保证绝对无误,内容观点仅代表作者本人,与本站无关。若涉及侵权,请联系我们处理。本站保留对声明的修改权,最终解释权归本站所有。

相关阅读

更多
欢迎回来 登录或注册后,可保存提示词和历史记录
登录后可同步收藏、历史记录和常用模板
注册即表示同意服务条款与隐私政策