
为什么选 Dify
Dify 是 2026 年企业内部”30 分钟搭个 AI 助手”最省事的选择——它把 RAG、Agent、工作流编排、模型路由做成了一个可视化平台,门槛比 LangChain 低 90%,功能比纯 SaaS(Coze / GPTs)更可控。本篇带你在内部服务器上从零搭一个可用 demo。
环境准备
- 一台 4 核 8GB 起的 Linux 服务器(内网或公网均可);
- Docker 24+ 与 Docker Compose v2;
- 至少一个可用的大模型 API(OpenAI / Anthropic / DeepSeek / Qwen 任一)。
第一步:拉官方 compose,启动
git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
docker compose up -d
约 2-3 分钟,访问 http://your-host/install 走一遍初始化,创建一个管理员账号。
第二步:接第一个模型供应商
进入 设置 → 模型供应商,填好 API Key。Dify 支持 OpenAI 兼容协议——意味着本地 vLLM、DeepSeek、Qwen 都能直接接:
- OpenAI 类型:填
base_url+ API Key; - 本地 vLLM:API key 随便填,base_url 指过去;
- 国内云厂商(豆包 / 智谱 / 月之暗面):选对应供应商。
第三步:建立你的第一个知识库
- 顶部 知识库 → 创建知识库;
- 选 Embedding 模型(与 LLM 同一个供应商更简单);
- 上传文档——支持 PDF、Word、Markdown、网页链接;
- 设置分段策略:通用模式(推荐先用) / 父子分段 / 高级分段;
- 等待向量化完成(一份 100 页 PDF 通常 1-3 分钟)。
第四步:搭一个”内部知识问答”应用
在 工作室 → 创建空白应用 → 聊天助手,做几件事:
- 挂上刚才的知识库(在”上下文”里添加);
- 填好 system prompt:定义角色(”你是 X 公司内部知识助手”)、回答模板、引用规范;
- 在”调试与预览”反复测,调 prompt 比调模型更有效。
- 满意后点”发布”。
第五步:嵌入到企业 IM / 客服系统
Dify 提供两种集成方式:
- 嵌入式脚本:把一段 iframe / JS 塞进现有页面;
- API 调用:用
POST /v1/chat-messages,自己写中间层; - Webhook / Slack / 飞书 / 企微机器人:第三方平台版块里有官方模板。
30 分钟 vs 30 天:Dify 的真实价值
从立项到上线一个”能用”的内部助手,Dify 路径大概 30 分钟到一个下午。LangChain 手写路径通常要 3-4 个工程师 2-4 周,且第二个月开始维护成本才显现。差距不是技术,是 Dify 把 RAG 的”长尾坑”(文档预处理 / 分段 / rerank / 引用标注)已经做成了开箱即用的 UI。
两个常踩的坑
- Embedding 模型一旦定下来,历史向量化不能复用——切模型意味着重新建库。第一次就选好。
- 知识库默认是公司内部账号可见——做客户面向应用时,确认好权限模型再发布。
Dify 不是”完美企业 AI 平台”,但它是 2026 年中小企业落地 LLM 应用 ROI 最高的入口之一。先用 Dify 跑通流程,下一步再考虑定制。



