广告位 · header_banner

Dify 实战:在企业内部 30 分钟搭一个 AI 助手

为什么选 Dify

Dify 是 2026 年企业内部”30 分钟搭个 AI 助手”最省事的选择——它把 RAG、Agent、工作流编排、模型路由做成了一个可视化平台,门槛比 LangChain 低 90%,功能比纯 SaaS(Coze / GPTs)更可控。本篇带你在内部服务器上从零搭一个可用 demo。

环境准备

  • 一台 4 核 8GB 起的 Linux 服务器(内网或公网均可);
  • Docker 24+ 与 Docker Compose v2;
  • 至少一个可用的大模型 API(OpenAI / Anthropic / DeepSeek / Qwen 任一)。

第一步:拉官方 compose,启动

git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
docker compose up -d

约 2-3 分钟,访问 http://your-host/install 走一遍初始化,创建一个管理员账号。

第二步:接第一个模型供应商

进入 设置 → 模型供应商,填好 API Key。Dify 支持 OpenAI 兼容协议——意味着本地 vLLM、DeepSeek、Qwen 都能直接接:

  • OpenAI 类型:填 base_url + API Key;
  • 本地 vLLM:API key 随便填,base_url 指过去;
  • 国内云厂商(豆包 / 智谱 / 月之暗面):选对应供应商。

第三步:建立你的第一个知识库

  1. 顶部 知识库 → 创建知识库;
  2. 选 Embedding 模型(与 LLM 同一个供应商更简单);
  3. 上传文档——支持 PDF、Word、Markdown、网页链接;
  4. 设置分段策略:通用模式(推荐先用) / 父子分段 / 高级分段;
  5. 等待向量化完成(一份 100 页 PDF 通常 1-3 分钟)。

第四步:搭一个”内部知识问答”应用

工作室 → 创建空白应用 → 聊天助手,做几件事:

  • 挂上刚才的知识库(在”上下文”里添加);
  • 填好 system prompt:定义角色(”你是 X 公司内部知识助手”)、回答模板、引用规范;
  • 在”调试与预览”反复测,调 prompt 比调模型更有效
  • 满意后点”发布”。

第五步:嵌入到企业 IM / 客服系统

Dify 提供两种集成方式:

  • 嵌入式脚本:把一段 iframe / JS 塞进现有页面;
  • API 调用:用 POST /v1/chat-messages,自己写中间层;
  • Webhook / Slack / 飞书 / 企微机器人:第三方平台版块里有官方模板。

30 分钟 vs 30 天:Dify 的真实价值

从立项到上线一个”能用”的内部助手,Dify 路径大概 30 分钟到一个下午。LangChain 手写路径通常要 3-4 个工程师 2-4 周,且第二个月开始维护成本才显现。差距不是技术,是 Dify 把 RAG 的”长尾坑”(文档预处理 / 分段 / rerank / 引用标注)已经做成了开箱即用的 UI。

两个常踩的坑

  • Embedding 模型一旦定下来,历史向量化不能复用——切模型意味着重新建库。第一次就选好。
  • 知识库默认是公司内部账号可见——做客户面向应用时,确认好权限模型再发布。

Dify 不是”完美企业 AI 平台”,但它是 2026 年中小企业落地 LLM 应用 ROI 最高的入口之一。先用 Dify 跑通流程,下一步再考虑定制。

广告位 · footer_banner
广告位 · sidebar_rect