Java 21 + Spring Boot 2.5 + Milvus + Ollama，24 个 Java 文件，完整开源可商用
想象一下：凌晨 2 点，你的企业微信收到一条产品咨询。系统自动识别，从知识库中精准检索相关信息，交给大模型组织成流畅自然的回答——整个过程全自动，无需人工介入。
这不是未来，这是我们已经打包好的一套完整源码，你拿到手就能跑。
它不是「套壳 ChatGPT」
很多人以为 AI 客服就是接个 ChatGPT API。但通用大模型不知道你的产品参数、不知道你的定价策略、不知道你的售后政策——它只能「编」。
这套系统用的是 RAG（检索增强生成） 架构，核心逻辑是：先在你的知识库里检索最相关的文档片段，再交给大模型基于这些真实内容组织回答。答案有出处、有溯源、不说胡话。
真实项目结构，五脏俱全
这不是一个 Demo，是经过生产环境验证的全功能系统。24 个 Java 文件，按 5 层包结构组织：
com.jiuding.rag ├── config/（4 个配置类：LLM、RAG、Web、企业微信） ├── controller/（3 个控制器：智能问答、知识库、企微回调） ├── service/（8 个服务：对话核心、向量检索、文档加载、Ollama 调用、企微消息、加解密、消息去重、语音识别） └── model/（8 个数据模型：请求、响应、分块、检索结果等）
每层做了什么事，清清楚楚。
核心能力一览
① 知识库管理与自动回答
丢进 PDF、Word、Excel、TXT、Markdown 任意文档，自动分块（每块 500 字）+ 向量化。用户提问 → Milvus 向量库语义检索（Top 5，余弦相似度）→ Ollama qwen2.5 大模型生成回答。回答附带引用来源，可追溯到原始文档。
② 四种回答模式，按场景切换
RAG 模式：检索知识库 → 大模型组织，用于标准客服问答 LLM-Only 模式：直接大模型对话，用于闲聊 Docs-Only 模式：纯知识库检索，不看 LLM 直接出文档 Fallback 降级模式：LLM 不可用时兜底，保证不冷场
③ 企业微信深度对接
完整企微回调接口：URL 验证 + 消息接收 + AES-256-CBC 加解密。自动拉取客服消息、过滤有效消息、异步回复。用户输入「人工」自动转接待人员。超长回复超过 2000 字自动分段发送。MySQL 消息去重机制，防止重复处理。
④ 离线语音识别，数据不出服务器
不做云 API，用的是 sherpa-onnx + SenseVoice 离线引擎。支持中文、英文、日语、韩语、粤语 5 种语言。流程：接收 AMR 语音 → 转码 PCM WAV → 本地识别 → 文本问答，全程数据不出内网。
⑤ 可视化管理后台
浏览器打开 /admin/ 就能管理知识库：上传文档、查看索引状态、一键重建、清空知识库。不需要命令行，产品经理也能操作。
技术栈全貌
● 后端框架：Spring Boot 2.5.15
● 运行时：Java 21（LTS 长期支持）
● ORM：MyBatis-Plus + JdbcTemplate 双模式
● 向量数据库：Milvus Standalone 2.4.17（Docker Compose 编排，etcd + MinIO + Milvus 三容器）
● 大模型：Ollama + qwen2.5（7B 轻量 / 14B 高性能可选）
● Embedding 模型：qwen3-embedding 8B
● 语音识别：sherpa-onnx + SenseVoice 1.13.4
● PDF 解析：Apache PDFBox 2.0.29
● Word / Excel 解析：Apache POI 5.2.3
● HTTP 客户端：OkHttp 4.12.0
● 音视频转码：JAVE2（内嵌 ffmpeg）3.5.0
● 消息去重：MySQL 8.0，定时清理 30 天前记录
● 网络穿透：FRP（内网→公网，接收企微回调）
部署有多简单？
第一步：Docker Compose 一键启动 Milvus（etcd + MinIO + Milvus 三容器）
第二步：拉取大模型
ollama pull qwen2.5:14b ollama pull qwen3-embedding:8b第三步：编译运行
mvn clean package -DskipTests java -jar target/ai-customer-service-rag-1.0.0.jar第四步：初始化知识库
curl -X POST http://localhost:8000/api/knowledge/rebuild四步，从零到能问答。附赠部署手册 DEPLOY.md 共 9 章，覆盖环境准备、中间件部署、配置启动、排障指南全流程。
为什么买源码而不是用 SaaS？
数据安全： 全部跑在自己的服务器上，一张纸都不外流。SaaS 平台需要你把文档上传到第三方。
费用： 一次性买断，永久使用。SaaS 按月收费，用得越多越贵，一年下来几万块很正常。
无调用限制： 想跑多少条对话就跑多少条，取决于你的机器性能。SaaS 按 API 调用量计费，咨询量大就是无底洞。
可定制： 源码在手，想怎么改怎么改，跟自己的业务系统深度集成。SaaS 只能用平台提供的固定功能。
学习价值： 完整的企业级 Spring Boot + AI 项目，是学习 AI 落地的最佳实战参考，学到就是赚到。
适合谁？
● 想给官网或公众号加 AI 客服的开发团队 ● 需要私有化部署的政府、医院、学校 ● 做 SaaS 产品想内置 AI 助手能力的平台方 ● 外包公司拿来快速交付客户项目 ● Java 开发者想学习 Spring Boot + AI 最佳实践
购买即得
● 24 个 Java 源文件，完整包结构，注释清晰 ● 部署手册 DEPLOY.md（9 章全覆盖） ● Docker Compose 编排文件，Milvus 一键启动 ● 管理后台页面（/admin/ 直接访问） ● 脱敏标注清单（快速去除敏感信息即可上生产） ● pom.xml 依赖全配好，Java 21 + Maven 3.8 直接编译
📌 如需部署运行、二次开发等服务，请在公众号->个人中心->联系客服->输入「人工」联系客服
👇 点击下方，立即购买/下载
玖鼎软件科技 · 广州 · 让 AI 落地的每一行代码都有据可查