开源!大语言模型 和 编排 的企业智能体开发平台
采用 Springboot3 + PgSQL + Vue3 开发的,采用大语言模型 和 编排 的企业智能体开发平台。开箱即用、模型任选、灵活编排,支持快速嵌入到第三方业务系统。
一个基于 Spring Boot 3 + PostgreSQL + Vue 3 开发的企业级智能体开发平台,专注于通过 大语言模型(LLM) 和 编排技术 构建可嵌入业务系统的 AI 解决方案
源代码https://www.gitpp.com/websalt/project-sparkx
一个基于 Spring Boot 3 + PostgreSQL + Vue 3 开发的企业智能体开发平台的技术方案和功能设计,结合大语言模型(LLM)和编排能力,提供开箱即用的企业级 AI 解决方案:
一、平台核心定位
- 目标用户
- 企业开发者:快速构建 AI 智能体,嵌入现有业务系统(如 CRM、ERP、客服系统)。
- AI 工程师:通过编排能力实现复杂多 Agent 协作场景。
- 非技术用户:通过低代码界面配置 AI 流程。
- 核心价值
- 模型中立:支持主流 LLM(如 Qwen、GPT、Llama)及企业自建模型。
- 灵活编排:可视化拖拽式流程引擎,支持条件分支、循环、并行任务。
- 无缝集成:提供单页面/弹层嵌入模式,兼容现有系统 UI 风格。
- 企业级安全:数据隔离、权限控制、审计日志。
-
二、技术架构
1. 后端架构(Spring Boot 3)
- 核心模块
- 模型管理:支持多模型接入(API 调用/本地部署),动态切换。
- 编排引擎:基于 BPMN 2.0 扩展的流程设计器,支持 Agent 任务节点、逻辑判断。
- 上下文管理:会话状态持久化,支持多轮对话记忆。
- 集成接口:RESTful API + WebSocket 实时通信,适配第三方系统。
- 关键技术
- 异步处理:使用 Spring WebFlux 或 Reactor 实现高并发模型调用。
- 数据存储:PostgreSQL 存储流程定义、模型配置、会话历史。
- 安全机制:OAuth 2.0 + JWT 鉴权,敏感数据加密。
2. 前端架构(Vue 3 + TypeScript)
- 核心功能
- 可视化编排:拖拽式流程设计器(基于 AntV X6 或 LogicFlow)。
- 模型配置:动态表单生成,支持参数调优(温度、Top-P 等)。
- 实时调试:流程执行日志、变量监控、断点调试。
- 嵌入组件:生成 iframe/弹层代码,适配不同业务系统。
- UI 组件库
- 使用 Ant Design Vue 或 Element Plus 快速构建企业级界面。
- 支持暗黑模式、多语言切换。
3. 数据库设计(PostgreSQL)
- 核心表结构
agent_flow:存储流程定义(JSON 格式 BPMN)。llm_model:模型配置(API 端点、认证信息、参数模板)。session_context:会话上下文(用户 ID、历史消息、变量)。integration_log:第三方系统调用日志。
- 优化策略
- 分表存储历史会话数据。
- 使用 JSONB 类型存储动态流程配置。
-
-
三、核心功能实现
1. 模型中立设计
- 抽象层:定义统一
LLMService接口,实现不同模型的适配器(如 OpenAIAdapter、QwenAdapter)。 - 动态路由:根据流程配置自动选择模型,支持权重分配(如 70% Qwen + 30% GPT)。
java
public interface LLMService {
String invoke(String prompt, Map<String, Object> params);
}
@Service
public class OpenAIAdapter implements LLMService {
@Override
public String invoke(String prompt, Map<String, Object> params) {
// 调用 OpenAI API
}
}
2. 可视化编排引擎
- 流程设计器:
- 节点类型:LLM 调用、条件判断、数据转换、HTTP 请求。
- 连线规则:定义数据流依赖关系。
- 执行引擎:
- 基于状态机解析流程,支持异步任务队列(如 RabbitMQ)。
javascript
// 前端流程定义示例(JSON)
{
"nodes": [
{
"id": "node1",
"type": "llm",
"model": "qwen-7b",
"prompt": "根据用户输入生成回复"
},
{
"id": "node2",
"type": "condition",
"expression": "response.sentiment > 0.5"
}
],
"edges": [
{ "source": "node1", "target": "node2" }
]
}
3. 无缝集成方案
- 嵌入模式:
- 单页面嵌入:生成独立 URL,通过 iframe 加载。
- 弹层组件:提供 Vue/React 组件库,直接调用平台 API。
- 样式适配:支持 CSS 变量覆盖,匹配业务系统主题。
四、部署与扩展
- 容器化部署
- Docker Compose 快速启动(PostgreSQL + 后端 + 前端)。
- Kubernetes 集群支持高可用。
- 扩展性设计
- 插件机制:支持自定义节点类型(如调用企业内部 API)。
- 多租户:按企业隔离数据,支持 SaaS 模式。
- 监控与运维
- Prometheus + Grafana 监控模型调用耗时、成功率。
- ELK 日志分析系统。
五、开源计划
- 代码结构
- 后端:
spring-boot-agent-platform(MIT 协议)。 - 前端:
vue3-agent-designer(Vue 3 + Vite)。 - 示例流程:
agent-flow-examples(包含客服、数据分析等场景)。
- 后端:
- 贡献指南
- 支持提交新模型适配器、节点类型。
- 提供中文文档和视频教程。
六、竞品对比
| 功能 | 本平台 | LangChain | Dify |
|---|---|---|---|
| 模型中立 | ✅ 支持多模型 | ✅ | ✅ |
| 可视化编排 | ✅ 拖拽式设计 | ❌ | ✅ 基础流程 |
| 企业级集成 | ✅ 无缝嵌入 | ❌ | ✅ 部分支持 |
| 开源协议 | MIT | MIT | AGPL |
通过此方案,企业可快速构建符合自身业务需求的 AI 智能体,同时避免被单一模型或技术栈锁定。后续可扩展多模态能力(如语音、图像)或加入 RLHF 微调模块。
源代码https://www.gitpp.com/websalt/project-sparkx
开箱即用:降低企业 AI 应用开发门槛,支持快速部署。模型中立:兼容主流大模型及自建模型,避免技术绑定。灵活编排:通过可视化流程引擎实现多 Agent 协同,适配复杂业务场景。无缝集成:支持单页面/弹层嵌入,无需修改现有系统即可接入 AI 能力。

