大数跨境
0
0

大语言模型 和 编排 的企业智能体开发平台开源

大语言模型 和 编排 的企业智能体开发平台开源 章鱼出海
2025-10-23
1

开源!大语言模型 和 编排 的企业智能体开发平台
采用 Springboot3 + PgSQL + Vue3 开发的,采用大语言模型 和 编排 的企业智能体开发平台。开箱即用、模型任选、灵活编排,支持快速嵌入到第三方业务系统。
一个基于 Spring Boot 3 + PostgreSQL + Vue 3 开发的企业级智能体开发平台,专注于通过 大语言模型(LLM) 和 编排技术 构建可嵌入业务系统的 AI 解决方案

源代码https://www.gitpp.com/websalt/project-sparkx


一个基于 Spring Boot 3 + PostgreSQL + Vue 3 开发的企业智能体开发平台的技术方案和功能设计,结合大语言模型(LLM)和编排能力,提供开箱即用的企业级 AI 解决方案:


一、平台核心定位

  1. 目标用户
    • 企业开发者:快速构建 AI 智能体,嵌入现有业务系统(如 CRM、ERP、客服系统)。
    • AI 工程师:通过编排能力实现复杂多 Agent 协作场景。
    • 非技术用户:通过低代码界面配置 AI 流程。
  2. 核心价值
    • 模型中立:支持主流 LLM(如 Qwen、GPT、Llama)及企业自建模型。
    • 灵活编排:可视化拖拽式流程引擎,支持条件分支、循环、并行任务。
    • 无缝集成:提供单页面/弹层嵌入模式,兼容现有系统 UI 风格。
    • 企业级安全:数据隔离、权限控制、审计日志。

二、技术架构

1. 后端架构(Spring Boot 3)

  • 核心模块
    • 模型管理:支持多模型接入(API 调用/本地部署),动态切换。
    • 编排引擎:基于 BPMN 2.0 扩展的流程设计器,支持 Agent 任务节点、逻辑判断。
    • 上下文管理:会话状态持久化,支持多轮对话记忆。
    • 集成接口:RESTful API + WebSocket 实时通信,适配第三方系统。
  • 关键技术
    • 异步处理:使用 Spring WebFlux 或 Reactor 实现高并发模型调用。
    • 数据存储:PostgreSQL 存储流程定义、模型配置、会话历史。
    • 安全机制:OAuth 2.0 + JWT 鉴权,敏感数据加密。

2. 前端架构(Vue 3 + TypeScript)

  • 核心功能
    • 可视化编排:拖拽式流程设计器(基于 AntV X6 或 LogicFlow)。
    • 模型配置:动态表单生成,支持参数调优(温度、Top-P 等)。
    • 实时调试:流程执行日志、变量监控、断点调试。
    • 嵌入组件:生成 iframe/弹层代码,适配不同业务系统。
  • UI 组件库
    • 使用 Ant Design Vue 或 Element Plus 快速构建企业级界面。
    • 支持暗黑模式、多语言切换。

3. 数据库设计(PostgreSQL)

  • 核心表结构
    • agent_flow:存储流程定义(JSON 格式 BPMN)。
    • llm_model:模型配置(API 端点、认证信息、参数模板)。
    • session_context:会话上下文(用户 ID、历史消息、变量)。
    • integration_log:第三方系统调用日志。
  • 优化策略
    • 分表存储历史会话数据。
    • 使用 JSONB 类型存储动态流程配置。

三、核心功能实现

1. 模型中立设计

  • 抽象层:定义统一 LLMService 接口,实现不同模型的适配器(如 OpenAIAdapter、QwenAdapter)。
  • 动态路由:根据流程配置自动选择模型,支持权重分配(如 70% Qwen + 30% GPT)。

  
java
public interface LLMService {
String invoke(String prompt, Map<String, Object> params);
}
@Service
public class OpenAIAdapter implements LLMService {
@Override
public String invoke(String prompt, Map<String, Object> params) {
// 调用 OpenAI API
}
}

2. 可视化编排引擎

  • 流程设计器
    • 节点类型:LLM 调用、条件判断、数据转换、HTTP 请求。
    • 连线规则:定义数据流依赖关系。
  • 执行引擎
    • 基于状态机解析流程,支持异步任务队列(如 RabbitMQ)。

  
javascript
// 前端流程定义示例(JSON)
{
"nodes": [
{
"id": "node1",
"type": "llm",
"model": "qwen-7b",
"prompt": "根据用户输入生成回复"
},
{
"id": "node2",
"type": "condition",
"expression": "response.sentiment > 0.5"
}
],
"edges": [
{ "source": "node1", "target": "node2" }
]
}

3. 无缝集成方案

  • 嵌入模式
    • 单页面嵌入:生成独立 URL,通过 iframe 加载。
    • 弹层组件:提供 Vue/React 组件库,直接调用平台 API。
  • 样式适配:支持 CSS 变量覆盖,匹配业务系统主题。

四、部署与扩展

  1. 容器化部署
    • Docker Compose 快速启动(PostgreSQL + 后端 + 前端)。
    • Kubernetes 集群支持高可用。
  2. 扩展性设计
    • 插件机制:支持自定义节点类型(如调用企业内部 API)。
    • 多租户:按企业隔离数据,支持 SaaS 模式。
  3. 监控与运维
    • Prometheus + Grafana 监控模型调用耗时、成功率。
    • ELK 日志分析系统。

五、开源计划

  1. 代码结构
    • 后端:spring-boot-agent-platform(MIT 协议)。
    • 前端:vue3-agent-designer(Vue 3 + Vite)。
    • 示例流程:agent-flow-examples(包含客服、数据分析等场景)。
  2. 贡献指南
    • 支持提交新模型适配器、节点类型。
    • 提供中文文档和视频教程。

六、竞品对比

功能 本平台 LangChain Dify
模型中立 ✅ 支持多模型
可视化编排 ✅ 拖拽式设计 ✅ 基础流程
企业级集成 ✅ 无缝嵌入 ✅ 部分支持
开源协议 MIT MIT AGPL

通过此方案,企业可快速构建符合自身业务需求的 AI 智能体,同时避免被单一模型或技术栈锁定。后续可扩展多模态能力(如语音、图像)或加入 RLHF 微调模块。

源代码https://www.gitpp.com/websalt/project-sparkx

开箱即用:降低企业 AI 应用开发门槛,支持快速部署。模型中立:兼容主流大模型及自建模型,避免技术绑定。灵活编排:通过可视化流程引擎实现多 Agent 协同,适配复杂业务场景。无缝集成:支持单页面/弹层嵌入,无需修改现有系统即可接入 AI 能力。


【声明】内容源于网络
0
0
章鱼出海
跨境分享坊 | 每天提供跨境参考
内容 47037
粉丝 3
章鱼出海 跨境分享坊 | 每天提供跨境参考
总阅读293.6k
粉丝3
内容47.0k