Dify平台采用四层模块化架构,实现功能解耦与灵活扩展,具体如下:
1
应用交互层
提供基于Next.js/React的Web前端,支持可视化工作流编排、提示词编辑、数据集管理等功能。开发者可通过界面拖拽节点构建复杂逻辑链,如LLM调用、知识检索、函数调用等,降低了开发门槛,非技术人员也能参与AI应用搭建。
2
服务编排层
基于BaaS架构,核心为Flask API服务和Celery异步任务队列。集成工作流引擎,由ReactFlow实现节点流转,还包括RBAC权限控制模型与API网关。该层负责串联前后端,保障任务异步处理,如文档解析、模型推理等,同时进行权限管控,提升系统稳定性与可扩展性。
3
模型运算层
统一模型接口,支持20多家LLM供应商,如OpenAI、Claude、Llama等,通过标准化接口管理API密钥与回退策略。内置RAG引擎,支持多格式文档解析、分块优化、混合检索,即语义向量与BM25关键词检索,还可动态更新向量索引,平衡检索精度与效率,让AI应用能精准调用模型能力。
4
数据基础设施层
存储系统多元协同,PostgreSQL存储元数据,如用户、应用配置等;向量数据库,如Weaviate、Qdrant、Milvus等,存储文本嵌入;Redis用于缓存与任务队列。文件存储支持本地存储及云服务,如S3、Azure Blob等,为应用运行提供数据支撑。
配图由AI生成
扫码关注|清艾科技

