导 读
未来已来，在智能时代的风口浪尖上，能否快速接入和运用AI能力成为企业发展的分水岭。网络上传播的各种开源工具大多仅适用于个人，即便有个别开源的企业级平台，要么功能厚重上手困难，要么功能不足需要辅助开发。
通过支持多重主流大模型与RAG技术以及AI agent的深度融合，我们构建了通用型AI应用管理平台，为中小微企业接入AI能力提供一站式服务。
01
时代背景
岁末年初，deepseek引爆大模型生态圈，各种喂饭级教程铺天盖地，各种大模型工具层出不重，大模型厂商厮杀的昏天暗地。各行各业纷纷拥抱大模型，连从事化妆行业的朋友，也关注起了大模型，人人都想在AI的浪潮下分一杯羹。B站上，抖音上涌现出N多卖AI课的培训机构和个人，大家都忙的不亦乐乎。
潮水退去，才知道谁在裸泳。
大众对于AI的追随，从狂热趋于理性。被割韭菜的，不仅有个人，也有企业。
虽然一体机打包收费，但是大家从网上下载到的很多大模型使用工具，如Cherry Studio、AnythingLLM、MaxKB、RAGFlow、FastGPT、Dify 、Open WebUI等都是免费的。开发者们八仙过海各显神通，提供了非常丰富的功能，但是各类配置错综复杂，令人眼花缭乱。
事实上，大模型多模态能力包括聊天、文生图、图生文、文生视频等，其中最常用的客服、知识库功能也是通过聊天的形式对外展示。网上传播的各类工具或平台都是以多模态能力为基础，解决最后一公里的问题。对于个人用户来说，可以满足研究学习和体验的目的，但是在企业应用场景下，几乎很难完全满足要求。
02
企业AI需求分析
应用范式
用户侧与管理侧门户分离
有普通用户专用的UI和管理员专用的UI，管理员负责配置、管理和维护，普通用户只负责使用。单就这一点，网上很多工具都不具备，相反，为了部署或营销方便，用户侧和管理侧UI混装在一起，使用体验很差。
用户角色和权限管理
一个企业里面不可能只有一个用户，多个用户如何共享资源，如知识库，谁来维护，权限如何分配？
安全管理
如果使用线上的大模型API， 密钥怎么保存？比如用网上比较流行的AnytingLLM, Cherry Studio，诸如此类， 需要每个人在本地都配置一次密钥。每个人都知道密钥，这成何体统？特别是以公司的名义申请的账号，成为公开的秘密，老板能不能接受？如果让每个员工自己申请Key，又涉及费用的问题，这种运作方式未免过于山寨。
即便本地部署deepseek, Qwen等模型，不需要使用密钥，但是敏感词过滤也是要面临的问题。
易用性
其一，很多工具都是CS架构的，需要每个用户本地安装，版本升级、配置，你确定每个用户都能整明白吗？
其二，很多开源工具，功能实在繁琐，需要配置的地方太多，对于没有专业背景或者动手能力不强的用户，一时半会也用不起来。
核心功能
综合当前网上流行的各类模型，其AI能力主要体现在如下几个方面，一般中小微企业能用到前三种能力就属于深度应用了。
1、Chat模式
通用问答，智能客服
2、RAG知识库
解决碎片化问题，提升效率和创新能力，提高安全性
3、多模态能力
文生图、图生文、文生视频等
4、工作流
根据业务场景对各种应用接口进行编排，由大模型触发回调
5、软件编码
自动生成软件代码，提高开发效率
03
业界解决方案
针对以上诉求，网上可以获取到的企业级解决方案，主要有以下几种：
智能一体机
硬件+ 软件打包出售， 这是一个很好的创意，也有一定的市场，因为很多人不懂，所以愿意买单。有一位老兄，给出了非常客观的评价：
伪开源解决方案
有的公司通过多个账号、多个渠道推广开源的企业级解决方案，在Gitpp上面挂出来源码，留下二维码。
当你联系客服的时候，最终还是要买单，天下没有免费的午餐！
知名开源解决方案
这类方案是真的开源，比如Dify，Ragflow，功能都很强大，但是在企业落地的话，多少差点意思，比如用户管理、角色与权限控制、多租户、敏感词过滤、限流等，几乎绝大多数开源工具都没有提供，只能由软件团队做一些辅助开发。另一方面，对于一些中小微企业来说，大模型应用相关的功能又显得比较厚重，没有那么复杂的业务场景，也不需要那么丰富的功能。
不知名开源解决方案
场景细分类，传播面还没有那么广，还有很大提升空间。
无论是一体机还是开源解决方案，都存在一定的局限性。那么如何才能真正贴近用户，满足企业用户的需求？答案是自行定制开发。
现实总是那么残酷，很多中小微企业是没有软件研发团队的，特别是传统行业。如果采购的话，需要几十W的费用，毫不夸张。这对于一个中小企业，特别是小微企业，也是一笔不小的费用，在使用前景不明朗的情况下，很多老板不愿意买单。
04
千企解决方案
为了满足这部分客户的需求，我们开发了企业级大模型应用平台，为中小微企业提供一站式大模型服务接入能力。
平台服务对象
中小微企业，有如下特点：
1、没有软件研发团队
2、有大量的历史数据、各种文档
3、对数据安全有要求
4、想借助AI为业务赋能，如智能客服
5、预算有限
RAG逻辑架构
大模型技术
主流顶配：DeepSeek-R1 / Qwen 3 + Milvus
硬件配置要求
1、最小化安装(试用版)：
4C16G * 2
2、正式生产安装（基础版）
2C4G *1
4C16G*2
4C8G*1
3、正式生产安装（高级集群版）
2C4G * 4
4C8G*7
4C16G * 2
05
效果展示
以普通用户身份向大模型提问，大模型回答不知道
以管理员身份通过大模型后台管理系统，提交相关文件
回到用户端页面，以普通用户身份再次向大模型提问相同的问题
大模型根据本地向量数据回答，与原始文件对比，回答结果完全正确，未出现任何幻觉。
06
福利发放
个人版
喂饭级部署教程，全网最傻瓜化操作指南，不管有没有专业背景，参考这个文档，保证都能部署起来，爽的飞起，加好友，即可免费领取。
企业版
在大众创新，万民逐利的时代，在赚快钱和割韭菜之间，我们选择埋头做事。我们致力于为中小微企业提供AI平台接入能力，而不求回报，我们的目标是诗和远方。
欢迎感兴趣的朋友扫码咨询或评论区留言，只要你有需要，一切都不是问题。
微信号 kemodel
参考资料
END
星舰科技