在大模型能力日益强大的背景下,为何仍需小模型?本文将解析“大小模型协同分析”这一智能新范式,揭示其如何实现1+1>2的效果。
什么是大小模型协同分析?
✔ 核心机制:优势互补,双重校验
该方案通过将小模型的快速分析结果提交给大模型进行二次复核,充分发挥两者优势。小模型负责初步筛选,大模型负责精准研判。
▲大小模型协同分析作用机制
解决的核心痛点
单一小模型分析:虽然速度快,但误报率较高。
单一一大模型分析:算力需求高、资源消耗大,难以满足业务实时性要求。
✔ 协同优势:兼顾实时性与准确性
两大协同分析模式
模式一:检相同目标(保留机制)
适用场景:当小模型存在误检,而大模型能准确检出时,系统保留大小模型分析一致的结果,从而提升准确率。
▲模式一:保留
模式二:检不同目标(过滤机制)
适用场景:针对目标相似度高、大小模型均可能误检的情况。通过单独训练一个识别误检目标的大模型,专门用于过滤小模型的误检结果。
注:仅支持在算法应用编排平台中使用。
▲模式二:过滤
三种使用方式
1. 开放能力(下载即用)
提供特定场景的协同包,用户可直接下载使用。
操作流程:定位场景 → 点击导出模型 → 选择应用类型 → 选择模型效果增强算法包
▲开放能力导出大小模型协同包
2. 一站式训练平台(自定义训练)
支持一键训练协同包,可自定义检测及属性标签。
操作流程:在模型训练时,网络选择高性能,并勾选【模型效果增强】。
注:目前支持物体检测模型-矩形标注、混合模型-矩形标注;支持AI超脑-KT2/KT5、AI服务器-KT5、AI摄像机-H9/G10等应用类型。
▲通用算法训练
▲典型应用训练
3. 算法应用编排平台(灵活定制)
需手动配置,支持灵活定制算法。用户可按需选择大小模型协作模式及参与大模型二次分析的标签。
操作流程:选择小模型 → 选择大模型 → 配置大小模型协同关系 → 在线测试(可选) → 导出使用
▲上下滑动,查看操作流程
两种部署方案
方式一:导入模型效果增强包
操作流程:导入模型效果增强包 → 分配引擎资源 → 选择分析模式 → 配置IED分析规则 → 检查是否已启用二次分析去误报
▲上下滑动,查看操作流程
方式二:分别导入大模型和小模型
操作流程:导入小模型、大模型 → 配置用于二次分析的引擎资源 → 勾选所需关联的小模型 → 配置二次分析目标属性 → 完成小模型任务配置 → 启用二次分析去误报
▲上下滑动,查看操作流程
【AI开放平台】大小模型协同分析,欢迎前往体验。

