大数跨境

大模型那么强,为什么还需要小模型?一篇搞懂大小模型协同分析

大模型那么强,为什么还需要小模型?一篇搞懂大小模型协同分析 海康威视AI开放平台
2026-10-22
5
导读:大模型+小模型,1+1>2的智能新范式


在大模型能力日益强大的背景下,为何仍需小模型?本文将解析“大小模型协同分析”这一智能新范式,揭示其如何实现1+1>2的效果。


什么是大小模型协同分析?

✔ 核心机制:优势互补,双重校验

该方案通过将小模型的快速分析结果提交给大模型进行二次复核,充分发挥两者优势。小模型负责初步筛选,大模型负责精准研判。

▲大小模型协同分析作用机制

解决的核心痛点


单一小模型分析:虽然速度快,但误报率较高。


单一一大模型分析:算力需求高、资源消耗大,难以满足业务实时性要求。

✔ 协同优势:兼顾实时性与准确性

两大协同分析模式

模式一:检相同目标(保留机制)

适用场景:当小模型存在误检,而大模型能准确检出时,系统保留大小模型分析一致的结果,从而提升准确率。

▲模式一:保留

模式二:检不同目标(过滤机制)

适用场景:针对目标相似度高、大小模型均可能误检的情况。通过单独训练一个识别误检目标的大模型,专门用于过滤小模型的误检结果。

注:仅支持在算法应用编排平台中使用。

▲模式二:过滤

三种使用方式

1. 开放能力(下载即用)

提供特定场景的协同包,用户可直接下载使用。

操作流程:定位场景 → 点击导出模型 → 选择应用类型 → 选择模型效果增强算法包

▲开放能力导出大小模型协同包

2. 一站式训练平台(自定义训练)

支持一键训练协同包,可自定义检测及属性标签。

操作流程:在模型训练时,网络选择高性能,并勾选【模型效果增强】。

注:目前支持物体检测模型-矩形标注、混合模型-矩形标注;支持AI超脑-KT2/KT5、AI服务器-KT5、AI摄像机-H9/G10等应用类型。

▲通用算法训练

▲典型应用训练

3. 算法应用编排平台(灵活定制)

需手动配置,支持灵活定制算法。用户可按需选择大小模型协作模式及参与大模型二次分析的标签。

操作流程:选择小模型 → 选择大模型 → 配置大小模型协同关系 → 在线测试(可选) → 导出使用

▲上下滑动,查看操作流程

两种部署方案

方式一:导入模型效果增强包

操作流程:导入模型效果增强包 → 分配引擎资源 → 选择分析模式 → 配置IED分析规则 → 检查是否已启用二次分析去误报

▲上下滑动,查看操作流程

方式二:分别导入大模型和小模型

操作流程:导入小模型、大模型 → 配置用于二次分析的引擎资源 → 勾选所需关联的小模型 → 配置二次分析目标属性 → 完成小模型任务配置 → 启用二次分析去误报

▲上下滑动,查看操作流程


【AI开放平台】大小模型协同分析,欢迎前往体验。


【声明】内容源于网络
0
0
海康威视AI开放平台
1234
内容 133
粉丝 0
海康威视AI开放平台 1234
总阅读3.2k
粉丝0
内容133