大数跨境

报名开启丨《AI智能体应用安全分级》规范研讨会即将召开

报名开启丨《AI智能体应用安全分级》规范研讨会即将召开 人工智能产业发展联盟AIIA
2026-03-30
6
导读:4月7日前,欢迎意向单位或个人报名参会

目前,以OpenClaw、 WorkBuddy、 Coze、 GLM Agent、CodeBuddy、Kimi Agent等为代表的 AI 智能体工具快速进入公众视野,桌面智能体、端侧智能体、云端 SaaS 等多形态智能体产品密集上线,应用于办公自动化、代码生成、智能助手、企业协作、数据分析、流程自动化等场景,大幅提升生产效率与用户体验。但AI 智能体因具备自主规划、外部工具调用、插件接入、环境交互、长流程执行、本地系统操作等能力,安全风险显著高于传统 AI 应用,工具劫持、越权操作、隐私泄露、行为不可控、本地文件篡改等问题频发,行业亟需统一、可落地的安全分级标准开展能力评估。

为规范 AI 智能体应用安全能力、明确安全等级、引导产业健康发展,促进行业自律,中国人工智能产业发展联盟(AIIA)安全治理委员会启动《AI 智能体应用安全分级》规范编写工作,目前已经形成初稿,现诚邀相关专家参与讨论,广泛汇聚产学研用各方意见,完善规范内容,加快推进编制与落地工作。


核心内容


聚焦AI 智能体应用安全分级方法,建立多维度综合评估体系,最终给出1星—5星安全评级(5星为最高安全等级),覆盖当前主流智能体产品与典型应用场景。核心评估维度如下:

(1)智能体基础模型安全性:底层大模型鲁棒性、抗攻击能力、安全对齐、漏洞修复与迭代机制;

(2)智能体工具调用安全:API/代码执行/文件操作/网络访问等权限管控、沙箱隔离、恶意调用防护、最小权限执行;

(3)智能体内容安全防控能力:有害内容拦截、提示注入/越狱攻击识别阻断、输入输出安全校验;

(4)智能体场景任务执行可靠性:复杂任务行为可预测、指令遵循准确性、异常监测与紧急中止、人工干预机制;

(5)智能体数据安全管控能力:全链路数据采集/处理/传输/存储合规、隐私保护、数据最小化、脱敏与销毁;

(6)智能体身份认证与访问控制:身份鉴别、用户授权、多智能体协作信任链、操作溯源与审计;

(7)智能体透明度与可解释性:决策可审计、行为日志完整、风险告知、操作可追溯可核验;

(8)智能体运行环境与供应链安全:部署环境加固、第三方组件安全、通信加密、漏洞响应机制;

(9)智能体本地/端侧安全防护:本地文件系统访问控制、端侧数据隔离、离线安全策略、硬件级安全防护;

(10)智能体多智能体协同安全:跨智能体通信安全、权限边界、协作流程审计、联合决策风险管控。


参会对象


(1)高等院校、科研院所:人工智能安全、网络安全、可信AI等领域研究团队与专家;

(2)科技企业与AI智能体厂商;

(3)重点行业用户:金融、医疗、政务、教育、企业服务等AI应用建设单位;

(4)标准化组织与行业协会:人工智能、网络安全领域标准化相关机构。


参与方式


请有意参会单位/个人于2026年4月7日前,扫描下方二维码填报信息,会议时间另行通知:


联系人


陈老师  13661070401(同微信)

陈老师  18500022046(同微信)



【声明】内容源于网络
0
0
人工智能产业发展联盟AIIA
中国人工智能产业发展联盟(简称AIIA)是在国家发改委、科技部、工信部、网信办指导下,由中国信息通信研究院等单位发起的行业组织,立足于搭建全球化的人工智能生态合作平台,支撑政府决策,推进技术创新与应用落地,促进我国人工智能产业有序发展。
内容 124
粉丝 0
人工智能产业发展联盟AIIA 中国人工智能产业发展联盟(简称AIIA)是在国家发改委、科技部、工信部、网信办指导下,由中国信息通信研究院等单位发起的行业组织,立足于搭建全球化的人工智能生态合作平台,支撑政府决策,推进技术创新与应用落地,促进我国人工智能产业有序发展。
总阅读2.0k
粉丝0
内容124