大数跨境

云晓春:AI供应链多出三类动态风险

云晓春:AI供应链多出三类动态风险 人工智能行动信息港AI HUB
2026-09-15
6
导读:9月14日,2026年国家网络安全宣传周在山东国际会展中心开幕。
图片

9月14日,2026年国家网络安全宣传周在山东国际会展中心开幕。在网络安全技术高峰论坛主论坛上,中关村实验室首席科学家、中国工程院院士云晓春围绕AI供应链安全形势及挑战发表主旨观点。

云晓春指出,AI供应链安全的对象是持续变化的系统行为。它不但要保证组件可信,还要保证过程可信,行为可信。传统的清单式供应链治理主要回答了“装了什么”,AI治理还必须回答为何这样行动,何时发生变化,后果是否可控。我们知道AI供应链覆盖七类相互依赖的资产,数据、模型、软件、算力、平台、工具服务,任何一类资产的来源都可能改变最终模型的安全、合规和业务表现。

相比于传统的软件供应链,云晓春认为,AI供应链多出三类动态风险。第一类是在数据的层面,数据的输入是可塑造整个AI行为的,数据的来源、分布、标注不仅影响了质量,还可能嵌入偏差、后门与合规风险。

第二个是模型,模型的组件我们说具有涌现行为,权重、适配器、检索内容这些组合可能会产生不可预期的涌现行为,所以我们单独运用单一的版本号来描述供应链是不够的。

第三个是AI的供应链在运营时会发生变化,策略和供应商的更新可在重新构造、重塑应用的情况下,改变这个结果。

因此AI的构建不是一次构建,一次验收,是持续的配置和行为的管理。

最后,他指出,AI供应链安全,最重要的是在于证明可信依赖能够产生可信结果,我们需要看见完整链条,要绑定可验证的证据,随时准备变化与退出。最后一项是清单让供应链可见,来源让制品可信,评测让行为可知,韧性让依赖可控。

以上来源:新黄河,由人工智能行动信息港AI HUB分享阅读

【声明】内容源于网络
0
0
人工智能行动信息港AI HUB
人工智能行动信息港(简称AIHUB)是中国电子信息产业发展研究院响应“人工智能+”行动,由国内AI产业链上下游企业、高校研究机构等发起成立,期望畅通政府与行业间、产业链上下游间、国内与国际间的沟通渠道,共建推动人工智能创新发展的公共平台。
内容 755
粉丝 0
人工智能行动信息港AI HUB 人工智能行动信息港(简称AIHUB)是中国电子信息产业发展研究院响应“人工智能+”行动,由国内AI产业链上下游企业、高校研究机构等发起成立,期望畅通政府与行业间、产业链上下游间、国内与国际间的沟通渠道,共建推动人工智能创新发展的公共平台。
总阅读9.3k
粉丝0
内容755