云晓春院士:聚焦AI供应链动态风险 构建全周期可信安全体系

新黄河
 来自山东省

9月14日,2026年国家网络安全宣传周在山东国际会展中心开幕。在网络安全技术高峰论坛主论坛上,中关村实验室首席科学家、中国工程院院士云晓春围绕AI供应链安全形势及挑战发表主旨观点。

云晓春指出,AI供应链安全的对象是持续变化的系统行为。它不但要保证组件可信,还要保证过程可信,行为可信。传统的清单式供应链治理主要回答了“装了什么”,AI治理还必须回答为何这样行动,何时发生变化,后果是否可控。我们知道AI供应链覆盖七类相互依赖的资产,数据、模型、软件、算力、平台、工具、服务,任何一类资产的来源都可能改变最终模型的安全、合规和业务表现。

相比于传统的软件供应链,云晓春认为,AI供应链多出三类动态风险。第一类是在数据的层面,数据的输入是可塑造整个AI行为的,数据的来源、分布、标注不仅影响了质量,还可能嵌入偏差、后门与合规风险。

第二个是模型,模型的组件我们说具有涌现行为,权重、适配器、检索内容这些组合可能会产生不可预期的涌现行为,所以我们单独运用单一的版本号来描述供应链是不够的。

第三个是AI的供应链在运营时会发生变化,策略和供应商的更新可在重新构造、重塑应用的情况下,改变这个结果。

因此AI的构建不是一次构建,一次验收,是持续的配置和行为的管理。

最后,他指出,AI供应链安全,最重要的是在于证明可信依赖能够产生可信结果,我们需要看见完整链条,要绑定可验证的证据,随时准备变化与退出。最后一项是清单让供应链可见,来源让制品可信,评测让行为可知,韧性让依赖可控。

记者:孙墨琦 摄影:王锋 编辑:曹梦佳 校对:刘恬

热点新闻