本文聚焦微软首席执行官萨提亚·纳德拉关于企业AI应用安全与整合策略的最新观点。
微软首席执行官萨提亚·纳德拉 / 图片来源:微软
人工智能技术的迭代速度已超越多数企业的适应能力。微软CEO纳德拉警告称,长期运行的AI程序正演变为新型内部安全威胁,迫使企业必须严格限制其访问权限。除安全风险外,组织还需彻底重塑工作流以发挥技术效用,并建议通过组合开源模型避免被单一昂贵供应商锁定。
实施隔离措施管控AI内部风险
纳德拉指出,长期运行的AI代理已成为新的内部风险源,需采取主动监控机制。为缓解此类威胁,安全团队应将AI代理安全纳入软件发布检查流程:
- 环境隔离:在企业正式发布前,必须在沙箱环境中对工具进行充分测试。
- 权限最小化:严格限制系统密码及网络访问权限,仅保留特定任务所需的最低配置。
- 行为链监控:持续追踪AI活动轨迹,及时发现链接漏洞或未经授权的数据访问行为。
应对“模型过剩”深化工作流整合
尽管安全协议能保障发布合规,但企业在落地应用时仍面临整合瓶颈。纳德拉坦言当前存在“模型过剩”现象,即模型性能虽优,但全面扩散仍需时间。主要障碍包括:
- 变革管理滞后:员工工作流压缩与重构难度大,导致技术采用率停滞。
- 数据连接缺失:只有将专有数据库与新工具深度打通,才能显现实际财务回报。
- 生态闭环未成:如编码智能体等软件,唯有与文件系统形成完整闭环方能获得广泛关注。
利用开源经济学保持供应商独立性
鉴于部署效果依赖于工作流集成,企业应避免因供应商锁定而损害利润率。软件构建者需通过提升运营灵活性来维持谈判能力并控制成本:
- 引入开源模型作为制衡闭源价格上涨的财务手段。
- 确保核心专有数据不滞留于第三方提供商系统中。
- 构建跨平台兼容的任务管理中间件。
建议企业进行压力测试:尝试移除某一主要模型,验证是否仍能保留对业务至关重要的评估结果。
行业现状与挑战
- 影子AI增速超安全措施:数据显示13%的组织遭遇过AI相关数据泄露,其中97%缺乏适当的AI访问控制。由于缺乏资产可见性,基础安全检查失效,未受管工具导致攻击面完全暴露。
- 集成成本致项目夭折:近90%受访者定期使用AI,但因嵌入深度不足难见实效。预计至2027年底,超40%的智能体AI项目将被取消,主因在于成本攀升、价值模糊及风控不力。
- 基础设施锁定替代模型锁定:模型可移植性无法保障利润。84%的组织面临云支出困难,72%积极使用公共云生成式AI服务。真正的开放性取决于许可与互操作性,企业往往摆脱模型锁定后,又陷入专有云设施与数据管道的陷阱。

