大数跨境

微软CEO谈AI安全:为何智能体构成内部风险

微软CEO谈AI安全:为何智能体构成内部风险 AI电商圈
2026-09-17
7
导读:本文摘要聚焦于微软首席执行官萨提亚·纳德拉。

本文聚焦微软首席执行官萨提亚·纳德拉关于企业AI应用安全与整合策略的最新观点。

微软首席执行官萨提亚·纳德拉 / 图片来源:微软

人工智能技术的迭代速度已超越多数企业的适应能力。微软CEO纳德拉警告称,长期运行的AI程序正演变为新型内部安全威胁,迫使企业必须严格限制其访问权限。除安全风险外,组织还需彻底重塑工作流以发挥技术效用,并建议通过组合开源模型避免被单一昂贵供应商锁定。

实施隔离措施管控AI内部风险

纳德拉指出,长期运行的AI代理已成为新的内部风险源,需采取主动监控机制。为缓解此类威胁,安全团队应将AI代理安全纳入软件发布检查流程:

  • 环境隔离:在企业正式发布前,必须在沙箱环境中对工具进行充分测试。
  • 权限最小化:严格限制系统密码及网络访问权限,仅保留特定任务所需的最低配置。
  • 行为链监控:持续追踪AI活动轨迹,及时发现链接漏洞或未经授权的数据访问行为。

应对“模型过剩”深化工作流整合

尽管安全协议能保障发布合规,但企业在落地应用时仍面临整合瓶颈。纳德拉坦言当前存在“模型过剩”现象,即模型性能虽优,但全面扩散仍需时间。主要障碍包括:

  • 变革管理滞后:员工工作流压缩与重构难度大,导致技术采用率停滞。
  • 数据连接缺失:只有将专有数据库与新工具深度打通,才能显现实际财务回报。
  • 生态闭环未成:如编码智能体等软件,唯有与文件系统形成完整闭环方能获得广泛关注。

利用开源经济学保持供应商独立性

鉴于部署效果依赖于工作流集成,企业应避免因供应商锁定而损害利润率。软件构建者需通过提升运营灵活性来维持谈判能力并控制成本:

  • 引入开源模型作为制衡闭源价格上涨的财务手段。
  • 确保核心专有数据不滞留于第三方提供商系统中。
  • 构建跨平台兼容的任务管理中间件。

建议企业进行压力测试:尝试移除某一主要模型,验证是否仍能保留对业务至关重要的评估结果。

行业现状与挑战

  • 影子AI增速超安全措施:数据显示13%的组织遭遇过AI相关数据泄露,其中97%缺乏适当的AI访问控制。由于缺乏资产可见性,基础安全检查失效,未受管工具导致攻击面完全暴露。
  • 集成成本致项目夭折:近90%受访者定期使用AI,但因嵌入深度不足难见实效。预计至2027年底,超40%的智能体AI项目将被取消,主因在于成本攀升、价值模糊及风控不力。
  • 基础设施锁定替代模型锁定:模型可移植性无法保障利润。84%的组织面临云支出困难,72%积极使用公共云生成式AI服务。真正的开放性取决于许可与互操作性,企业往往摆脱模型锁定后,又陷入专有云设施与数据管道的陷阱。
【声明】内容源于网络
0
0
AI电商圈
1234
内容 973
粉丝 0
AI电商圈 1234
总阅读7.3k
粉丝0
内容973