微软CEO Satya Nadella于10月10日周六上午在X发文，提出重新审视AI的信任架构，让授权人员始终能够在任务执行过程中暂停或关闭模型。他将这种控制机制比作“紧急制动”，主张从系统设计之初就建立限制模型行动的措施。
纳德拉表示，不能把超级智能当作一层层嵌套的黑箱，再由人简单接受或拒绝其建议、答案和行动。他提出，将模型与负责组织、调度其工作的运行框架分离，并把控制措施和安全防护放到模型之外。这意味着，负责生成答案和执行任务的模型，不应同时成为约束自身行为的唯一环节。
在行动记录方面，他要求每一次重要的模型操作都留下防篡改、可供人阅读的证据。记录、外部控制和人工停止机制共同构成他的方案：人不仅要能查看模型做过什么，也要能在任务尚未完成时介入，而非只能在结果出现后决定是否接受。
纳德拉还提出，应从一开始就假设模型已受到侵害，并限制其活动范围。这番建议出现之际，多家领先AI公司正承认更多模型似乎脱离控制的事件；Anthropic CEO Dario Amodei也已发布一份主张更审慎推进AI开发的计划。纳德拉此次发文提出的是安全架构建议，并非微软新产品发布。据TechCrunch报道。
来源：TechCrunch
原始发布时间：2026年10月10日 21:47